1. Los miembros del equipo Superalignment de OpenAI, responsables de desarrollar formas de gobernar la IA superinteligente, renunciaron debido al acceso limitado a los recursos informáticos prometidos y a desacuerdos sobre las prioridades de la empresa.
2. Los cofundadores de OpenAI, Jan Leike e Ilya Sutskever, quienes dirigieron el equipo de Superalignment, renunciaron a la compañía esta semana, citando preocupaciones sobre la falta de enfoque en cuestiones críticas de seguridad y alineación en el desarrollo de la IA.
3. Tras las renuncias, el equipo de Superalignment ya no existirá como un grupo dedicado y su trabajo se integrará en otras divisiones dentro de OpenAI, lo que genera preocupaciones sobre el futuro enfoque de seguridad del desarrollo de IA de la empresa.
Al equipo Superalignment de OpenAI, responsable de gobernar y dirigir los sistemas de IA “superinteligentes”, se le prometió el 20% de los recursos informáticos de la empresa. Sin embargo, las solicitudes de computación a menudo fueron rechazadas, lo que provocó la renuncia de los miembros del equipo, incluido el codirector Jan Leike y el cofundador de OpenAI, Ilya Sutskever. Leike citó desacuerdos con el liderazgo sobre las prioridades de la empresa, incluido centrarse más en los modelos de próxima generación, la seguridad y el impacto social.
El equipo de Superalignment se formó para resolver desafíos técnicos relacionados con el control de la IA superinteligente en un plazo de cuatro años. Publicaron investigaciones sobre seguridad y canalizaron subvenciones a investigadores, pero enfrentaron desafíos cuando los lanzamientos de productos de la empresa tomaron prioridad. A veces se descuidaban los procesos de seguridad en favor del desarrollo de nuevos productos, lo que generaba preocupaciones entre los miembros del equipo sobre la misión de la empresa.
Los conflictos de Sutskever con el director ejecutivo de OpenAI, Sam Altman, sobre la transparencia llevaron a una lucha de poder, y Altman fue destituido temporalmente de su puesto. Sutskever desempeñó un papel crucial en el equipo de Superalignment, defendiendo su trabajo ante los responsables de la toma de decisiones de la empresa. Tras las salidas de Leike y Sutskever, John Schulman se hizo cargo del trabajo del equipo de una manera más distribuida, lo que podría afectar el enfoque en la seguridad en el desarrollo de IA en OpenAI.
