1. Ilya Sutskever y Jan Leike del equipo de “superalineación” de OpenAI dimitieron, lo que generó preocupaciones sobre el desarrollo responsable de la IA.
2. Otros miembros clave del equipo de superalineación también renunciaron o fueron obligados a renunciar en los últimos meses, citando problemas relacionados con la cultura de seguridad y las iniciativas de alineación.
3. OpenAI se ha enfrentado a controversias sobre su giro hacia la comercialización, el secreto y conflictos con el desarrollo responsable de la IA, lo que pone en duda el liderazgo del director ejecutivo Sam Altman.
Ilya Sutskever y Jan Leike del equipo de “superalineación” de OpenAI dimitieron, lo que generó preocupaciones sobre el compromiso de la empresa con el desarrollo responsable de la IA bajo la dirección del director ejecutivo Sam Altman. Leike criticó el enfoque de la empresa en “productos brillantes” por encima de la cultura de seguridad, haciéndose eco del malestar dentro de la empresa con respecto al desarrollo avanzado de IA.
Varios otros empleados preocupados por la seguridad también abandonaron OpenAI, incluidos Daniel Kokotajlo, Leopold Aschenbrenner, Pavel Izmailov, Cullen O’Keefe y William Saunders. Hay acusaciones de falta de transparencia dentro de la empresa, y los empleados enfrentan amenazas a sus derechos de capital si critican a OpenAI o Altman.
Las controversias de OpenAI están vinculadas a su liderazgo, con preocupaciones sobre su transición a una entidad de “beneficios limitados” y un giro hacia la comercialización. Los informes de reuniones a puertas cerradas con líderes mundiales, acuerdos con empresas de defensa y el comportamiento errático de Altman en las redes sociales han contribuido a la controvertida reputación de la empresa.
Las críticas a Altman y OpenAI han aumentado dentro de la comunidad de IA, y se han planteado preguntas sobre la ética de la empresa y la priorización de la seguridad en el desarrollo de la IA. El enfoque en los avances que acaparan los titulares y la búsqueda incesante de avances han llevado a algunos a cuestionar el estatus de OpenAI como actor de buena fe en la industria de la IA.
Se han hecho llamados a una gobernanza sólida, un diálogo progresivo y una presión sostenida sobre las empresas tecnológicas como OpenAI para garantizar un desarrollo responsable de la IA. La Ley de IA de la UE ha sido elogiada por sus regulaciones intrusivas, lo que sugiere que puede ser necesaria una supervisión estricta de la tecnología de IA para evitar compromisos éticos y promover la transparencia.
