1. Las principales empresas de IA acuerdan nuevos compromisos voluntarios de seguridad en la cumbre de IA en Seúl, incluidas Amazon, Google, Meta, Microsoft, OpenAI, xAI y Zhipu AI.
2. Los compromisos incluyen compromisos de no desarrollar ni implementar modelos de IA con riesgos graves, así como publicar métodos para medir y mitigar los riesgos asociados con los modelos de IA.
3. Países como el Reino Unido, EE. UU., la UE y otros establecen una red internacional de institutos de seguridad de IA con respaldo público, con una notable participación de China y debates sobre la seguridad de la IA en curso.
Destacadas empresas de IA aceptaron un nuevo conjunto de compromisos de seguridad anunciados por los gobiernos del Reino Unido y Corea del Sur antes de una cumbre de IA de dos días en Seúl. Dieciséis empresas de tecnología, incluidas Amazon, Google, Meta, Microsoft, OpenAI, xAI y Zhipu AI, han optado por participar en el marco, en representación de regiones de América del Norte, Europa, Oriente Medio y Asia. Estos compromisos incluyen compromisos de no desarrollar ni implementar modelos con riesgos inmanejables, así como un compromiso de medir y mitigar los riesgos asociados con los modelos de IA.
Los nuevos compromisos de seguridad surgen tras las recomendaciones hechas por eminentes investigadores de IA en un artículo publicado en Science, que enfatizaba la supervisión, la honestidad, la solidez, la interpretabilidad y la transparencia, entre otros factores. La vicepresidenta de asuntos globales de OpenAI, Anna Makanju, expresó su apoyo a los compromisos, destacando la importancia de colaborar para garantizar que la IA sea segura y beneficiosa para la humanidad. Michael Sellitto, Jefe de Asuntos Globales de Anthropic, también respaldó los compromisos y enfatizó la importancia del desarrollo y despliegue responsable de la IA.
Estos nuevos compromisos de las empresas de IA reflejan compromisos voluntarios similares asumidos en la Casa Blanca el año pasado para fomentar el desarrollo de tecnología de IA seguro y transparente. Si bien no existe ningún mecanismo para hacer cumplir estos compromisos, se considera que sientan las bases para una posible regulación nacional en el futuro. Es posible que el sentimiento detrás de estos compromisos aún no se alinee con las acciones, pero el establecimiento de una red internacional de “Institutos de Seguridad de la IA” respaldados públicamente por diez países y la UE muestra un progreso hacia la cooperación internacional en la ciencia de la seguridad de la IA. China, a pesar de no ser signatario del acuerdo, ha expresado su voluntad de cooperar en materia de seguridad de la IA y ha participado en conversaciones con Estados Unidos sobre el tema.
