– OpenAI se une al comité directivo de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) para aumentar la transparencia en torno al contenido generado.
– El estándar C2PA permite certificar el contenido digital con metadatos que demuestren su origen, y OpenAI está integrando estos metadatos en sus modelos generativos de IA.
– OpenAI está desarrollando nuevos métodos de procedencia, como marcas de agua para clasificadores de detección de imágenes y audio para identificar imágenes generadas por IA, y también ha lanzado un fondo de resiliencia social para apoyar la educación y la comprensión de la IA.
OpenAI está integrando los metadatos del estándar Coalition for Content Provenance and Authenticity (C2PA) en sus modelos de IA generativa para brindar transparencia en torno al contenido generado. Esta medida tiene como objetivo combatir el posible uso indebido del contenido generado por IA para engañar a los votantes antes de las principales elecciones de este año. OpenAI está incorporando metadatos C2PA en sus últimos modelos, como DALL-E 3 y el próximo modelo de generación de video Sora.
Además de la integración de C2PA, OpenAI está desarrollando nuevos métodos de procedencia, como marcas de agua a prueba de manipulaciones para clasificadores de detección de audio e imágenes para identificar imágenes generadas por IA. La compañía también ha abierto solicitudes para acceder a su clasificador de detección de imágenes DALL-E 3 a través de su Programa de Acceso de Investigadores para permitir investigaciones independientes sobre su eficacia.
OpenAI cree que la acción colectiva de las plataformas, los creadores y los manejadores de contenido es necesaria para garantizar la autenticidad del contenido en la práctica. La compañía se une a Microsoft para lanzar un fondo de resiliencia social de $2 millones para apoyar la educación y la comprensión de la IA, enfatizando la importancia de la colaboración dentro de la industria para mejorar la transparencia en línea.
El esfuerzo de toda la industria para avanzar en la investigación sobre prácticas de autenticidad de contenido es crucial, y OpenAI elogia a sus pares por sus contribuciones. La compañía reconoce que, si bien las soluciones técnicas desempeñan un papel importante en la defensa contra el uso indebido del contenido generado por IA, la autenticidad efectiva del contenido requerirá un esfuerzo colectivo de varias partes interesadas. OpenAI enfatiza la importancia de compartir conocimientos y colaborar para promover la transparencia en el espacio en línea.
