– OpenAI ha lanzado una nueva herramienta de detección de imágenes para identificar imágenes generadas por IA
– La herramienta tiene una precisión del 98% en la detección de imágenes generadas por IA.
– OpenAI también se une al comité directivo del estándar de la Coalición para la procedencia y autenticidad del contenido (C2Pa).
OpenAI ha lanzado una nueva herramienta de detección de imágenes para ayudar a las personas a identificar si una imagen fue generada por su IA o no. La herramienta puede identificar imágenes generadas por IA con una precisión del 98 por ciento y estará disponible para un número limitado de evaluadores. OpenAI también ha reconocido la necesidad de agregar metadatos a las imágenes y videos creados con sus herramientas de inteligencia artificial para combatir los deepfakes, que son contenido generado sintéticamente diseñado para engañar a los usuarios.
Si bien la nueva herramienta de OpenAI es un paso positivo para abordar el problema del contenido fraudulento, no es una solución completa. La herramienta solo ha sido entrenada con imágenes generadas por una herramienta de IA específica, por lo que es posible que no funcione de manera efectiva con imágenes de otros generadores de IA. Los vídeos deepfake, que son más difíciles de detectar, siguen siendo un desafío importante.
La participación de OpenAI en la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) demuestra su compromiso con la lucha contra el contenido falso. Al unirse al comité directivo, OpenAI pretende contribuir al desarrollo de un estándar que certifique la autenticidad del contenido digital. Esta colaboración refleja la importancia de verificar la autenticidad del contenido digital en una época en la que el engaño generado por la IA es una preocupación creciente.
