1. OpenAI ha desarrollado Voice Engine, que permite a los usuarios cargar muestras de voz para generar copias sintéticas de manera responsable.
2. El modelo que impulsa Voice Engine ha estado en desarrollo durante dos años y no está capacitado con los datos del usuario por razones de privacidad.
3. OpenAI está tomando medidas para evitar el uso indebido de Voice Engine, incluidos clones con marcas de agua e involucrando a expertos en evaluación de riesgos.
OpenAI está desarrollando Voice Engine, una expansión de su API de conversión de texto a voz que permite a los usuarios crear copias sintéticas de voces a partir de una muestra de 15 segundos. La empresa tiene como objetivo garantizar una implementación responsable de la tecnología entendiendo dónde puede ser peligrosa e implementando mitigaciones. El modelo que impulsa Voice Engine se ha utilizado en proyectos como podcasts de Spotify, ChatGPT y otras aplicaciones de conversión de texto a voz.
Los datos de capacitación para Voice Engine incluyen una combinación de recursos con licencia y disponibles públicamente. OpenAI enfrenta desafíos legales con respecto a la propiedad intelectual, ya que utiliza material protegido por derechos de autor para entrenar sus modelos de IA. La empresa tiene acuerdos con algunos proveedores de contenidos y permite a los artistas optar por no utilizar su trabajo para formación. Voice Engine tiene un precio agresivo de 15 dólares por millón de caracteres, sin controles para ajustar el tono de voz.
Voice Engine podría revolucionar la industria de los actores de doblaje al proporcionar una alternativa rentable al trabajo de voz humana. OpenAI tiene como objetivo garantizar el uso ético de la tecnología poniendo marcas de agua en las voces clonadas y limitando el acceso a un pequeño grupo de desarrolladores. La empresa también está considerando implementar un mecanismo de seguridad para verificar el conocimiento de los usuarios que utilizan la herramienta. A medida que avanza la etapa de vista previa de Voice Engine, OpenAI planea evaluar los problemas de seguridad de la tecnología y decidir su lanzamiento más amplio en función de los comentarios.
En general, OpenAI se centra en garantizar la implementación responsable y segura de Voice Engine mientras explora su impacto potencial en diversas industrias, incluida la actuación de voz y la tecnología de inteligencia artificial.
