1. La startup de IA Anthropic está cambiando sus políticas para permitir que los menores utilicen aplicaciones de terceros impulsadas por sus sistemas de IA, bajo ciertas medidas de seguridad.
2. Los desarrolladores que utilizan los modelos de IA de Anthropic para aplicaciones dirigidas a menores deben cumplir con las normas de seguridad infantil y privacidad de datos y pueden enfrentar la suspensión de su cuenta por violaciones.
3. Existe una necesidad creciente de directrices sobre el uso de la IA generativa por parte de niños y adolescentes, y organizaciones como la UNESCO impulsan regulaciones gubernamentales en educación.
En un anuncio reciente, la startup de inteligencia artificial Anthropic actualizó sus políticas para permitir que los menores usen aplicaciones impulsadas por sus sistemas generativos de inteligencia artificial, siempre que los desarrolladores de esas aplicaciones implementen ciertas medidas de seguridad. Estas medidas de seguridad incluyen sistemas de verificación de edad, moderación de contenido, recursos educativos sobre el uso seguro de la IA y el cumplimiento de normas de seguridad infantil y privacidad de datos como COPPA.
Anthropic auditará periódicamente las aplicaciones para verificar el cumplimiento de estas medidas de seguridad y podrá suspender o cancelar las cuentas de los desarrolladores que violen repetidamente los requisitos. La empresa tiene como objetivo proporcionar medidas técnicas, como un sistema de avisos de seguridad infantil, para adaptar las experiencias de los productos de IA a los menores.
Este cambio de política fue motivado por los beneficios potenciales de las herramientas de inteligencia artificial para los usuarios más jóvenes, como la preparación de exámenes y el apoyo a tutorías. A medida que los niños y adolescentes recurren cada vez más a herramientas de IA generativa para obtener ayuda con las tareas escolares y los asuntos personales, otros proveedores de IA como Google y OpenAI están explorando más casos de uso centrados en los niños.
A pesar de las preocupaciones sobre las aplicaciones de IA generativa que conducen al plagio y la desinformación, algunas instituciones educativas han revocado las prohibiciones de estas herramientas. Sin embargo, existe un llamado creciente a que se establezcan directrices sobre el uso de la IA generativa por parte de los niños, y organizaciones como la UNESCO instan a los gobiernos a regular su uso en la educación para proteger la privacidad de los usuarios y evitar resultados perjudiciales.