1. Ofcom, el regulador del Reino Unido, planea explorar cómo se puede utilizar la IA para detectar y eliminar contenido ilegal en línea para proteger a los niños, en particular material de abuso sexual infantil.
2. Los niños más pequeños, incluidos los de 3 a 4 años, se conectan cada vez más a Internet, y muchos de ellos poseen teléfonos inteligentes, ven vídeos y utilizan aplicaciones de redes sociales destinadas a usuarios mayores.
3. La investigación destaca la necesidad de mejores herramientas para proteger a los niños en línea, así como la importancia de la comunicación entre padres e hijos con respecto a la seguridad en línea y la exposición a contenido dañino.
La IA es una tecnología que ha generado preocupación sobre un posible uso indebido para actividades fraudulentas y maliciosas en línea. Sin embargo, un regulador del Reino Unido, Ofcom, está investigando cómo se puede utilizar la IA para combatir el contenido malicioso que involucra a niños. Planean lanzar una consulta sobre el uso actual de la inteligencia artificial y otras herramientas automatizadas para detectar y eliminar de manera proactiva contenido ilegal, específicamente para proteger a los niños de material dañino.
La investigación de Ofcom muestra que los niños más pequeños están cada vez más conectados en línea: niños de entre 3 y 4 años ya se conectan a Internet y un número significativo posee sus propios teléfonos inteligentes a una edad temprana. El interés del regulador en las herramientas de IA se centrará en la eficacia con la que se utilizan para filtrar contenidos y proteger a los niños de material nocivo.
Las consultas de Ofcom darán como resultado recomendaciones para que las plataformas evalúen y mejoren sus herramientas para detectar y bloquear contenido dañino. Si bien algunos investigadores y partidarios ven beneficios potenciales en el uso de la IA de esta manera, hay críticos que dudan de la eficacia de la detección de la IA. La investigación también destaca el uso cada vez mayor de dispositivos móviles entre los niños pequeños para diversas actividades en línea, incluidas las redes sociales y los juegos.
Según la investigación de Ofcom, existe una desconexión entre la exposición de los niños a contenido dañino en línea y lo que informan a sus padres. Dado que niños de entre 5 y 7 años utilizan las redes sociales y otras plataformas en línea, aumentan las preocupaciones sobre su seguridad y su capacidad para discernir contenido falso. Los esfuerzos de Ofcom tienen como objetivo abordar estos desafíos y garantizar una mejor protección para los niños en línea.
