– Metaprueba del chatbot de IA en India en WhatsApp, Instagram y Messenger
– Empresa que bloquea consultas específicas relacionadas con las elecciones en la fase de prueba del chatbot
– Metatrabajo para mejorar el sistema de respuesta de IA y restringir ciertas palabras clave para mayor precisión.
La semana pasada, Meta comenzó a probar su chatbot de IA en India en WhatsApp, Instagram y Messenger. Sin embargo, con el inicio de las elecciones generales indias, la empresa ya está bloqueando consultas específicas relacionadas con las elecciones en su chatbot. Meta confirmó que está restringiendo ciertas palabras clave relacionadas con las elecciones para la IA en la fase de prueba y está trabajando para mejorar el sistema de respuesta de la IA.
Los críticos han expresado su preocupación de que la IA generativa, como el chatbot de Meta, pueda proporcionar información engañosa o falsa a los usuarios, impactando el proceso democrático. En respuesta a estas preocupaciones, Meta está restringiendo de manera proactiva el alcance de sus servicios de inteligencia artificial generativa y bloqueando ciertas consultas relacionadas con las elecciones. Google también ha comenzado a bloquear consultas relacionadas con las elecciones en su experiencia de chatbot Gemini en India y otros mercados con las próximas elecciones.
El enfoque de Meta para manejar las consultas de GenAI implica redirigir a los usuarios al sitio web de la Comisión Electoral cuando se mencionan términos específicos relacionados con las elecciones. Si bien las respuestas a los nombres de los partidos no están estrictamente bloqueadas, las consultas que contienen los nombres de los candidatos o ciertos términos pueden recibir una respuesta de redireccionamiento.
La compañía lanzó recientemente un nuevo chatbot Meta AI impulsado por Llama 3 en varios países, excepto India. Meta declaró que el chatbot permanecerá en la fase de prueba en India por ahora y que está aprendiendo de las pruebas de usuarios en el país. Actualmente, Meta AI no está bloqueando consultas relacionadas con las elecciones para términos relacionados con EE. UU., pero aún no está claro si se implementarán restricciones durante las elecciones de EE. UU. o en otros mercados.
