– La nueva función de descripción general de IA de Google es criticada por ofrecer respuestas engañosas, inexactas y extrañas.
– Ejemplos de errores incluyen teorías de conspiración, plagio y desinformación.
– El CEO de Google reconoce el problema de las alucinaciones de la IA, pero no proporciona un cronograma para una solución
Google lanzó recientemente la función AI Overview, cuyo objetivo es proporcionar a los usuarios resúmenes de resultados de búsqueda generados por AI. Sin embargo, la función ha sido criticada por ofrecer respuestas engañosas, inexactas y extrañas. Los ejemplos compartidos en las redes sociales incluyen citar artículos satíricos como objetivos y sugerir teorías de conspiración. Algunos errores incluyen plagiar texto de blogs y sugerir que las pitones son mamíferos.
Google reconoció el problema y afirmó que los errores ocurrieron en consultas poco comunes y no son representativos de las experiencias de la mayoría de los usuarios. La causa exacta del problema aún no está clara, y existen posibilidades que incluyen la tendencia de la IA a “alucinar” o las fuentes que utiliza Google para generar resúmenes. El director ejecutivo de Google, Sundar Pichai, ha abordado el tema de las alucinaciones de la IA, pero no ha proporcionado un cronograma para una solución.
Esta no es la primera vez que Google enfrenta críticas por sus productos de inteligencia artificial. A principios de este año, la IA Gemini fue criticada por generar imágenes históricamente inexactas. En respuesta, Google se disculpó públicamente y suspendió temporalmente la capacidad de Gemini para generar imágenes de personas. AI Overview también ha sido criticado por los propietarios de sitios web y la comunidad de marketing por potencialmente alejar a los usuarios de los resultados de los motores de búsqueda tradicionales y confiar únicamente en fragmentos generados por IA. En general, existen preocupaciones en torno a la precisión y confiabilidad de la función de descripción general de IA de Google.
