1. Se está haciendo una demostración de la tecnología de inteligencia artificial de Google para escanear llamadas de voz en tiempo real en busca de estafas financieras, lo que genera preocupaciones sobre privacidad y seguridad entre los expertos.
2. La característica, impulsada por el modelo Gemini Nano AI de Google, es el escaneo del lado del cliente que podría allanar el camino para la censura centralizada una vez integrada en la infraestructura móvil.
3. Los expertos europeos en privacidad advierten que la función antiestafa de Google podría llevar a la vigilancia social y a la manipulación de funciones, generando riesgos potenciales para controlar el comportamiento social mediante el uso de IA.
La demostración de Google del uso de tecnología de inteligencia artificial generativa para escanear llamadas de voz en tiempo real en busca de estafas financieras ha generado preocupación entre los expertos en privacidad y seguridad sobre el potencial de una censura centralizada. Está previsto que la función, impulsada por los modelos Gemini Nano AI, se integre en una versión futura del sistema operativo Android. Esta tecnología de escaneo del lado del cliente ha sido controvertida en el pasado en relación con la detección de actividades ilegales como material de abuso sexual infantil.
Algunos expertos, como Meredith Whittaker de Signal y Matthew Green de Johns Hopkins, advierten que esta tecnología podría allanar el camino para un escaneo generalizado de contenidos basado en una variedad de criterios, lo que podría conducir a una censura por defecto. Los expertos en privacidad en Europa están particularmente preocupados por las implicaciones de dicha tecnología.
Lukasz Olejnik, consultor de privacidad y seguridad, acoge con agrado la función antiestafa demostrada por Google, pero advierte que la infraestructura podría reutilizarse para vigilancia social, lo que representa una amenaza a la privacidad y las libertades fundamentales. Destaca el potencial de la IA integrada en el software para controlar el comportamiento humano y plantea cuestiones sobre la gobernanza y la supervisión en el desarrollo de dichas capacidades.
Michael Veale, un experto en derecho tecnológico, advierte sobre una posible alteración de funciones resultante de la inteligencia artificial de escaneo de conversaciones de Google, que podría conducir a un escaneo del lado del cliente en el dispositivo para múltiples propósitos. La propuesta legislativa de escaneo de mensajes de la UE también ha generado preocupaciones sobre la erosión de los derechos democráticos debido a los posibles requisitos para que las plataformas escaneen mensajes privados de forma predeterminada. Los críticos argumentan que las tecnologías de escaneo del lado del cliente que puedan implementarse podrían generar numerosos falsos positivos y otras vulnerabilidades.
Google aún tiene que responder a las preocupaciones sobre las implicaciones de privacidad de su inteligencia artificial para escanear conversaciones.
