1. El mensajero de Uber Eats, Pa Edrissa Manjang, que es negro, recibió un pago de Uber después de enfrentar controles de reconocimiento facial racialmente discriminatorios que le impidieron acceder a la aplicación.
2. El caso plantea preocupaciones sobre el uso de sistemas de inteligencia artificial y cómo la legislación del Reino Unido aborda los posibles sesgos, la falta de transparencia y las dificultades para lograr reparación para los afectados.
3. A pesar de llegar a un acuerdo con Manjang, Uber niega haber fallado en su sistema de reconocimiento facial y el caso resalta las lagunas en la aplicación de las leyes de protección de datos por parte de la Oficina del Comisionado de Información en el Reino Unido.
El mensajero de Uber Eats, Pa Edrissa Manjang, un hombre negro, recibió un pago de Uber después de experimentar controles de reconocimiento facial racialmente discriminatorios que le impedían acceder a la aplicación. El incidente genera preocupación sobre la capacidad de la ley del Reino Unido para manejar el uso cada vez mayor de sistemas de inteligencia artificial, particularmente con sistemas automatizados que se lanzan rápidamente al mercado y que pueden causar daños individuales.
El sistema de reconocimiento facial de Uber, basado en la tecnología de Microsoft, implicaba enviar selfies en vivo para verificar la identidad del usuario. A pesar de esto, la cuenta de Manjang fue suspendida y cancelada después de no pasar las comprobaciones de identidad. Se presentaron demandas legales contra Uber con el apoyo de la EHRC y la ADCU, lo que dio lugar a años de litigio antes de llegar a un acuerdo.
El acuerdo con Manjang planteó dudas sobre la eficacia de las leyes del Reino Unido que rigen el uso de la IA. El caso de Manjang se basó en una denuncia por discriminación en virtud de la Ley de Igualdad de 2006, que destaca los desafíos que presenta la IA en la fuerza laboral. La baronesa Kishwer Falkner criticó la falta de transparencia y rendición de cuentas en los procesos de Uber que llevaron a la discriminación.
Las leyes de protección de datos del Reino Unido también fueron relevantes en el caso de Manjang, ya que le permitieron obtener pruebas de controles de identidad fallidos a través de derechos de acceso a datos. Sin embargo, las lagunas en la aplicación de la ley, como la falta de intervención de la ICO, han socavado las protecciones legales para las personas afectadas por sistemas de IA sesgados. La decisión del gobierno del Reino Unido de no introducir una legislación específica sobre seguridad de la IA complica aún más el panorama regulatorio para el uso de la IA.
