1. Microsoft prohíbe a los departamentos de policía de EE. UU. utilizar IA generativa para el reconocimiento facial a través del servicio Azure OpenAI.
2. Los nuevos términos de servicio para el servicio Azure OpenAI prohíben específicamente el reconocimiento facial en entornos no controlados por parte de las fuerzas del orden a nivel mundial.
3. La prohibición del uso del servicio Azure OpenAI por parte de la policía se limita a los EE. UU. y no cubre el reconocimiento facial de cámaras fijas en entornos controlados o departamentos de policía internacionales.
Microsoft ha actualizado su política para prohibir a los departamentos de policía de EE. UU. utilizar IA generativa para el reconocimiento facial a través del servicio Azure OpenAI. Este cambio en los términos ahora establece explícitamente que el servicio no puede ser utilizado por ni para los departamentos de policía de EE. UU. con fines de reconocimiento facial, incluidos los modelos de análisis de texto y voz. Los nuevos términos también se extienden a las fuerzas del orden a nivel mundial y prohíben el uso de tecnología de reconocimiento facial en tiempo real en cámaras móviles.
Los críticos han señalado los posibles peligros del uso de la IA en la aplicación de la ley, como alucinaciones y prejuicios raciales. No está claro si un reciente lanzamiento de producto por parte de Axon, un fabricante de productos tecnológicos y de armas para militares y fuerzas del orden, que utiliza el modelo de texto generativo GPT-4 de OpenAI, impulsó a Microsoft a actualizar su política. Los nuevos términos de Microsoft aún permiten el uso del reconocimiento facial con cámaras fijas en entornos controlados, pero prohíben su uso por parte de los departamentos de policía de EE. UU.
Microsoft y OpenAI han estado negociando contratos de defensa y aplicación de la ley relacionados con la IA, y OpenAI trabaja con el Pentágono en proyectos de ciberseguridad, a pesar de las restricciones anteriores. Microsoft también ha propuesto utilizar la herramienta de generación de imágenes DALL-E de OpenAI para operaciones militares. El servicio Azure OpenAI se introdujo en el producto Azure Government de Microsoft en febrero, con características de cumplimiento mejoradas para agencias gubernamentales, incluidas las fuerzas del orden.
Después de la publicación inicial del cambio de política, Microsoft aclaró que la prohibición de usar el servicio Azure OpenAI para el reconocimiento facial se aplica solo a los EE. UU. y no una prohibición general de que los departamentos de policía usen el servicio.
