– Microsoft prohíbe a los departamentos de policía de EE. UU. utilizar IA generativa a través del servicio Azure OpenAI
– Nuevos términos prohíben la tecnología de reconocimiento facial en cámaras móviles para identificación en entornos no controlados
– La prohibición no se aplica a la policía internacional ni al reconocimiento facial con cámaras fijas en entornos controlados.
Microsoft actualizó recientemente su política para evitar que los departamentos de policía de EE. UU. utilicen IA generativa a través del servicio Azure OpenAI. Los términos de servicio actualizados prohíben explícitamente las integraciones con agencias policiales en los EE. UU., así como a nivel mundial, para el uso de modelos de análisis de texto y voz. Estos cambios se realizaron tras el anuncio de un nuevo producto de Axon que utiliza el modelo de texto generativo GPT-4 de OpenAI, lo que genera preocupaciones sobre posibles problemas como alucinaciones y prejuicios raciales.
Los términos actualizados no prohíben por completo el uso del servicio Azure OpenAI por parte de las fuerzas del orden a nivel internacional ni la tecnología de reconocimiento facial en entornos controlados. Esto se alinea con el enfoque reciente de Microsoft y OpenAI hacia los contratos de defensa y aplicación de la ley relacionados con la IA. OpenAI había restringido previamente el uso de sus modelos para el reconocimiento facial, pero no está claro el alcance del uso de GPT-4 por parte de Axon a través del servicio Azure OpenAI.
Microsoft ha estado buscando activamente contratos gubernamentales para su servicio Azure OpenAI, incluido el trabajo con el Pentágono en capacidades de ciberseguridad. El servicio estuvo disponible recientemente en el producto Azure Government de Microsoft, con características adicionales para apoyar a las agencias gubernamentales, incluidas las fuerzas del orden. La división de Microsoft centrada en el gobierno ha declarado que el servicio se presentará para obtener autorización adicional del Departamento de Defensa para apoyar las misiones del Departamento de Defensa. Las solicitudes de comentarios de Microsoft y OpenAI aún no han sido respondidas.
