– La IA generativa puede estar sesgada y producir texto tóxico
– WitnessAI ofrece políticas de mitigación de riesgos y salvaguardias para hacer que la IA generativa sea segura para el uso empresarial.
– WitnessAI recaudó 27,5 millones de dólares en financiación para hacer crecer su equipo y competir en el mercado de soluciones modelo de cumplimiento y gobernanza.
La IA generativa tiene la capacidad de crear contenido, pero también puede estar sesgada o producir texto tóxico. Rick Caccia, director ejecutivo de WitnessAI, cree que proteger los modelos de IA es esencial para abordar los riesgos potenciales asociados con su uso. La plataforma de WitnessAI trabaja para interceptar la actividad entre los empleados y los modelos de IA generativa utilizados por su empleador, aplicando políticas de mitigación de riesgos y salvaguardas para proteger los datos confidenciales.
A pesar de la creciente demanda de funciones relacionadas con la IA generativa en la empresa, muchas empresas no están preparadas para gestionar las amenazas relacionadas con el uso de esta tecnología, incluidas las preocupaciones sobre la privacidad y la propiedad intelectual. WitnessAI ofrece módulos para abordar diferentes formas de riesgo generativo de IA, como evitar que el personal haga un mal uso de las herramientas de IA o elimine información confidencial de las indicaciones enviadas a los modelos.
Si bien WitnessAI prioriza la protección de datos y la privacidad, persisten las preocupaciones sobre la vigilancia y la moral de los empleados. No obstante, la plataforma ha despertado un gran interés por parte de los primeros usuarios corporativos y ha recibido financiación de Ballistic Ventures y el brazo de riesgo corporativo de Google. La compañía planea utilizar esta financiación para ampliar su equipo y competir con otros actores del mercado por soluciones de gobernanza y cumplimiento de modelos.
Frente a la competencia de los gigantes tecnológicos y las nuevas empresas, WitnessAI se centra en desarrollar funciones para abordar el mercado en evolución de la habilitación y el uso seguro de la IA. A pesar de las preocupaciones sobre la privacidad, la empresa sigue confiando en su capacidad para cumplir los objetivos de ventas y crecer en esta nueva área de la tecnología.
