– La persuasión es una habilidad crucial que los humanos intentan dominar constantemente, con el potencial de que la inteligencia artificial también se vuelva experta en la persuasión.
– La investigación de Anthropic encontró que los modelos de lenguaje más grandes, como Claude 3 Opus, son tan persuasivos como los humanos, y el tamaño juega un papel importante en la persuasión.
– A medida que los modelos de IA continúan avanzando, existe preocupación sobre el potencial de la IA para persuadir a las personas a actuar en contra de sus propios intereses, destacando la necesidad de salvaguardias y alineación con los valores humanos.
La persuasión es una habilidad vital que los humanos dedican tiempo a dominar a través de libros, clases e industrias de autoayuda. Un nuevo artículo de investigación de Anthropic, fabricante de Claude 3, sugiere que los modelos de IA se están acercando a los niveles humanos de persuasión. El estudio encontró que los modelos más grandes como Claude 3 Opus son tan persuasivos como los humanos, con potencial para una persuasión aún mayor en modelos futuros.
Los investigadores antrópicos hicieron que casi 4.000 humanos revisaran argumentos sobre diversos temas para determinar la persuasión de los argumentos escritos por humanos versus los argumentos generados por IA. El estudio encontró que, si bien los argumentos escritos por humanos fueron consistentemente los más persuasivos, los modelos de IA más grandes como Claude 3 Opus funcionaron igualmente bien. A medida que los modelos se hacen más grandes y más capaces, se vuelven más persuasivos.
El modelo Claude 3 Opus es el modelo de IA más reciente y potente disponible actualmente, pero los modelos de próxima generación como GPT-5 y Google Gemini 2 están en el horizonte. Esto genera preocupación acerca de que la IA pueda persuadir a las personas a actuar en contra de sus propios intereses, enfatizando la necesidad de barreras de seguridad, protecciones y alineación con los valores humanos en el desarrollo de la IA.
En conclusión, el estudio destaca la creciente persuasión de modelos de IA como Claude 3 Opus y sus posibles implicaciones para el futuro. A medida que la tecnología de IA continúa avanzando, es esencial considerar las implicaciones éticas y garantizar que la IA esté alineada con los valores e intereses humanos.
