¿Qué tan persuasiva es la IA? OpenAI y Sam Altman quieren saberlo

Esta semana, Sam Altman, CEO de OpenAI, y Arianna Huffington, fundadora y CEO de la empresa de bienestar Thrive Global, publicaron un artículo en Time promocionando Thrive AI, una startup respaldada por Thrive y el Fondo para Startups de OpenAI. El artículo sugiere que la inteligencia artificial (IA) tendría un enorme impacto positivo en la salud pública, convenciendo a la gente para que adopte un comportamiento más saludable.

Altman y Huffington destacan que Thrive AI está trabajando para crear “un entrenador personal de IA totalmente integrado que ofrezca en tiempo real estímulos y recomendaciones únicos para ti que te permitan actuar sobre tus comportamientos diarios para mejorar tu salud”.

Su visión da un giro positivo a lo que quizá resulte ser uno de los dobles filos más cortantes de la inteligencia artificial. Los modelos de IA ya son expertos en persuadir a la gente, y no sabemos cuánto más poderosos llegarían a ser a medida que avancen y obtengan acceso a más datos personales.

Seguimos esperando el próximo gran salto de la inteligencia artificial

El último modelo de IA Claude de Anthropic supera a sus rivales de OpenAI y Google. Pero los avances en inteligencia artificial han sido últimamente más incrementales que revolucionarios.

Bondades y peligros de una IA convincente

Aleksander Madry, profesor en año sabático del Instituto Tecnológico de Massachusetts, dirige un equipo en OpenAI llamado ‘Preparedness’ que está trabajando precisamente en esa cuestión.

“Una de las líneas de trabajo en Preparedness es la persuasión”, contó Madry a WIRED en una entrevista en mayo. “Básicamente, pensar hasta qué punto es posible usar estos modelos para persuadir a la gente”.

Madry comenta que se sintió atraído a unirse a OpenAI por el notable potencial de los modelos de lenguaje y porque apenas se han estudiado los riesgos que plantean. “Literalmente, casi no hay ciencia [sobre ellos]”, añade. “Ese fue el impulso para el proyecto Preparedness”.

La persuasión es un elemento clave en programas como ChatGPT y uno de los ingredientes que hacen que estos chatbots sean tan convincentes. Los modelos de lenguaje se entrenan con la escritura y el diálogo humanos, que contienen innumerables trucos y técnicas retóricas y persuasivas. Los modelos también suelen ajustarse para que se inclinen por las expresiones que los usuarios consideran más convincentes.

Una investigación publicada en abril por Anthropic, un competidor fundado por exiliados de OpenAI, sugiere que los modelos de lenguaje han mejorado su capacidad de persuadir a la gente a medida que han ido creciendo en tamaño y complejidad. Este estudio consistió en dar a los voluntarios una afirmación y ver cómo un argumento generado por la IA cambiaba su opinión al respecto.

El trabajo de OpenAI se extiende al análisis de la IA en la conversación con los usuarios, algo que facilitaría una mayor capacidad de persuasión. Madry asegura que esto se está llevando a cabo con voluntarios que dan su consentimiento, y declina revelar los resultados obtenidos hasta la fecha. Pero indica que el poder persuasivo de los modelos de lenguaje es enorme. “Como humanos, tenemos la ‘debilidad’ de que si algo se comunica con nosotros en un lenguaje natural, pensamos en ello como si fuera un humano”, destaca, aludiendo a un antropomorfismo que hace que los chatbots parezcan más reales y convincentes.