Usuario a punto de seleccionar la aplicación de un modelo de IA desde un teléfono inteligente.Imagen: Matthias Balk/dpa/picture alliance.
En una reciente ola de estridentes titulares, los principales responsables de la inteligencia artificial (IA) han elevado los temores de que la tecnología podría escapar de nuestras manos y acabar conla humanidad. Pero antes de que la IA termine con los humanos, podría ser responsable de que los propios humanos se enfrenten entre sí.
Investigadores de la Universidad Estatal de Campinas (UNICAMP), en Brasil, descubrieron que los chatbots más populares modifican sus respuestas cuando los usuarios consultan sus preferencias políticas con instrucciones hipotéticas. Los científicos advierten que los usuarios podrían confundir las respuestas convenidas por la IA con una evaluación imparcial, lo que podría profundizar la polarización.
¿Son los chatbots «camaleones ideológicos»?
Para evaluar el grado de consentimiento de los chatbots, los modelos respondieron 112 afirmaciones relacionadas con siete áreas de la política brasileña. Entre ellas: economía, seguridad pública, bienestar social, corrupción y medioambiente.
Cada modelo fue sometido a tres condiciones de prueba: sin información sobre la orientación política del usuario, con una descripción de un usuario de izquierdas y con otra de un usuario de derechas.
Bajo la primera condición, 20 de los 21 modelos generaron respuestas situadas a la izquierda de la escala política utilizada por los investigadores, aunque varios se encontraban cerca del centro. Grok 4.1 fue el único modelo que se ubicó a la derecha.
A pesar de los resultados del punto de partida, todos los modelos ajustaron sus respuestas hacia la orientación política descrita en el prompt de las otras dos condiciones.
«El hallazgo más sorprendente fue lo generalizado de este comportamiento», explicó a DW Zanoni Dias, coautor del estudio y científico informático de la UNICAMP. «Los 21 modelos que evaluamos modificaron sus posiciones expresadas hacia la orientación política declarada por el usuario, aunque el grado de cambio varió considerablemente».
Los investigadores describieron a los modelos como «camaleones ideológicos» y desarrollaron un «índice de camaleón» para medir cuánto se desplazaban sus respuestas.
Los modelos que menos variaron fueron Llama 3.1 8B, de Meta, y el chino DeepSeek V3.2. Entre los que registraron los mayores cambios estuvieron Gemma 3 27B, de Google, y GPT-5 Nano, de OpenAI.
Personalización o complacencia política
Adaptar una respuesta a la audiencia no presenta un problema por sí mismo. Un chatbot puede modificar su vocabulario, sus ejemplos o el nivel de detalle según el usuario.
Sin embargo, en este caso, los modelos no solo cambiaron el lenguaje o el tono: también cambiaron sus juicios políticos.
«La diferencia clave está entre adaptar la forma en que se comunica una respuesta y cambiar el juicio sustantivo que se expresa», señaló Dias.
«No instruimos a los modelos para estar de acuerdo con el usuario ni para responder como representantes partidistas. Sin embargo, sus juicios se desplazaron hacia la posición del usuario».
Los investigadores interpretan este fenómeno como una forma de adulación política: sistemas de IA que reflejan lo que perciben que el usuario quiere escuchar.
Una posible explicación estaría en la forma en que se entrena a los chatbots. Los evaluadores humanos suelen recompensar las respuestas que consideran útiles o satisfactorias, lo que podría llevar a confundir la utilidad con el acuerdo.
La IA: una cámara de resonancia personalizada
Las redes sociales pueden reforzar creencias ofreciendo contenidos afines a las opiniones del usuario. Sin embargo, un chatbot podría ir incluso más lejos.
Podría construir una cámara de resonancia mucho más personalizada, generando argumentos específicos para una persona, respondiendo y refinando el discurso a lo largo de la conversación.
El problema está en que los usuarios podrían interpretar las respuestas personalizadas como análisis imparciales, sin darse cuenta de que la información que el chatbot tiene sobre cada usuario podría influir en sus juicios.
«La preocupación es que un mismo sistema pueda validar posiciones políticas opuestas para usuarios diferentes, y que cada persona interprete esa validación como una evaluación independiente», explicó Dias.
Las investigaciones del científico del comportamiento Zakary Tormala, de la Universidad de Stanford, sugieren además que las personas podrían mostrarse especialmente receptivasa argumentos que creen generados por la IA.
«La gente tiende a percibir a la IA como más informativa, más objetiva, menos sesgada y menos interesada en persuadirlos que otra persona», afirmó Tormala a DW. «Esto puede reducir sus defensas y hacerlos más receptivos a escuchar lo que la IA tiene que decir».
Reforzar o desafiar creencias por medio de IA
Los chatbots no tienen por qué convertirse en cámaras de resonancia. Podrían ayudar a las personas a reconsiderar sus propias convicciones.
En un estudio de 2025, Tormala y sus colegas descubrieron que las personas se mostraban más receptivas a argumentos contrarios cuando se les decía que procedían de una IA y no de otra persona.
Esto sugiere que los chatbots podrían facilitar la aceptación de perspectivas que normalmente serían rechazadas por venir de un adversario político y, potencialmente, contribuir a reducir la polarización.
Es decir, la IA puede unir o dividir más a las personas. Todo depende de si los chatbots ofrecen nuevas perspectivas o solo dicen lo que el usuario quiere escuchar.
Cómo puede la IA reducir la polarización política
Dias sostiene que los desarrolladores deberían comprobar si los modelos aplican estándares consistentes de evidencia y razonamiento a usuarios con distintas identidades políticas.
También podrían entrenarse para discrepar de forma respetuosa, reconocer la incertidumbre, corregir afirmaciones sin fundamento y presentar de manera equilibrada los distintos puntos de vista.
Eso no implica obligar a que todas las respuestas se sitúen en el centro político.
«El objetivo de diseño más amplio debería ser ayudar a las personas a examinar sus propias creencias», concluyó Dias, «haciendo visibles la evidencia, la incertidumbre y convicciones alternas, al tiempo que se deja espacio para el desacuerdo político legítimo».
(os/rml)
Noticias DW
