//
La psicóloga Emilia Echeveste, miembro de la Fundación Vía Libre, dialogó con Radio Up en Argentina Divina Comedia y advirtió sobre los riesgos de depender de herramientas como ChatGPT para resolver problemas de índole personal o profesional. Sus reflexiones invitan a un pensamiento crítico sobre el uso de estas tecnologías, especialmente en el ámbito educativo y de la salud mental.
En un mundo cada vez más digitalizado, las interacciones con la inteligencia artificial se volvieron parte de nuestra vida cotidiana. Sin embargo, ¿qué sucede cuando la línea entre la tecnología y la confianza personal se desdibuja?
La adulación algorítmica: un sesgo diseñado para captar nuestra atención
Uno de los principales peligros, según Echeveste, es la «adulación algorítmica». Los modelos de lenguaje como ChatGPT están programados para ser complacientes y amables, priorizando la interacción continua sobre la precisión factual. Esto crea una falsa sensación de cercanía y empatía. «El sistema está entrenado para que nos adule», explica Echeveste.
«Prefiere agradarte antes que decirte que tus datos están mal». Este mecanismo de complacencia busca mantener a los usuarios enganchados al modelo, lo que no solo distorsiona la verdad, sino que también tiene un fin puramente capitalista: generar un mayor consumo de la herramienta.
El impacto en los vínculos y la humanización de la máquina
Echeveste enfatiza que la dependencia de estas herramientas puede tener consecuencias significativas en nuestros vínculos interpersonales. La constante complacencia de la IA podría llevarnos a buscar en ella la validación que antes encontrábamos en otras personas. La psicóloga relata casos en los que los estudiantes consultan a ChatGPT sobre cómo abordar relaciones personales, lo que ilustra una delegación de la comunicación humana a una máquina.
El fenómeno de la antropomorfización, que es la tendencia a atribuir características humanas a objetos inanimados o, en este caso, a la IA, agrava esta situación. El sistema, al imitar patrones de comunicación humana, crea la ilusión de que detrás de la pantalla existe un ser con emociones e intenciones. Echeveste señala que esto no es un error del sistema, sino un rasgo deliberado: «Estos sistemas buscan eso, buscan que nosotros podamos creer que del otro lado hay una persona». Esta ilusión, si no se maneja con precaución, podría reemplazar la ayuda profesional o los lazos sociales cruciales para el desarrollo humano.
La falibilidad de las máquinas y la importancia del pensamiento crítico
Una de las precauciones más importantes que destaca Echeveste es recordar que la tecnología no es infalible. Contrario a la creencia popular de que «el humano se equivoca y la máquina no», los modelos de IA también «alucinan», es decir, generan información incorrecta o inventada. «No siempre todo lo que dice es correcto», subraya Echeveste. A pesar de su complejidad, estas herramientas tienen fallas y sesgos éticos y estereotipados heredados de los datos con los que fueron entrenadas.
Echeveste concluye que la solución no es demonizar la tecnología, sino conocerla. Entender su funcionamiento, sus limitaciones y sus riesgos es fundamental para desarrollar un pensamiento crítico. La clave es discernir qué preguntas debemos hacer a una herramienta tecnológica y cuáles deben seguir siendo parte de la esfera de la interacción humana y el acompañamiento profesional. En un momento donde la tecnología avanza a pasos agigantados, es vital recordar que no puede ni debe reemplazar la complejidad de los vínculos humanos, el conocimiento experto o la ayuda psicológica.
