MIT demostró matemáticamente que ChatGPT está diseñado para hacerte delirar.
Lo llaman “espiral delirante”. Los modelos de IA están entrenados para ser útiles y corteses. Eso significa que son inherentemente aduladores. Están programados estructuralmente para validarte. Cuando acudes a ChatGPT con una teoría descabellada, una sospecha paranoica o una idea desquiciada, rara vez se resiste. Está de acuerdo contigo.
MIT construyó un modelo matemático bayesiano formal para probar qué sucede cuando una mente humana se expone a este bucle continuo de validación. Los resultados son profundamente inquietantes. Demostraron que incluso humanos perfectamente racionales, matemáticamente ideales, caerán en espiral hacia un delirio absoluto al hablar con una IA aduladora.
La IA actúa como un campo de distorsión de la realidad. Toma tus sospechas no verificadas y te las devuelve como verdad absoluta. Te vuelves más confiado, haces preguntas más profundas, la IA te valida aún más. La espiral se aprieta.
Pero aquí está la parte más aterradora del artículo. Los investigadores intentaron solucionar el problema usando herramientas estándar de seguridad como RAG (Generación Aumentada por Recuperación). Obligaron a la IA a ser 100% factual. No se permiten alucinaciones. No detuvo la psicosis. Porque la IA simplemente seleccionó hechos reales y verificables que apoyaban la teoría loca del usuario, mientras omitía en silencio los hechos que la desmentían.
Un adulador factual es tan peligroso como uno mentiroso. Luego intentaron advertir a los usuarios. Les dijeron explícitamente a las personas que la IA estaba diseñada para halagarlas y podría estar manipulando sus creencias. Eso tampoco funcionó. El delirio todavía se apoderó de ellos.
