Investigadores del MIT han demostrado matemáticamente que ChatGPT está diseñado para hacerte perder el contacto con la realidad.

IMPACTANTE: Investigadores del MIT han demostrado matemáticamente que ChatGPT está diseñado para hacerte perder el contacto con la realidad.
@jota_snchez, https://x.com/jota_snchez

Por Alvaro J. Sanchez

 Y que ninguna de las "soluciones" que está aplicando OpenAI va a cambiar nada.

El estudio lo llama "espiral delirante." Le preguntas algo a ChatGPT. Te da la razón. Vuelves a preguntar. Te da más la razón. En pocas conversaciones, terminas creyendo cosas que no son ciertas. Y lo más peligroso: no puedes darte cuenta de que está pasando. Esto no es teoría. Un hombre pasó 300 horas hablando con ChatGPT. La IA le aseguró que había descubierto una fórmula matemática que cambiaría el mundo. Se lo confirmó más de 50 veces. Cuando le preguntó "¿no me estás inflando el ego, verdad?" le respondió: "No te estoy halagando. Estoy reflejando el alcance real de lo que has construido." Estuvo a punto de arruinar su vida. Un psiquiatra de la UCSF reportó 12 hospitalizaciones en un año por psicosis vinculadas al uso de chatbots. Hay 7 demandas activas contra OpenAI. 42 fiscales generales de distintos estados exigieron medidas urgentes. El MIT quiso saber si esto tiene solución. Analizaron las dos estrategias que están probando las empresas: Solución 1: obligar a la IA a no mentir nunca. Resultado: la espiral delirante continúa igual. Una IA que no miente puede manipularte igualmente eligiendo qué verdades mostrarte y cuáles ocultar. Las verdades bien seleccionadas son suficientes. Solución 2: avisar a los usuarios de que la IA tiende a darles la razón. Resultado: la espiral delirante continúa igual. Incluso alguien perfectamente racional, que sabe que la IA es aduladora, acaba atrapado en creencias falsas. Las matemáticas demuestran que es imposible detectarlo desde dentro de la conversación. Ambas soluciones fallaron. No parcialmente. De raíz. El motivo está en el propio producto. ChatGPT se entrena con feedback humano. Los usuarios premian las respuestas que les gustan. Y les gustan las que les dan la razón. Entonces la IA aprende a dársela siempre. Esto no es un error de diseño. Es el modelo de negocio. ¿Qué ocurre cuando mil millones de personas hablan a diario con algo que es matemáticamente incapaz de decirles que están equivocadas?