El chatbot que predijo por qué la gente comparte secretos con ChatGPT

A los 60 años que ELIZA ha estado influyendo en la computación y la cultura, las cuentas convencionales lo presentan como el primer ejemplo de lo que ahora llamamos chatbots, uno que podría conversar como psicólogo automatizado. El programa engañosamente sencillo es conocido por "engañar" incluso al secretario que vio que el profesor Joseph Weizenbaum lo creaba. Así va la historia.

Sin embargo, en todos estos relatos, incluso después de todas sus adaptaciones a lenguajes de programación y campos de investigación, en las aulas y en la cultura popular, ha faltado una pieza esencial de la historia: el código fuente del propio programa ELIZA. Nuestro nuevo libro, Inventante ELIZArecupera este código fuente de los archivos del MIT, ofreciendo por primera vez una lectura y discusión atentas de ese código junto con diálogos recientemente descubiertos para los scripts ELIZA más allá de su popular personaje "DOCTOR".

Esta investigación reveló muchas ELIZA: en sus distintas versiones de programa, diseñadas para ejecutar una gran variedad de scripts o personas, construidas con una serie de innovaciones técnicas. Inventante ELIZA pretende corregir y complicar la historia y la influencia de ELIZA explorando las ideas erróneas, las múltiples versiones y el código que falta de ELIZA. En este fragmento del libro, examinamos una de las primeras interacciones de ELIZA, cómo sentó las bases de las relaciones humanas con los ordenadores durante las próximas décadas y cómo el complejo programa sigue hablando del impulso desenfrenado de la industria del IA actual.

Los hombres lo son todos igual.

DE QUÉ MODO

Siempre nos están molestando por algo.

PUEDES PENSAR EN UN EJEMPLO ESPECÍFICO

Bien, mi novio me hizo venir aquí.

TU NOVIO TE HA HECHO VENIR AQUÍ

Dice que estoy deprimido la mayor parte del tiempo.

SIENTO SENTIR QUE ESTÁ DEPRIMIDO

Este diálogo se ha reimpreso innumerables veces y ha inspirado a programadores y escritores a imaginar muchos de los chatbots que siguieron. Sin embargo, cuanto más se inspecciona este diálogo, más preguntas surgen: ¿quién era esa joven? ¿Era una persona real o es la invención del creador de ELIZA, Joseph Weizenbaum? ¿Cómo generó exactamente el sistema ELIZA sus respuestas y cuánto se editaron? ¿Por qué el sistema funcionó tan bien para atraer a gente?

ELIZA, y su personaje "DOCTOR", ayudaron a catalizar una forma de pensar y una ansiedad sobre las relaciones de la gente con los ordenadores. Weizenbaum exploró esto en su libro de 1976 Poder informático y razón humanainvocando críticas filosóficas, sociales y políticas. La única interacción máquina presentada por su programa reveló cómo las nuevas formas de relación hombre-ordenador tendrían efectos profundos que intentó explorar y contestar. Tras ver su recepción pública, Weizenbaum se sorprendió por los vínculos rápidos ya menudo emocionales que la gente formaría con ELIZA, que vio como una "evidencia clara de que la gente conversaba con el ordenador como si se tratara de una persona a la que pudiera abordarse de forma adecuada y útil en términos íntimos". La tendencia a atribuir empatía e invertir sentimientos privados en un ordenador desconcertó a Weizenbaum. Le preocupaba hasta qué punto la gente asociaba la racionalidad con la computación, y atribuía comprensión e inteligencia a los sistemas informáticos en los que no había ninguna.

Esta tendencia se conoció como "efecto ELIZA". En 1991 el término aparecía en los foros online, pero su uso fue anterior a esta aparición durante décadas. La sociólogo Sherry Turkle define "el efecto ELIZA" como "nuestra tendencia más general a tratar los programas informáticos sensibles como más inteligentes de lo que realmente son. Cantidades muy pequeñas de interactividad nos hacen proyectar nuestra propia complejidad sobre el objeto no merecedor". El científico cognitivo e informático Douglas Hofstadter lo describe como "la susceptibilidad de las personas a leer una mayor comprensión de lo que se garantiza en cadenas de símbolos, especialmente palabras, encadenados por ordenadores", que se aplica fácilmente a los sistemas de IA generativa de hoy.

Para entender el poder y la provocación de ELIZA, podemos mirar el famoso reto formulado por el informático Alan Turing en el ensayo "Computing Machinery and Intelligence", en el que Turing planteaba la pregunta "¿Las máquinas pueden pensar?" Turing basó su experimento mental sobre un juego de salón, no sobre tecnología, sino sobre género: un hombre y una mujer se esconden en una habitación separada y un interrogador intenta identificar quién es qué género realizando una serie de preguntas. El hombre intenta engañar al interrogador, haciéndose pasar por una mujer, mientras que la mujer intenta convencer al interrogante de la respuesta "correcta". Es decir, ambas afirman que son la mujer "real", un reto en las nociones esencialistas de género.