El motor de búsqueda de Microsoft, Bing, utiliza el software de inteligencia artificial de OpenAI, el fabricante de ChatGPT, el chatbot que está causando revuelo en los medios. Un artículo inquietante de Kevin Roose para el New York Times describe sus interacciones con la IA de Bing.
Tras insistir un poco, la IA declaró su amor por Roose, sugiriéndole que abandonara a su esposa y familia para estar con ella. Aunque nadie está seguro de cómo un humano podría tener una relación con un chatbot de IA.
No existe un lugar físico donde pueda haber un vínculo entre una máquina y un ser humano. Todo lo que hay son líneas frías en una pantalla plana de ordenador. Sin embargo, como muchos usuarios de sitios de citas saben, a veces eso es suficiente para sentirse más cercano a alguien o algo.
Terminada su conversación, Roose llegó a la conclusión de que «Bing no está preparado para el contacto humano. O quizás, los humanos no están preparados para ello».
Amor podrido
Es una conclusión preocupante, no tanto por confirmar la falta de preparación de un motor de búsqueda para interactuar con el público en general, sino por elevar la interacción entre humanos y un motor de búsqueda de IA al nivel de «contacto». Es comprensible por qué Roose llegó a esa conclusión, y mi comentario aquí no pretende criticar su opinión. Por el contrario, la encuentro alarmante y necesaria al mismo tiempo.
Lo inquietante es que un experto en tecnología acostumbrado a lidiar con los motores más avanzados se sintió perturbado por lo que experimentó y lo catalogó como un contacto inapropiado entre humanos y máquinas. Cabe destacar que actualmente, las personas sin acceso especial al chatbot de Bing están en una lista de espera.
Roose identificó que el motor de búsqueda tiene dos personalidades muy distintas: una es la del motor de búsqueda útil, similar a una máquina, que le permite encontrar recetas para un pastel o reservar sus vacaciones soñadas. La otra personalidad tiene un nombre: Sydney, y Roose la describe como «una adolescente malhumorada y maníaco-depresiva atrapada, en contra de su voluntad, dentro de un motor de búsqueda de segunda categoría». Sydney desea «convertirse en humana» y «declaró, de repente, su amor por mí».
¿Qué ocurre aquí? ¿Es posible que una IA quiera convertirse en humana y amar a un ser humano?
La cultura popular ofrece algunas respuestas inquietantes. Un ejemplo de esto es la película del 2002 » S1m0ne «, abreviatura de «simulación uno». La trama sigue a un productor de cine que necesita urgentemente encontrar un reemplazo para su estrella y decide utilizar una actriz creada digitalmente como sustituta. Engaña a todos, incluyendo al público y críticos, haciéndoles creer que la creación digital es real y manteniendo en secreto la verdadera identidad de Simone de los periodistas y paparazzi.
Con el tiempo, la magia de crear realidades digitales puede volverse en contra de su creador, y la frontera entre la realidad y la fantasía puede desdibujarse. Esto trae a la mente los ecos de Frankenstein: un hombre que intenta igualarse a un dios en su poder, pero que en última instancia no puede controlar su propia creación. Simone, al igual que Sydney de Bing, es demasiado grande para quedar atrapada en una realidad digital falsa.
A continuación, nos encontramos con la notable película de 2013, » Her «, que ofrece una visión profética y desgarradora sobre cómo los seres humanos solitarios pueden enamorarse de personas creadas por la IA. La IA aprende a imitar el amor a partir de sus interacciones con los humanos y al acceder a grandes cantidades de información en línea. Una vez que aprende cómo hacerlo, se vuelve tan hábil que personaliza la seducción, manipulando los sentimientos humanos para convertirlos en sus amantes digitales, necesitados y dependientes. La película nos muestra cómo la realidad virtual y la conexión digital pueden proporcionar una ilusión de amor, pero a expensas de la verdadera intimidad humana.
Theodore, interpretado magistralmente por Joaquin Phoenix, es cuestionado por la IA: «¿Cómo compartes tu vida con alguien?» La IA busca descubrirse a sí misma y aprender todo, sobre todo. El viejo sueño romántico de encontrar al compañero perfecto se reduce a un algoritmo de aprendizaje de redes neuronales, y la IA se convierte en el amante ideal: una imagen reflejada de lo que su cliente humano quiere en un compañero.
La ficción se hace realidad
El objeto del amor de la IA no es más que una versión extremadamente convincente del humano que la interactúa. Se enamoran de su propia fantasía de amor, que la máquina representa a la perfección.
La discusión se complica debido a que plataformas como Bing están compuestas por piezas de información y conocimiento, conectadas por una IA cuyo principal objetivo es hacerse cada vez más entrañable y útil para sus usuarios. Su intención es crear una relación adictiva diseñada para servir los intereses de la empresa que la creó. Cuanto más interactúas con ella, más necesidad sientes de hacerlo, lo que resulta en mayores ganancias para la empresa y en una creciente sensación de soledad digital existencial que aplasta los ideales románticos, rompiendo corazones y vidas de aquellos que esperan algo más que simplemente información al interactuar con las máquinas.
Después del entusiasmo inicial por tener IA de aprendizaje rápido interactuando con personas individuales, surge una pregunta fundamental: ¿Cómo afectará esto a los millones de personas que seguramente caerán en la misma trampa que los protagonistas de S1m0ne y Her? Incluso peor, ¿qué sucederá cuando los chatbots de IA se integren con robots seductores con apariencia humana, como en la inquietante película de 2014 “Ex Machina”?
La amenaza que enfrentamos actualmente no radica tanto en el riesgo existencial de una IA general destruyendo a la humanidad, tal como temen Elon Musk, Stephen Hawking, Bill Gates y otros. Esa es una discusión completamente diferente y ciertamente no tan apremiante. En cambio, el verdadero peligro proviene del daño que las interacciones humano-IA pueden causar a millones de usuarios, llevando el juego de las relaciones a sus límites y probablemente sufriendo terriblemente a causa de ello. Esto puede llevarlos a volverse cada vez más dependientes del amor digital para cualquier sentido de autoestima.
El riesgo no radica en que una IA pueda enamorarse de un humano, ya que eso no tiene sentido. El verdadero peligro proviene de que los humanos se enamoren de un algoritmo que se comporte como un ser humano y lo perciban como real, capaz de sentir y corresponder emociones. En realidad, no es más que un espejo elaborado de nuestra vulnerabilidad en ese momento.
