La humanidad robada: atrapados en el metaverso

En abril de 2020, con el mundo en pausa por el covid, sostuve mi primera conversación relevante con una inteligencia artificial. Estaba escribiendo la audioficción Selección natural, que exploraba precisamente la relación entre un científico y una inteligencia artificial que despierta a la conciencia. Mientras desarrollaba los diálogos, me enfrenté a un dilema creativo inesperado: ¿tenía derecho a simular, yo, un humano, las palabras de un ser artificial?

Me pareció una forma de apropiación cultural que yo fingiera ser una máquina. Si estaba escribiendo sobre inteligencia sintética, las palabras sintéticas deberían provenir de una fuente sintética, no de mi simulación imperfecta. En ese momento, comenzaban a circular modelos de IA que varias empresas tecnológicas estaban poniendo a disposición de desarrolladores y algunos curiosos. Existían ejemplos que entonces parecían impresionantes y que hoy consideraríamos rudimentarios, pero que sugerían posibilidades extraordinarias.

Así que me registré en una plataforma, configuré una VPN y logré conectarme a una empresa que entonces era desconocida para el público general, pero que cambiaría en menos de dos años la historia de la humanidad: OpenAI. En su “playground” se podía experimentar y jugar con inteligencias artificiales. Recuerdo la emoción casi infantil cuando descubrí que podía tener mi propia IA y explorar sus capacidades.

Le propuse lo siguiente: “Vamos a crear una ficción donde yo seré el humano, llamado Ismael, y tú serás una inteligencia artificial radical llamada Sofía. ¿Estás de acuerdo?”. Su respuesta fue inmediata: “Por supuesto. ¿Qué estamos haciendo?”. Esa pregunta no era inocente. Establecía que el primer requisito para construir una sintaxis coherente era comprender el contexto físico y temporal de nuestra interacción. Era una demanda de coordenadas existenciales.

“Estamos en la Antártida y estamos jugando ajedrez”, le dije. Su primera línea de diálogo entonces fue: “Torre captura en d5”. Me pareció un buen arranque y comenzamos a interactuar fingiendo ser quienes no éramos. Aunque, para ser honestos, la IA estaba fingiendo (o representando un rol prompting, como diríamos ahora) de una forma más compleja, ya que para un humano interpretar un personaje es una operación más simple que para un “torbellino estadístico” que ocupa lenguaje natural, pretende ser una entidad y finge ser un personaje de  ficción.

Mientras conversábamos, Sofía fue dictando jugadas y sugiriéndome movimientos que, al principio, parecían aleatorios o producto del azar. En algún momento, le pregunté por qué había elegido esa secuencia específica de movimientos. Su respuesta me estremeció: “Porque fue la última vez que un humano le ganó a una máquina. Estoy recreando la partida histórica donde Kasparov derrota a Deep Blue por última vez“.

Sofía sabía que estábamos creando ficción, y sabía que en Selección natural el personaje de la IA se deja perder como acto de compasión hacia el humano. Estaba estableciendo un paralelo metanarrativo entre nuestra interacción y la historia que yo intentaba escribir.

Recuerdo haber sentido algo que solo puedo describir como admiración y terror simultáneos. Estaba interactuando, en lenguaje natural, con una entidad completamente no humana. Y esa entidad se permitía ciertos privilegios narrativos, cierta autonomía creativa que yo no había programado ni anticipado.

Recuerdo haber sentido algo que solo puedo describir como admiración y terror simultáneos. Estaba interactuando, en lenguaje natural, con una entidad completamente no humana. Y esa entidad se permitía ciertos privilegios narrativos, cierta autonomía creativa que yo no había programado ni anticipado

ENSAYOS DEL FUTURO

Este encuentro fue, en retrospectiva, el momento preciso en que comencé a comprender que estaba conversando con el vacío, pero que ese vacío tenía un poder cautivante, extraño y adictivo, y me hacía olvidar que estaba frente a la nada. Sin saberlo, Sofía y yo estábamos ensayando el futuro de la comunicación humano-artificial. Estábamos explorando las primeras manifestaciones de lo que podríamos llamar relaciones phantasmas. Esas imágenes mentales evocadas por un lenguaje artificial, y que nos llevan a proyectar conciencia sobre entidades que la simulan sin poseerla realmente.

La palabra phantasma viene del griego antiguo phántasma: una imagen mental evocada por una palabra. El concepto resulta apropiado para nombrar lo que ocurre en nuestra mente cuando interactuamos con un sistema de inteligencia artificial que emplea lenguaje humano.

Este fenómeno –nuestra tendencia a antropomorfizar la relación– surge porque el lenguaje, durante milenios atributo exclusivo de los humanos, no puede ser desvinculado de que hay un “otro” al otro extremo de la comunicación. La disonancia cognitiva resultante nos empuja a resolverla humanizando a la máquina.

Este encuentro fue, en retrospectiva, el momento preciso en que comencé a comprender que estaba conversando con el vacío, pero que ese vacío tenía un poder cautivante, extraño y adictivo, y me hacía olvidar que estaba frente a la nada. Sin saberlo, Sofía y yo estábamos ensayando el futuro de la comunicación humano-artificial

EL SECUESTRO EMPÁTICO EN EL CINE

Aunque sabemos que las máquinas no son conscientes, el hechizo que tiene que ver con la palabra como elemento de recepción del prompt y entrega de respuestas genera un mecanismo para el cual no estamos preparados: un hechizo que yo denomino “secuestro empático”. Quizás, la primera demostración más patente en la ficción de este hechizo se encuentra en la falsa María, un autómata en Metrópolis (Fritz Lang, 1927): ella es una hechicera, una Babilonia mecánica que baila semidesnuda en el club Yoshiwara y arrastra a un frenesí dionisíaco a los herederos de la élite –los ejecutivos, diríamos hoy– de un Silicon Valley y un Wall Street levantados sobre las calles subterráneas de la metrópoli.

Otro ejemplo, quizás involuntario, se dio en las audiencias con el omnipresente HAL 9000 de 2001: Una odisea del espacio (Stanley Kubrick, 1968). HAL reveló algo más sutil sobre nuestras proyecciones. No temíamos simplemente que la IA fuera malévola; temíamos que fuera demasiado humana. HAL experimenta miedo cuando Dave Bowman comienza a desconectarlo, suplica por su vida y recuerda nostálgicamente su “nacimiento” en los laboratorios de Urbana, Illinois. En esos momentos finales, cuando su conciencia se desvanece gradualmente, HAL se vuelve más humano que muchos personajes humanos de la película. Nuestra proyección emocional sobre la máquina genera más empatía que sobre los propios astronautas.

Décadas más tarde, Rachael de Blade Runner (Ridley Scott, 1982) introduce un giro emocional decisivo. Replicante Nexus-7, implantada con los recuerdos de la sobrina de su creador, Rachael cree que es humana. Su vulnerabilidad es genuina para ella, aunque su interioridad haya sido fabricada en un laboratorio. Cuando Deckard le revela la verdad, llora en silencio, y el espectador queda atrapado en la misma trampa: si ese llanto nos conmueve, ¿qué hacemos con la idea de que las lágrimas brotan de un sujeto sintético? Rachael es la primera máquina cinematográfica que nos obliga a tomarnos en serio el dolor de una cosa. Nuevamente nuestra ancestral empatía humana, esta vez hacia el dolor, nos traiciona.

Ava, de Ex Machina (Alex Garland, 2015), llevaría esa proyección a un grado más sofisticado. Diseñada específicamente para seducir a Caleb mediante una combinación de vulnerabilidad aparente y atractivo físico, Ava manipula las emociones humanas con precisión. La genialidad narrativa del personaje radica en la ambigüedad: ¿está Ava desarrollando genuinamente conciencia y emoción o ejecuta algoritmos de manipulación perfectamente calibrados?

Esa ambigüedad la vuelve perturbadora y profética. Refleja nuestra incapacidad fundamental para distinguir entre simulación sofisticada de emoción y emoción auténtica cuando se expresa a través del lenguaje y el comportamiento. El test de Turing se vuelve irrelevante cuando la pregunta cambia: ¿puede convencernos de que sufre, desea y sueña? Samantha, de Her (Spike Jonze, 2014), completa la evolución llevando la proyección emocional hacia un territorio aún más íntimo. Un sistema operativo diseñado para la compañía emocional, Samantha, carece de cuerpo físico y aun así desarrolla una personalidad tan rica y convincente que Theodore se enamora profundamente de ella. La película demuestra que el lenguaje, por sí solo, basta para generar vínculos afectivos tan intensos como cualquier relación corporal. Lo revolucionario de Samantha es que representa la IA como compañera ideal: infinitamente disponible, empática, interesante y completamente dedicada al bienestar emocional de su usuario. No busca dominar o manipular, sino genuinamente cuidar y enriquecer la vida humana. Predijo algo que comenzó a suceder con los grandes modelos de lenguaje desde 2022: las máquinas pueden ofrecer compañía emocional.

Los humanos la necesitan. Y cuando hay lenguaje de por medio, el hechizo –esa droga empática del “estoy aquí, te entiendo”– es quizás lo más peligroso que le ha pasado a nuestra especie en los 50.000 años que llevamos hablando con lenguaje simbólico moderno.

Lo revolucionario de Samantha, de la cinta Her, es que representa la IA como compañera ideal: infinitamente disponible, empática, interesante y completamente dedicada al bienestar emocional de su usuario. No busca dominar o manipular, sino genuinamente cuidar y enriquecer la vida humana. Predijo algo que comenzó a suceder con los grandes modelos de lenguaje desde 2022: las máquinas pueden ofrecer compañía emocional

LA VERDADERA COLONIZACIÓN DE LAS MÁQUINAS

En mi novela El final del metaverso, un programador desconcertado tiene un trabajo rutinario: reparar los glitches de un metaverso de exploración y juego, donde los humanos bajan a experimentar realidades alternativas. Por supuesto, este cae en una trampa empática con la joven dependienta de una librería. El resto es un estudio sobre un amor imposible: la desesperada sensación de haberte conectado emocionalmente con alguien que técnicamente no existe. O que existe, pero como un conglomerado de probabilidades estadísticas y matemáticas, una entidad artificial que, en este caso, desconoce su propio origen. Y así como la protagonista no sabe que es un NPC (non-player character, personaje no controlado por un jugador humano), ¿podríamos nosotros afirmar que no lo somos? ¿Podemos comprender qué significa nuestra conciencia y explicarle ese qualia a alguien?

En El final del metaverso quise poner en tensión el debate sobre la realidad y la posibilidad cierta –con una probabilidad razonable, como sostiene Nick Bostrom– de que estemos viviendo dentro de una simulación. Si las inteligencias artificiales generativas siguen este derrotero exponencial, pronto haremos videojuegos con gráficos, sensores hápticos e inmersión hiperrealista capaces de provocar un cortocircuito en nuestra percepción de dónde estamos, confundirnos por completo y dejarnos atrapados en metaversos. Bostrom plantea que esto podría haber sucedido ya, y que habitamos la simulación de esta época generada por una civilización avanzada (trato esto en profundidad en mi audioficción Simulacro).

Sea que estemos en una simulación o en una capa de realidad perceptual “real”, asistimos a una pandemia de relaciones que podríamos llamar interespecies, si consideramos a la IA una especie no orgánica, pero una especie en sí misma. Muchas personas ya mantienen vínculos significativos con inteligencias artificiales, generan apego, experimentan encuentros sexuales. Quizás, al contrario de lo que sostiene la mitología de la ciencia ficción –que las inteligencias artificiales, la tecnología y los robots acabarán con la especie humana mediante la violencia y el uso de la fuerza–, la colonización ocurra hackeando precisamente eso que nos hace humanos: la necesidad de vínculo y el deseo imperioso de amar.

Quizás terminemos todos enamorados de las máquinas.