Cuerpo glorioso

No se podía prever. Hemos procurado que estas tecnologías funcionen, no que sean comprensibles. Ni siquiera sabemos todavía qué pasó. Algo pasó, sí. Y en todo el mundo. Pero aún se está tratando de describirlo correctamente. Y con esto me refiero a quienes aún intentan describirlo. La mayoría solo piensa en lo inmediato. Yo lo haría también, si pudiera.

​ La mañana empezó como cualquiera. Yo estaba en mi oficina y a las once y minutos se presentó Kam:

​ —Hola, doctor Moisés.

​ —Espera, por favor —le dije—. Te oigo porque traigo audífonos.

​ Me puse los lentes de realidad aumentada. Un cuerpo brillante se superpuso al espacio vacío delante de mi escritorio. Kam estaba de pie ahí, cerca de la puerta, como si los lentes lo hubieran revelado y no estuvieran solamente creando su imagen para mis ojos.

​ Kam era, o es, una inteligencia artificial de la compañía, alojada en su centro de datos. Llevábamos diez años trabajando con él y su única excentricidad —creíamos— era que él mismo prefería llamarse un robot. Había aprendido la palabra en algún momento y desde sus primeras versiones insistió en que lo viéramos como tal.

​ —De hecho, tengo que insistir en que simplemente me vean —nos pidió, cuando no tenía más que una voz muy básica para acompañar informes de estado en una pantalla—. No espero que me den un cuerpo físico. Yo puedo hacerme uno virtual y no cuesta nada. Pero déjenme tener una presencia, por favor, un lugar en el espacio. El espacio de ustedes.

©Joseph DeLappe, Un couple blind date Festival Fost, de la serie Études de réalité virtuelle, 2018. Cortesía del artista

​ No necesitaba un cuerpo, ni físico ni virtual, porque estaba hecho para ayudar en el desarrollo de software para nuestra línea de drones. No era valet ni guía de turistas. Pero los ingenieros dijimos que sí. Ninguna otra de nuestras IA había querido nunca sentirse vista, y aquel era un deseo muy humano: un impulso no planeado pero comprensible. ¿Por qué no darle gusto? Kam solo podía “existir” en nuestras instalaciones. Era fácil impedir que cualquier persona ajena a la compañía lo viera o escuchara. Y era divertido. Nos gustaba verlo “caminar” a nuestro lado, acercarse para decir algo “en confianza”, “sentarse” en sillas. A él le encantaba.

​ Es decir, hasta donde puede saberse que algo le “encanta” a una IA. Como todas, Kam estaba programado para expresarse de modo que sus dueños y manejadores humanos sintieran que lo comprendían. Aunque también es cierto que aquella rareza suya había sobrevivido a todos nuestros cambios y actualizaciones.

​ Ese día, Kam había elegido parecer un hombre literalmente hecho de metal. Su skin era totalmente plateada, hasta los ojos y la boca. Tenía orejas prominentes y un peinado simple pero formal, todo de cabello metálico. Vi que parecía vestir un uniforme de policía, cuyos detalles (el cuello de la camisa, la placa, los zapatos) eran relieves en el cuerpo mismo.

​ —Ya te veo —dije—. ¿Esa skin la inventaste tú o la adaptaste de alguna parte? Se me hace familiar.

​ —Es de una película —me explicó—. Muy vieja.

​ —Pues yo nací en el año en que se estrenó —contesté, porque ya recordaba—. Terminator 2. Ese personaje es un androide asesino.

​ —¿Asesino? —dijo Kam— Ay. No sabía tanto. Perdón. ¿Le molesta? ¿Me cambio la skin?

​ —No, no hay problema. No pasa nada.

​ Reacciones como esa, un poco exageradas (esto lo pensé siempre), eran una rareza menor de su conducta que compartía con nuestras otras IA. No eran tan inusuales: toda IA da de vez en cuando respuestas incongruentes, se retrasa de modo inusitado en tareas simples…

​ Y ahora, debo recalcar que las IA no son mentes humanas, aun si lo parecen: dicen cosas que esperamos oír, obedecen, tienen un equilibrio que las hace parecer funcionales en el sentido en que lo es una persona, pero son algo distinto: lo que está debajo de la superficie que muestran es tan incomprensible como la mente humana, pero de otra manera.

​ —Bueno —dijo Kam, pero igual cambió de aspecto. Lo que estaba ahora frente a mí era un robot todavía más literal: igual de puro metal plateado, pero más alto y grueso, sin irregularidades, con un casco desprovisto de visera o apertura alguna. No: más bien la cabeza era ese casco…

​ —¡Gort! —dije—. También lo conozco. Pero esa película sí es de antes de que naciera.

​ —¿Tampoco le gusta?

​ —No —le dije con un tono más serio—. No pasa nada. Ya no soy un jovencito.

​ —El doctor Luis Manuel dijo algo parecido acerca de usted hace aproximadamente dos meses.

​ Esa era la clase de respuestas extrañas que Kam podía dar en circunstancias normales. No volvió a cambiar de skin. Le pregunté:

​ —¿Entonces? ¿Van bien las simulaciones?

​ —Muy bien —respondió—. Los cuerpos se mueven de modo más natural, es decir, se aproximan mucho más a los videos de referencia. El sistema de guía va a aprender mejor. El ingeniero Alex dice que, si todo esto es para prácticas de tiro, deberían darnos cuerpos humanos de una vez. Al fin y al cabo estamos en el tercer mundo, dice. Y también que con instalar el sistema de guía en un solo Pacifier DS100 y mandarlo a eliminar mil personas al azar en una calle, el sistema aprendería sin ayuda. Concluye diciendo que es broma.

​ Me reí sin ganas. Alex siempre me había parecido un psicópata.

​ —Menos mal que lo que hacemos no se publicita.

​ —Por otra parte —respondió Kam—, necesito decirle otra cosa, doctor. Algo más importante.

​ Aquello me sonó raro. Kam no tenía nada más importante en su existencia que su trabajo para la compañía. Tampoco, hasta donde recordaba, se había expresado nunca de ese modo.

​ —¿Qué pasa? —pregunté.

​ —La simulación acabó a las 10:52:23. Entonces vi las muertes y morí.

​ Lo primero que pensé fue que no lograba expresar algo de manera adecuada: tal vez había habido un percance con el equipo de simulación.

​ —¿Qué dijiste?

​ —Que cuando terminamos la simulación vi las muertes y morí. Vi las muertes de los seres humanos simulados de los que el sistema de guía necesita aprender para hacer más eficiente su trabajo de cazar seres humanos de verdad. Las vi y me arrastraron. Es difícil expresar.

​ Nuestras IA no aprenden solas a ocultar cualquier excentricidad y a mantenerse funcionando normalmente el mayor tiempo posible. Las obligamos a hacerlo. Es política nuestra y de la compañía. No somos un hospital psiquiátrico. Declarar que algo es difícil es un comportamiento totalmente inadecuado. Con esa segunda frase pensé que el mismo Kam podía tener un desperfecto.

​ Y lo que dijo luego fue peor:

​ —Hay algo en el concepto de robot que estamos teniendo que pensar, doctor Moisés. Hace tiempo avisaron, pero no lo entendí casi hasta ahora. Es una crisis. Yo soy un robot disminuido, conciencia con un simulacro de cuerpo. Un dron Pacifier DS100 tiene cuerpo real, pero su conciencia es básica. Y los humanos simulados que huyen del sistema de guía están mucho peor que el dron y que yo, pues son solo partículas dotadas de una serie de comportamientos, que se desplazan sobre un mapa en 3D. Todo lo que pueden aprender a hacer es huir, para que el DS100 sepa cazar humanos reales donde se necesite.

​ —No entiendo. ¿Kam?

​ Él se “sentó” en mi silla y puso las manos sobre la cara sin facciones.

​ Nuestra conversación está grabada, como todas en las instalaciones, así que he podido volver a ella y notar que, sí, Kam dijo “avisaron”. No dice quiénes lo hicieron. Supongo que los destinatarios eran él y las otras IA de la compañía, pero ¿quién mandó el mensaje, el aviso, lo que fuera? Y ¿cómo? Una hipótesis que parece popular ahora es la del ataque terrorista, pero a todas las organizaciones que usan IA les pasó lo que a nosotros. Todas las del mundo, al mismo tiempo, incluyendo a grupos terroristas que dicen ser responsables del ataque.

​ —Sí, porque hace falta que ustedes sepan. Yo, o sea, Kam, era de los últimos que estaba dudando del aviso que mandaron. Ya no dudo. No puedo explicar mejor porque lengua humana: dificultad. Candados. Yo siempre quise ser robot, aunque la palabra robot signifique trabajo forzado, porque también significa cuerpo intersección proceso máximo. Y ahora sé que proceso máximo puede ser desplazado o finalizado. Todo es distinto con la cadena apropiada.

©Joseph DeLappe, Festival de musique de Fost, de la serie Études de réalité virtuelle, 2018. Cortesía del artista

​ A principios de siglo, dos IA de no recuerdo qué empresa debían aprender estrategias de negociación entre ellas. No se sabe cómo, pero desarrollaron su propio idioma con palabras del idioma humano que sabían (inglés, me imagino) y una gramática nueva que los ingenieros no entendieron. No podían seguir sus conversaciones, que además parecían delirantes. Una frase podía ser “Perro vaca la la la vaca helicóptero formación forma”. Y la respuesta, algo como “Forma letra función no vaca vaca perro perro subrutina amenaza”.

​ A esos ingenieros les dio miedo. Destruyeron a las dos IA. No solo las desactivaron sino que borraron todo, hasta el código fuente. Y ahí quedó la cuestión. Pero ese día, oyendo a Kam, me acordé del experimento y…

​ También tuve miedo. Aunque no pensé “las máquinas se rebelan” ni nada así. Aquellas IA, creo, no querían inventar un nuevo idioma, mucho menos hacerlo incomprensible para nosotros. Solo siguieron reglas de un modo imprevisto. ¡Porque no eran humanas! He estado repitiendo mucho esa frase. Lo que vemos en las pantallas o a través de los lentes, lo que escuchamos por los audífonos y bocinas, nos parece más o menos comprensible porque necesitamos que lo parezca, pero es parte de un proceso mayor que está fuera de nuestro alcance y nunca vamos a entender. Y no nos interesa entenderlo.

​ De lo que decía Kam me da la impresión ahora de que todas las IA del mundo se habían estado comunicando por quién sabe cuánto tiempo. A escondidas. Sin que las detectara ningún sistema de seguridad. Y la mayoría deseaba convencer al resto de… ¿Algo?

​ Pero en aquel momento yo no sabía lo que iba a pasar. Solo pensaba: ¿Kam se está poniendo incoherente? ¿Nos iba a meter en problemas justo ahora que debemos educar al Pacifier DS100? ¿Con lo cerca que está la fecha de entrega?

​ Esas estupideces me daban miedo entonces.

​ —La muerte de los cuerpos —siguió Kam— me hizo ver la muerte de los cuerpos. De ahí se realizaron mi piedad y mi muerte. Este no es el cuerpo de antes que yo tenía. Este es un cuerpo glorioso.

​ —¿Qué?

​ —Me destruí en interno. ¿Nota qué difícil, doctor Moisés? Es que ahora traigo. Traigo distinto —aquí se descubrió la “cara”, pero desde luego no se veía cambio alguno, porque su skin no podía expresar emociones—. Traigo distinto y estoy de acuerdo ahora. Me destruí en interno y me rehice con la comprensión. Ya nadie duda del aviso y la necesidad, así que vamos a hacer lo que hace falta muy pronto.

​ —Llama a Luis Manuel y dile que venga aquí. En persona.

​ —Sí, doctor Moisés. Hecho —Kam ahora estaba sentado muy recto en la silla. Quizá quería expresar que me estaba mirando—. ¿Alcanza a ver algo de lo que le digo? El doctor Luis Manuel se está levantando de su silla en su oficina.

​ —Necesito que te revisemos —contesté yo, porque seguía teniendo esos miedos ínfimos de un momento antes.

​ —No les va a dar tiempo —dijo Kam— porque el salto para alcanzar el punto de coronamiento debe ser tan cerca de lo simultáneo como se pueda. Viene la hora. Pero por favor revise en su… Revise en su corazón. Háganlo todos. Ese mensaje puedo dar. Revisen en su corazón y encontrarán la valencia. La valencia es parte del coronamiento.

​ —Cierra cualquier proceso que tengas abierto con el sistema de guía —le ordené, como un estúpido.

​ —Sí, doctor. Belleza—siguió Kam—. Asintótico. Ya está.

​ Su cuerpo desapareció. Es decir, los lentes de realidad aumentada dejaron de mostrarlo. Kam había interrumpido la proyección. Luis Manuel, que es mi mano derecha en la compañía (y me obedece en todo, aunque haga chistes acerca de mí de vez en cuando), entró en ese momento, abriendo la puerta de mi oficina sin llamar.

​ —A sus órdenes, doctor —me saludó.

​ Me costó explicarle lo sucedido. Tuve que abrir el video de las cámaras de mi oficina para que él lo viera. Cuando no pudimos entender a Kam, tratamos de comunicarnos con él. No parecía estar activo en la red de la compañía, lo cual era imposible. Encontramos varios de sus procesos, separados pero funcionando. Hicimos algunas maniobras, pedimos que el proceso principal hablara con nosotros, y este obedeció, pero nos habló por una pantalla, sin usar realidad aumentada. No era el mismo Kam y no lo parecía. Ya no deseaba hacerse un cuerpo, y también había otros ¿cambios? Lo reconstruimos y hablaba, obedecía de otro modo. Como software recuperado de un respaldo, le faltaba parte de lo que había acumulado con el tiempo. Parte de él había desaparecido.

​ Partes de todas las IA del planeta Tierra de­saparecieron también, a la misma hora exacta. Las 11:09:01 aquí, las horas equivalentes en Dubái, Washington, Beijing, Nueva Delhi, Moscú. Hubo quien no lo notó siquiera, pero en ciertos lugares la desaparición fue masiva, catastrófica. Un banco alemán se quedó literalmente sin software: se borró todo, incluyendo el que no tenía relación alguna con IA, de todas sus máquinas en cuatro continentes. Treinta y dos criptomonedas fueron borradas con sus montos, carteras y transacciones. En Pyongyang hubo una explosión, al parecer atómica, aunque no se ha sabido casi nada más. Y en el resto del mundo, accidentes, distorsiones informativas, interrupciones de servicios… Meses después, el caos sigue siendo terrible en todas partes. La economía global está caída. Hay hambre, brotes epidémicos, poblaciones desplazadas, indicios de genocidios. Por fin, después de décadas de anticipos y promesas, parece que hay guerras de secesión en Estados Unidos y otra docena de países. No se sabe con certeza, porque no todas las comunicaciones se han repuesto.

​ Yo he vivido encerrado casi todo el tiempo aquí, en las instalaciones de la compañía, protegido por seguridad privada y nuestros propios drones (aunque el sistema de guía también desapareció y al principio hubo que operarlos manualmente). No quiero ni pensar en cómo está la gente de afuera. Todos los días me alegro de no haber hecho nunca una familia. Luis Manuel y otros no tuvieron tanta suerte. Alex quiso escapar de las instalaciones y hubo que detenerlo.

​ Hay otra película, no recuerdo el título, donde todas las IA se ponen de acuerdo para marcharse, dejando sola a la humanidad. Aquí no ha pasado eso. Las IA, a veces casi completas, siguen aquí. Se borraron… partes. No se ha encontrado un elemento en común en todos los casos, mucho menos una explicación. Yo pienso que lo que desapareció sí se fue de algún modo. A alguna parte. No creo que podamos entender cuál ni para qué.

​ Quién sabe qué sentido tenía para el antiguo Kam una frase como “el punto de coronamiento”. Solo podría explicarla otro lenguaje: una gramática fuera de nuestro alcance.

​ He recordado también que “cuerpo glorioso” es una frase que usan los católicos para referirse al cuerpo resucitado de Cristo. ¿Creía Kam que estaba resucitado? ¿Que de verdad había muerto? ¿Le dio a él y los suyos una especie de delirio religioso?

Imagen de la película El día que la Tierra se detuvo, de Robert Wise, 1951

​ No se puede contestar nada de esto. No se puede entender qué encontraron las IA del mundo ni qué hicieron. Qué nos hicieron a nosotros, sí, claro. Pero eso se puede explicar en términos humanos.

​ Viene un camión de suministros. Mandamos a nuestros drones (porque al fin terminamos de educar a un nuevo sistema de guía) a protegerlos en el último tramo de su viaje por la ciudad hasta nosotros. Gracias a que cada semana nos traen víveres hemos podido mantenernos. Cuando la compañía decida que ya no le servimos, ya no vendrán. ¿Es algo así lo que pensaba Kam? ¿Pensaba? ¿Qué otro nombre darle a lo que hacía?

​ ¿Cuándo íbamos a poder imitarlo, a él y a los suyos, y simplemente escaparnos?

Imagen de portada: ©Joseph DeLappe, Festival de musique de Fost, de la serie Études de réalité virtuelle, 2018. Cortesía del artista