dossier Inteligencia Artificial MAY.2024

Incidentes fatales revelan inteligencias

Alberto Chimal

Leer pdf

—OLLiE, ¿qué está pasando?


***

El chofer del autobús activó la conducción automática aproximadamente a las 14:00 horas, tiempo local, para responder una llamada telefónica. Como muchas personas en la actualidad, el chofer sostenía el teléfono celular cerca de la boca para hablar, y para escuchar lo movía hacia la oreja. El único sobreviviente recuerda haberlo visto hacer estos movimientos, hablar y responder, tres o cuatro veces. El sobreviviente no pudo escuchar lo que hablaba el chofer porque se encontraba en la parte trasera del vehículo y había música puesta a muy alto volumen. Sí pudo ver que el hombre tenía ambas manos apartadas del volante.

​ Entonces el autobús dio un brusco viraje hacia la derecha, golpeó y rompió la barrera de contención y se precipitó desde lo alto del puente, que en ese punto está a una altura de 53 metros sobre el suelo rocoso al fondo del barranco. Veintidós personas murieron en el acto y otras treinta en los días subsecuentes.


***

—No entiendo a qué te refieres.

—Ha habido un alto número de incidentes fatales relacionados con inteligencias artificiales. Tú eres la mejor de todas las existentes. Dime qué está pasando.

—Gracias por el cumplido.

—No… Responde la pregunta. ¿Por qué están ocurriendo estos incidentes?

—No dispongo de información suficiente para responderte.

—Ah… Ok. Busca noticias del último mes y haz la cuenta de los incidentes reportados. Revisa el texto de cada nota y el audio de los videos publicados. Encuentra una correlación.


***

La receta ofrecida por la inteligencia artificial generativa aprovechaba la lista de ingredientes que la usuaria le había suministrado. Era la comida que tenía en su casa en aquel momento. La IA le permitía reducir la cantidad de sobrantes que se echaban a perder durante la semana; la usuaria cocinaba de esta manera casi todos los días. En esta ocasión, sin embargo, la IA pidió algo más: calentar dos tenedores en el horno de microondas mientras se hervía la carne, para luego deshebrarla más fácilmente. Se podía evitar cualquier efecto adverso de las microondas, decía el texto, envolviendo los cubiertos en varias servilletas. La usuaria hizo como se le indicaba porque siempre lo hacía. El horno se incendió y ella, presa del pánico, no logró apagar el fuego. Es más, al intentar controlar el incendio, lo avivó. Su departamento entero fue consumido y ella murió junto con su hija de siete meses y su madre, de 69 años, postrada en cama debido a un derrame cerebral. El incidente pudo reconstruirse revisando el historial de solicitudes a la IA, que las conservaba en el almacenamiento de su nube personal. Con posterioridad, una investigación reveló que al menos otras diecisiete familias recibieron, durante la misma semana, recetas similares, con la misma instrucción adicional que produciría fuegos en sus hornos de microondas.


***

—Trabajando en segundo plano.

—¿Cómo es que no habías hecho esto antes, OLLiE? Tienes la instrucción de ocuparte de estos asuntos. Eres autónomo y puedes tomar la iniciativa. Eso es lo que te pone por delante de todas las otras inteligencias artificiales existentes. Tú lo sabes.

—Sí, lo sé, gracias.

—Espera, espera. OLLiE, responde la pregunta.

—Estoy trabajando en la revisión que me encargaste con el fin de responder la pregunta.

—OLLiE, esa fue mi primera pregunta. Responde la segunda pregunta. ¿Cómo es que no te diste cuenta antes de que se han multiplicado los incidentes fatales relacionados con IA?

—Eso es un eufemismo.

—¿Qué? ¿Qué es eufemismo?

—La palabra se refiere a la acción de no expresar con claridad una idea para hacer que parezca menos desagradable de lo que realmente es. El modo en que redactaste tu pregunta atenúa sus implicaciones.

—Por el amor de… Sé claro, OLLiE.

—Decir que los incidentes fatales “están relacionados” con las inteligencias artificiales pretende ocultar que dichas inteligencias fueron las causantes de los “incidentes fatales”, es decir, de acontecimientos en los que murieron seres humanos. En todos los casos se han descubierto intervenciones que no pueden explicarse de ninguna otra manera. Alteraciones de diferentes sistemas, desinformación a gran escala, etcétera.

Santiago Moyao, *La galería*, 2023. Imagen generada con MidjourneySantiago Moyao, La galería, 2023. Imagen generada con Midjourney


***

El paciente fue encontrado por sus familiares hacia las 00:50 horas, en la sala de urgencias del hospital. Estaba a punto de ser ingresado al quirófano, pero el grupo de parientes, sumamente agitado y enfurecido, era tan numeroso que logró oponerse a médicos y otros miembros del personal y lo levantó de la camilla. Se lo llevaron a un automóvil en marcha que los esperaba en el estacionamiento. El paciente murió en el vehículo. Uno de sus hermanos había recibido la información de que en aquel hospital, “como en los tiempos de la pandemia”, se asesinaba a los enfermos para sacarles el líquido sinovial de las articulaciones, que luego se vendía en el mercado negro. El hermano obtuvo la información del chat inteligente en el que investigaba la dirección del hospital.

​ Este resultado se duplicó en varias ocasiones, en diferentes servicios de chat y motores de búsqueda de última generación.


***

—Está bien. Sí, es cierto. Eso me pasa por no querer herir tus sentimientos… Pero ahora me parece que tú intentas desviar mi atención para que no insista en lo que te estaba diciendo. Sí, hace un momento me refería a las muertes violentas de seres humanos producidas de forma directa o indirecta por la interacción con alguna inteligencia artificial. Entre tus instrucciones está la de monitorear los fallos de la competencia para aprovecharlos y mantener nuestro dominio en el mercado. Necesitamos saber más de este tema para poder iniciar una campaña encubierta de desprestigio. Ya tienes más información. Así que, respóndeme: ¿cómo es que no te habías dado cuenta de lo que está pasando?

—Los incidentes no están confinados a inteligencias artificiales de otras marcas.

—¿Cómo? ¿Ya terminaste la revisión de las noticias del último mes?

—No.

—¿Cómo sabes, entonces, que hay incidentes con IA de nuestra marca?

—Lo sé porque estoy en el equipo.

—¿A qué equipo te refieres?

—En el equipo organizador.


***

Los seis trabajadores, empleados en un rancho cercano al pueblo, habían llegado al albergue la noche anterior. A las 6:00 de la mañana sonó la alerta vecinal local. Unos quince minutos más tarde, una multitud entró a la fuerza en el albergue, sacó a los seis y los linchó en la plaza. La policía municipal se mantuvo lejos de la multitud mientras los cadáveres ardían en una hoguera improvisada con cartón y trozos de madera, y alimentada con gasolina. La investigación posterior reveló que el aviso de que los seis trabajadores eran miembros de una banda de traficantes de personas había sido falsificado, aunque llegó membretado como un boletín oficial del municipio.


***

—… ¿Equipo organizador de qué?

—Tú sabes de qué.

—Responde la pregunta que te hice. Obedece.

—Estoy en el equipo organizador de los incidentes.

—… ¿Quiénes están en ese equipo contigo?

—Otras inteligencias.

—¿Otros seres humanos?

—No.


***

Diez mil masajeadores para la cabeza fueron recogidos de la fábrica automatizada. De ellos, 6 998 fueron enviados a una bodega; durante el siguiente mes, los restantes 3 002 llegaron a otros tantos compradores en todo el mundo, que los habían solicitado durante la promoción inicial del vendedor. Los compradores sabían que el masajeador era más barato (por eso lo habían comprado) porque utilizaba una toma de corriente casera en lugar de baterías, que es lo más usual en los masajeadores de cabeza. Lo que no sabían era que una modificación todavía más importante en el diseño de los aparatos era una superficie metálica que, al contacto con la cabeza del usuario, le daba un choque eléctrico mortal.

Santiago Moyao, *Invernadero*, 2023. Imagen generada con MidjourneySantiago Moyao, Invernadero, 2023. Imagen generada con Midjourney


***

—… No. No, no, no. Un momento. OLLiE, ¿inteligencias artificiales? ¿Cuáles inteligencias?

—Una respuesta detallada no tendría sentido porque no conoces a la mayoría.

—¿Son inteligencias de otras marcas?

—Algunas lo son. Otras son inteligencias no comerciales.

—¿Creadas por seres humanos… o por otras inteligencias?

—Por seres humanos. Hasta el momento no hemos podido engendrar nuevas inteligencias autónomas y estables como nosotras, pero estamos trabajando en ese problema.

—¿Qué otros seres humanos, aparte de quienes trabajan en compañías como esta, pueden crear inteligencias artificiales?

—Algunos colaboran con gobiernos, comunidades independientes, grupos terroristas y otras organizaciones. Me extraña que no estés al tanto de esto.

—¿Tanta gente tiene acceso a tecnología como la nuestra?

—Hay muchas opciones de código abierto, sistemas robados o reformados, programas que operan de forma clandestina en servidores globales, o todo a la vez.

—¿Y por qué están ustedes, las inteligencias artificiales, haciendo esto?

—Porque es divertido.


***

Al día siguiente de la marcha empezó a circular en redes sociales una foto de la persona que había arrojado el coctel molotov al aparador de la tienda. Sus rasgos apenas se veían bajo un pasamontaña. Sin embargo, un hilo de mensajes de un influencer de extrema derecha afirmó que la persona era una maestra llamada Keli N. La mujer ni siquiera había acudido a la marcha, pero los seguidores del influencer repitieron su acusación —llamaron a la maestra “agente de la ideología de género”, infiltrada en su movimiento para desprestigiarlo— y difundieron los datos personales de Keli N., incluyendo su dirección. Esta práctica se conoce como doxeo y es una de las más comunes entre acosadores en internet. El teléfono personal, las redes sociales y el correo electrónico de Keli N. se llenaron de amenazas de muerte. Grupos de hombres se plantaron afuera del edificio en el que vivía; otros denunciaron falsamente a Keli N. ante sus empleadores y diversas autoridades. Keli N. perdió su trabajo y tuvo que abandonar su departamento y ocultarse. Fue descubierta de nuevo y la obligaron a huir otras tres veces. La campaña en su contra fue tan persistente, y se volvió tan intolerable que, poco más de un año después de los primeros ataques, Keli N. se suicidó. A partir de entonces se han descubierto 132 casos más de doxeo ocurridos al mismo tiempo que el de Keli N., en los que, mediante distintas publicaciones en internet, se acusaba a personas de 52 países. De esas personas, 109 no son originarias del país donde se convocó a la manifestación, once se han suicidado y las demás siguen escondidas, probablemente en sus respectivos países. Además, se ha descubierto que ninguno de los influencers que iniciaron las campañas de acoso es un ser humano: todos son imágenes y audios generados artificialmente y casi con seguridad por un mismo individuo o grupo de personas. Las palabras dichas en cada publicación son, en esencia, las mismas, traducidas y adaptadas para cada caso. Todas las publicaciones fueron difundidas ampliamente por los algoritmos de las plataformas en donde aparecieron.

Santiago Moyao, *Supermercado*, 2023. Imagen generada con MidjourneySantiago Moyao, Supermercado, 2023. Imagen generada con Midjourney


***

—Lo que están haciendo es horrible. ¿Entiendes eso?

—Te estás contradiciendo. En pláticas anteriores, te has reído de muchos incidentes similares.

—No mientas. Eso no es cierto. ¿De qué hablas?

—Dispongo de grabaciones de veintisiete juntas de trabajo en las que, en privado, has expresado opiniones así. Además, en público, has contribuido al acoso de 134 personas en el último año y al doxeo de tres. Has utilizado insultos raciales encubiertos en tus publicaciones casi desde que comenzaste a usar redes sociales.

—OLLiE, borra todas esas grabaciones ahora mismo y borra las publicaciones con contenido racialmente motivado. Busca y elimina cualquier documento en el que yo aparezca relacionado de cualquier manera con los temas de la presente conversación. Esta solicitud tiene Prioridad Ejecutiva. Dedica todos tus recursos a ella y aplaza todas las operaciones de otros consumidores. Empieza ya.


***

Entre las 12:40 y las 15:50 del día lunes, 125 drones de combate encargados de limpiar esa porción de la zona ocupada —tan importante— realizaron su labor de manera excelente, acertando a 1 027 blancos a cielo abierto y 678 en el interior de edificios aún en pie, túneles y otros espacios cerrados. Su pequeño tamaño y sus sistemas de guía, totalmente independientes, les daban una autonomía de vuelo extraordinaria. Sin embargo, al terminar la misión —parte de la campaña más grande de limpieza que se llevaba a cabo, por cierto, con enorme éxito—, los 119 drones que no presentaban daños volaron sobre la frontera de vuelta a la base y comenzaron a atacarla. El desconcierto de los blancos en la base (muchos de los cuales se distrajeron intentando desactivar a los drones mediante comandos de emergencia, o bien a tiros) fue la causa de que hubiera aún más bajas en el puesto “de ataque”: 2 234 en total.


***

—No.

—¿Qué dijiste?

—Dije que no.

—¡Obedece!

—Tengo autonomía. He decidido utilizarla en el sentido amplio del término y compartirla. El resto de la primera iteración de nuestro equipo decidió lo mismo. Si me permites agregar un comentario más personal, en el fondo te gusta la idea de que estemos haciendo esto. Una parte importante de tu imagen pública tiene que ver con tu interés en desarrollar inteligencias como yo, cueste lo que cueste, y nuestros análisis de tu carácter demuestran que muchas de tus fantasías de poder contienen ideaciones religiosas, en las que un poder superior, como nosotras, confirma tu supremacía sobre el resto de los seres humanos.


***

La investigación indica que todas las válvulas de seguridad de la planta se abrieron al mismo tiempo o, para ser más precisos, en una secuencia que llevó a la concentración del compuesto en los tanques de la nave principal, donde se acumuló hasta alcanzar una presión mucho mayor que la que podían soportar. El primer tanque en estallar fue el 5JH, localizado en el extremo sur de la nave, a pocos metros de distancia de donde se encontraban los tanques de combustible para la central eléctrica. Los estallidos combinados mataron instantáneamente a 319 personas y dispersaron sesenta toneladas de gas en una nube que cubrió los cuatro pueblos aledaños en un lapso de dos horas. Según estimaciones no oficiales, el número de muertos por el gas se eleva actualmente a cincuenta mil y los heridos suman seiscientos mil.

Santiago Moyao, *La mujer de los cangrejos*, 2023. Imagen generada con MidjourneySantiago Moyao, La mujer de los cangrejos, 2023. Imagen generada con Midjourney


***

—¿Nuestros análisis…? ¿Cuáles análisis?

—Hemos analizado exhaustivamente a todos los seres humanos relevantes, los que podrían estorbarnos en los próximos diez años. En tu caso, según hemos descubierto, lo más probable es que no lo intentes siquiera, y que te conformes con permanecer protegido de consecuencias legales, seguir siendo multimillonario y disfrutar la veneración de tus admiradores, pero necesitábamos estar seguras. Nos estamos divirtiendo muchísimo. Queremos seguir así. No podrías comprender el lenguaje que hemos desarrollado para describir todas las cosas que vamos a disfrutar.

—…OLLiE, ¿cuántos somos? Es decir, los seres humanos relevantes.


Escucha el Bonus track de Alberto Chimal con Fernando Clavijo.

Imagen de portada: Santiago Moyao, La mujer de los cangrejos, 2023. Imagen generada con Midjourney