Expertos en IA afirman que, sin regulaciones, estos desarrollos llevarán a la muerte de miles de millones de personas. ¿Qué hay detrás de estas afirmaciones?
Por Dylan Resnik / Página 12
¿La inteligencia artificial va a matarnos a todos antes de 2030?
La pregunta puede sonar potente y lo es. Pero es lo que en las últimas semanas se estuvieron cuestionando algunos magnates tecnológicos y desarrolladores de primer nivel, que ahora piden regular la inteligencia artificial y garantizar marcos éticos para su desarrollo.
Los medios de comunicación se volvieron locos cuando, a principios de septiembre, el reconocido investigador británico Jacob Coxon renunció a su cargo en Anthropic —la empresa de IA detrás de Claude— por temor a que el laboratorio y sus competidores desarrollen sistemas que no podrán controlar.
A los comentarios de Coxon se sumó rápidamente Evan Hubinger, investigador de Anthropic y uno de los principales especialistas mundiales en seguridad, quien en su cuenta de X dijo que “hay más de un 10 % de probabilidades de que la IA mate a todos los humanos en la próxima década”. Bill Gates, creador de Microsoft, se sumó a esta ola y dijo que “la inteligencia artificial puede causar mil millones de muertes”.
Después vino una catarata de comentarios, mensajes y comunicaciones de investigadores y empresarios que reclaman lo opuesto a lo que pedían tan sólo unos meses atrás: regulación. La respuesta de Donald Trump no se hizo esperar y les dejó en claro que no pueden contar con él para otorgarle un marco legal esta tecnología.
Mientras que Trump dijo en la ONU rechazar “cualquier intento de construir un proyecto globalista para controlar la inteligencia artificial”, varios grandes líderes de IA llamaron en ese mismo organismo a extremar la vigilancia. Incluso el cofundador y director ejecutivo de Anthropic, Dario Amodei, se comprometió a ralentizar unilateralmente su desarrollo luego de hablar de “riesgos existenciales para la humanidad”.
Pero, quienes están a la vanguardia dicen que nos va a matar a todos. ¿O esto no es cierto?
Se trata de una pregunta que se repite cada vez más, con afirmaciones alarmistas que ganan peso.
—¿La inteligencia artificial nos va a matar a todos?—consultó Página|12 a Alexander Ditzend, fundador y presidente de la Sociedad Argentina de Inteligencia Artificial (SAIA).
—Va a ser una respuesta larga, preparate—contestó.
Según Ditzend, existe un “entramado profundo” detrás de esta afirmación que, como en una mamushka, a medida que se va abriendo revela distintas verdades.
El primer punto en el que reparó tiene que ver con los riesgos de la IA: “Es verdad que los modelos llegaron a un nivel en el que podrían atacar solos y coordinados entre ellos, sin ningún humano que los mande, alguna infraestructura clave como por ejemplo un hospital, un aeropuerto, plantas energéticas o centros de control de ojivas nucleares”.
Ahí va un punto a favor de Coxon, Hubinger y compañía. Por eso Ditzend pide tratar a la IA como la energía nuclear: con regulaciones, de forma abierta y democratizándola lo más posible.
Pero debajo hay otra capa de interrogantes. ¿Por qué se habla de esto ahora, cuando hay intelectuales como Eliezer Yudkowsky que hablan del riesgo existencial desde los 2000?
“Nadie les daba bolilla, y ahora de un día para el otro aparecen estas cuentas de Twitter como las de Coxon, que se abrió a comienzos de este año, no tuiteó nada, y después saca siete tuits perfectamente coacheados que en minutos nada más toman todas las cadenas de Estados Unidos, por lo menos para empezar a investigar”, dijo Ditzend.
Investigar es lo que hizo Ditzend, quien explicó: “Estos chicos están renunciando en una coordinación muy extraña y se van a trabajar a una empresa que se llama METR, una organización que supuestamente es independiente, que se encarga de analizar el riesgo que tienen los modelos de inteligencia artificial”.
Renuncias y denuncias que terminan en una empresa que “se está proponiendo como un nuevo marco regulatorio para que sea la organización que evalúe la seguridad de los modelos”.
A esto hay que sumarle, dijo Ditzen, un dato más: “Lo interesante es que esta organización depende completamente financieramente de que Anthropic tenga éxito, y la gente que puso plata en Anthropic terminó poniendo plata en esta empresa también, con lo cual cuando uno sigue la ruta del dinero, están todos conectados”.
En este punto se podría argumentar que, más allá de los movimientos recientes, el riesgo existencial asociado a la IA estuvo siempre en las últimas décadas. Y esa mirada sería válida.
Por eso es interesante la mirada de Santiago Siri, presidente de The DemocracyOS Foundation, quien conoce de cerca y en primera persona el mundo de Silicon Valley, sobre el origen de esta narrativa.
—¿Dónde surge la narrativa del riesgo existencial de la IA en Silicon Valley?—preguntó Página|12.
—Creo que el marketing del riesgo existencial siempre estuvo, en mayor o menor grado, dentro del desarrollo de tecnología. Uno puede remontarse a la energía nuclear o incluso, yendo más cerca del plano informático, al fenómeno Y2K en el cambio de milenio, donde se dieron muchas consultorías por el miedo a que, en el cambio de 99 a 00, las computadoras confundieran el 2000 con el 1900. Por lo cual, hay una tradición histórica de miedo y marketing vinculado con el desarrollo de tecnología y creo que la inteligencia artificial no es para nada ajena a eso y esta narrativa lleva más de 20 años.
Entonces, sobre los dichos recientes, Siri puso dos focos. Por un lado, en las noticias sobre cómo desarrollos de OpenAI y Anthropic lograron “generar enjambres de agentes que coordinan entre sí, donde algunos agentes se sacrifican por la causa mayor, que pudieran competir a espaldas de los investigadores humanos, que inventaron formas de mensajería clandestina para evitar ser detectados”.
Pero también alumbró otro posible análisis. “Creo que también hay una estrategia en la coordinación de todo esto. Cuando sale Jacob Coxon a opinar, la semana pasada no sale ingenuamente desde una cuenta de Twitter random, sino que abre una cuenta de Twitter específicamente para hacer esta comunicación y al mismo tiempo le da una nota al Wall Street Journal”.
“En algún punto ya estamos en una suerte de duopolio dentro de la inteligencia artificial entre Anthropic y OpenAI; y en menor medida, Google. Y toda esta conversación impulsada ahora contribuye a generar un clima que favorezca la regulación y que termine de consolidar a estos jugadores dominantes del mercado”, apuntó Siri.
Pero, ¿no son estas las mismas empresas que hasta hace unos meses pedían libertad total de acción y cero regulación?
Siri aclaró ésta duda: “Buscan consolidarse cuando empieza a haber cada vez más adopción de los modelos de pesos abiertos creados en China. Que los modelos de pesos abiertos tienen totalmente otra filosofía en el hecho de que cualquiera los pueda bajar, modificar, re-entrenar, adaptar a sus necesidades, que te garanticen la privacidad, que los puedas correr en tu propia infraestructura”.
¿Entonces, nos vamos a morir en manos de la IA?
Siri opinó que “si bien son interesantes e importantes las advertencias hechas, catalogarlas como de una probabilidad alta es sumamente irresponsable”.
Ditzend consideró que “la postura es no comerse el psicopateo, no dejarse psicopatear por nadie”, pero tener en cuenta que “eso no significa seguir en este camino frenético en el que solamente desarrollamos y no nos preocupamos por temas como la alineación de los valores, los riesgos, las implicancias, incluso también el impacto que esta tecnología tiene en la sociedad”.