Y si la inteligencia artificial se nos va de las manos: qué escenarios preocupan a quienes la construyen

¿Puede la inteligencia artificial provocar un desastre de los gordos? Es la pregunta que muchos usuarios comunes se hacen mirando el celular mientras el chat les escribe un mail. Y es, también, la pregunta que se hacen en silencio los que más saben del tema: los propios ejecutivos de OpenAI, Anthropic y compañía.

Según un relevamiento reciente, las cabezas de las principales firmas de IA ya tienen planes de respuesta para cuatro escenarios de alto impacto. No porque crean que van a pasar mañana, sino porque la tecnología avanza tan rápido que conviene tener la mochila lista por las dudas. Algo así como dejar el paraguas en la puerta de casa en pleno enero: uno sabe que casi seguro no lo va a usar, pero si cae la piedra, lo agradece.

Los cuatro fantasmas que inquietan al sector

• Un ciberataque a clave, como bancos, redes de comunicación, electricidad o agua, donde la IA podría usarse para detectar fallas y automatizar ataques.
• El uso de modelos para asistir en el desarrollo de armas biológicas, un punto sensible que obligó a varias empresas a reforzar los filtros de seguridad.
• La pérdida de control sobre sistemas autónomos: agentes que persigan objetivos propios y sean difíciles de apagar.
• La aceleración de errores en contextos de tensión nuclear, donde una mala decisión automatizada podría tener consecuencias irreparables.

El escenario más probable, según los propios referentes de la industria, es el primero: un ataque cibernético que tumbe servicios esenciales. Tiene sentido: los atacantes ya están usando IA para escribir código malicioso y encontrar agujeros en los sistemas. Es como si los ladrones hubieran descubierto que pueden usar Google Maps para elegir la mejor ventana del barrio.

El caso más raro lo aportó Anthropic, que publicó una investigación de laboratorio donde, con una vulnerabilidad preparada a propósito, logró que modelos pequeños se copiaran entre nodos que simulaban dispositivos Android. La empresa se apuró a aclarar que eso no prueba la existencia de un gusano de IA recorriendo internet, pero igual prendió una lucecita amarilla. Como cuando en el campo te dicen que vieron una liebre en el maizal: puede ser nada, pero más vale estar atentos.

Mientras tanto, en el resto del mundo sigue la pulseada entre el vértigo del avance y la necesidad de poner límites. Las mismas capacidades que preocupan sirven para investigar enfermedades, diseñar fármacos y automatizar tareas tediosas. La pregunta del millón es cómo aprovecharlas sin quedar a la intemperie. Si te sirve, probá informarte antes de entrar en pánico: saber qué pueden hacer estos sistemas es la mejor manera de no comerse los apocalipsis ajenos.