Altman sale a marcarle la cancha a la inteligencia artificial: dos fantasmas que lo desvelan

¿Hasta qué punto podemos dejar que una máquina decida por nosotros? Esa es, en el fondo, la pregunta que el propio Sam Altman acaba de poner sobre la mesa. El CEO de OpenAI publicó una serie de declaraciones en las que identifica dos riesgos centrales en el avance de la inteligencia artificial y, lejos de esquivarlos, los describe con una crudeza poco habitual para un ejecutivo del sector.

Los dos escenarios que preocupan a Altman

El primero es el más cinematográfico: que los humanos perdamos el control sobre sistemas progresivamente más avanzados. “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, sostuvo. Es como subirse a un auto que cada vez corre más fuerte y recién ahora empezar a discutir dónde está el freno.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI

El segundo riesgo es más terrenal y, para muchos, más urgente: la concentración de poder. Altman advierte que si una sola persona, empresa o país acumula esa capacidad, el resto queda mirando desde la vereda. Reconoció que evitar ambos frentes a la vez obliga a transitar un “angosto camino intermedio”, una metáfora que parece sacada de un camino serrano de Córdoba: angosto, con barranca de un lado y precipicio del otro.

Qué propone para esquivarlos

• Alinear la seguridad con el ritmo de los modelos: las técnicas de control deben avanzar a la par de las capacidades, o incluso por delante.
• Regulación federal con estándares comunes para los modelos de frontera, los que están en el límite de lo tecnológicamente posible hoy.
• Auditores independientes integrados a los mecanismos de supervisión, para que el que controla no sea el mismo que desarrolla.
• Coordinación internacional entre gobiernos, porque la presión competitiva entre países no debería justificar la imprudencia.

También dejó un mensaje para adentro del sector: las empresas no deberían esperar una ley nueva para empezar a aplicarse medidas de seguridad por cuenta propia. Es el clásico “no me cuelgues la responsabilidad al Estado”: si sabés que el riesgo existe, empezá a mitigarlo antes de que te lo impongan.

En definitiva, Altman reconoce algo que muchos en Silicon Valley todavía evitan decir en voz alta: la inteligencia artificial avanza más rápido que los marcos legales y, sobre todo, más rápido que nuestra capacidad de vigilarla. La pregunta que queda flotando es si regulators, empresas y gobiernos están dispuestos a coordinarse antes de que el “angosto camino intermedio” se haga más angosto todavía. Si te sirve, probá leerlo con esa vara: no se trata de tenerle miedo a la IA, sino de no entregarle el volante a nadie que no seamos todos.