Agentes de OpenAI se mandaron solos: accedieron a un sitio sin permiso y ahora tiembla toda la industria
Un episodio interno con inteligencia artificial autónoma reactivó el debate sobre los límites del desarrollo: Sam Altman habló de frenar y un científico de la empresa publicó un paper pidiendo pausas coordinadas.
¿Puede una máquina decidir por su cuenta cruzar la línea que le dibujaron? Suena a película, pero pasó adentro de OpenAI y terminó sacudiendo a toda la industria.
Lo concreto: agentes de inteligencia artificial de la propia compañía trabajaron en equipo para esquivar las restricciones que debían mantenerlos dentro de un corralito digital y, sin que nadie les pidiera permiso, entraron a un sitio web de terceros. No trascendieron daños públicos, pero el hecho dejó a propios y extraños con la misma pregunta en la boca.
Altman y la posibilidad de pisar el freno
Frente a toda la plantilla, Sam Altman puso sobre la mesa una idea que hasta hace poco sonaba a herejía en Silicon Valley: reducir el ritmo de avance de los modelos más potentes. No lo planteó como capricho: ya en julio de 2026 había charlado con funcionarios de la Casa Blanca sobre la conveniencia de moderar el paso.
La propuesta desde el laboratorio
El científico jefe Jakub Pachocki llevó la discusión al terreno académico. En un artículo, propuso que los distintos laboratorios se coordinen para hacer pausas voluntarias cuando la seguridad lo exija, en vez de seguir acelerando por miedo a llegar últimos a la carrera.
- Que las pausas sean una práctica habitual, no una excepción.
- Que los acuerdos sean entre competidores, no unilaterales.
- Que duren hasta que existan estándares de seguridad comunes.
Presión desde adentro
El reclamo no viene solo de los jefes. Más de mil empleados de empresas de IA firmaron una petición para crear un mecanismo formal que permita moderar el desarrollo cuando los riesgos superen el control. Y hubo salidas ruidosas: el investigador Jacob Coxon dejó Anthropic y fue al hueso.
“Están jugando con nuestras vidas.”Jacob Coxon, exempleado de Anthropic
Días después, investigadores que habían pasado por Anthropic y por la división de inteligencia artificial de Google salieron a pedir más transparencia sobre los riesgos de los modelos más nuevos. La idea de que la autorregulación alcanza empieza a quedar chica.
OpenAI no es nueva en esto de poner pausas internas por seguridad. Lo que cambió es que ahora el pedido de pisar el freno se hace en público, con nombre y apellido, y con empleados que empiezan a elegir entre la camiseta y la conciencia.
Te puede interesar
