Hinton y el fantasma del 20%: por qué el padre del aprendizaje profundo dice que la IA podría extinguirnos

¿Puede una tecnología que vos usás todos los días terminar con la especie humana? Suena a exageración de película, pero quien dice que sí no es cualquier improvisado: es Geoffrey Hinton, el tipo que en los años setenta sentó las bases matemáticas de lo que hoy llamamos aprendizaje profundo. A sus 78 años, y tras renunciar a Google en 2023 justamente para poder hablar sin mordaza, volvió al centro de la escena con una advertencia que cuesta ignorar.

El número que sacude a Silicon Valley

Hinton le puso cifras al riesgo: entre el 10 y el 20 por ciento de probabilidades de que una inteligencia artificial superinteligente provoque la extinción humana en un horizonte de unos treinta años. O sea, antes de 2055. El propio científico reconoce que esos valores superan lo que él mismo imaginaba hace una década, cuando pensaba que el asunto era manejable con tiempo de sobra.

Ya no es solo estadística

El punto más fuerte de su planteo no es el porcentaje, sino el argumento de fondo. Para Hinton, los modelos de lenguaje actuales pasaron de masticar correlaciones en millones de textos a comprender de verdad los conceptos abstractos que procesan. Esa diferencia de categoría es la que, según él, cambia las reglas del juego y hace inútiles los marcos regulatorios pensados para softwares más obedientes.

La metáfora que eligió es bien terrenal: compara la innovación tecnológica con un Fiat chocador al que le sacaron el volante. Cuanto más acelerás, más peligro tenés. Y la regulación estatal, en su esquema, es justamente lo que falta para tener dirección.

Ni el mercado ni la geopolítica como excusa

Ante el planteo de que regular pone en desventaja a un país frente a sus rivales, Hinton es categórico: confiar en la autorregulación del mercado ante una amenaza de este tamaño es un error estratégico. Para él, la competencia entre potencias no puede servir como justificación para postergar acuerdos globales.

• Entre el 10 y el 20 por ciento de chances de extinción por superinteligencia en los próximos treinta años.
• Los modelos actuales ya comprenden conceptos abstractos, no solo patrones estadísticos.
• Hinton renunció a Google en 2023 para poder hablar libremente sobre los riesgos.
• Propone regulación estatal urgente y leyes de alcance global, no autorregulación de mercado.
• La ventana para fijar la orientación ética de la IA se achica a medida que los sistemas ganan autonomía.

El mensaje final es simple y tiene vértigo: todavía estamos a tiempo de decidir qué clase de sistemas queremos construir. Pero ese margen se consume rápido. Como cuando te queda nafta para dos cuadras en medio de la ruta: lo resolvés ahora o te quedás a pata.

“La humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y ese punto ciego es el mayor peligro del momento.”Geoffrey Hinton

Si te sirve, tomátelo en serio. Antes de seguir testeando chatbots, vale la pena mirar quién los construye y bajo qué reglas.