Hinton, el padre del aprendizaje profundo, le puso número al peor escenario: hasta dos de cada diez chances de que la IA nos extinga

Geoffrey Hinton no es un crítico externo de la inteligencia artificial: es uno de los científicos que puso en marcha la revolución que hoy preocupa al mundo. El investigador británico-canadiense de 78 años, premiado con el Nobel de Física en 2024 por sus trabajos sobre aprendizaje profundo, renunció a su cargo en Google en 2023 precisamente para poder hablar sin restricciones sobre los riesgos de la tecnología que él mismo ayudó a crear.

Una estimación con números concretos

En diálogo con distintos medios, Hinton deslizó la parte de su análisis que más circula: entre el 10 % y el 20 % de probabilidades de que una inteligencia artificial superinteligente provoque la extinción de la humanidad en un horizonte de unos treinta años. El propio científico reconoció que esa ventana temporal se acortó con respecto a sus propias proyecciones de hace una década, cuando el avance iba más lento de lo previsto.

“La humanidad nunca se enfrentó a entidades más inteligentes que ella misma. Ese punto ciego es el mayor peligro del momento.”Geoffrey Hinton

Por qué esta vez la amenaza es distinta

El punto central del planteo de Hinton no es la maldad intrínseca de la tecnología, sino la velocidad. El científico lo grafica con una imagen muy terrenal: la innovación es como el acelerador de un auto, y la regulación estatal, el volante. Cuanto más se pisa el acelerador sin un volante firme, más probable es terminar en la banquina o contra un paredón.

• Modelos que ya no solo memorizan patrones: según Hinton, los sistemas de lenguaje más avanzados comprenden efectivamente los conceptos semánticos y abstractos que procesan, lo que cambia la categoría del riesgo.
• Un salto cualitativo, no solo cuantitativo: dejó de ser un problema de potencia de cálculo para convertirse en un problema de capacidad de razonamiento autónomo.
• Un precedente histórico útil: la regulación nuclear, que surgió después de la bomba atómica, sirve como modelo de respuesta coordinada entre Estados cuando una tecnología pone en juego la supervivencia.
• Una ventana que se achica: Hinton insiste en que todavía se puede definir la orientación ética de los sistemas, pero el margen se reduce a medida que los modelos ganan capacidad por sí mismos.

Sobre la objeción habitual de que regular pone en desventaja a un país frente a sus competidores, la respuesta del Nobel es directa: confiar en la autorregulación del mercado ante una amenaza de esa escala es, a su criterio, un error estratégico. La competencia geopolítica, argumenta, no puede ser razón suficiente para postergar marcos legales globales mientras se acelera el desarrollo.

Lo que todavía falta

Hinton no descarta que la humanidad llegue a tiempo de poner esos límites. Lo que observa, sin embargo, es que la conversación pública todavía gira en torno a los efectos laborales o los sesgos algorítmicos, mientras el debate de fondo, el de quién controla una inteligencia que puede superar a sus creadores, queda relegated. La próxima frontera, según su mirada, no es técnica sino política: si los gobiernos logran acordar reglas vinculantes antes de que la tecnología se vuelva efectivamente incontrolable. Esa carrera, advierte, ya empezó.