Sam Altman traza dos líneas rojas para la inteligencia artificial: pérdida de control y concentración de poder
El CEO de OpenAI reclamó un marco regulatorio federal, auditores independientes y coordinación entre países para evitar que la tecnología se vuelva ingobernable o quede en manos de unos pocos.
En una nueva ronda de declaraciones públicas, el director ejecutivo de OpenAI, Sam Altman, marcó los dos puntos críticos que, según su mirada, pueden definir el futuro de la inteligencia artificial: que la humanidad pierda el manejo sobre sistemas cada vez más sofisticados, o que una persona, empresa o país termine acumulando un poder desmedido gracias a esa misma tecnología.
El primer riesgo: perder el timón de los modelos
Para Altman, el primer gran escenario crítico es que la sociedad quede a merced de herramientas que ya no pueda corregir ni orientar. Lo dijo con una frase directa: "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas".
Su propuesta para esquivarlo es simple de enunciar y difícil de ejecutar: que las técnicas de alineación y seguridad corran a la par de las capacidades de los modelos, o incluso un paso más adelante. La idea es que cada salto de potencia venga acompañado de un mecanismo de control equivalente.
El segundo riesgo: una potencia en pocas manos
El segundo escenario es el de la concentración. Altman lo resumió así: "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos". A la vez, reconoció que sortear ambos peligros al mismo tiempo obliga a caminar por lo que llamó un "angosto camino intermedio".
“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI
Qué pidió para reducir el riesgo
- Un marco regulatorio federal que establezca requisitos comunes de seguridad para los modelos de frontera, es decir, los que están en el límite actual de lo que la tecnología puede hacer.
- La incorporación de auditores independientes dentro de los esquemas de supervisión.
- Que las empresas empiecen a aplicar medidas de seguridad por su cuenta, sin esperar a que se aprueben nuevas leyes.
- Coordinación internacional entre gobiernos, un punto en el que, según Altman, las compañías van a necesitar apoyo estatal para avanzar.
La presión competitiva no es excusa
Sobre la pulseada geopolítica por liderar el sector, Altman fue tajante: "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". En otras palabras, la carrera por no quedar atrás no sirve como justificativo para recortar controles.
El cuadro completo deja dos frentes abiertos. Por un lado, la pregunta técnica de fondo: cómo se construyen sistemas cuya potencia crezca al ritmo de los mecanismos que los contienen. Por el otro, la pregunta política: quién audita, quién regula y quién coordina a nivel global para que esa potencia no termine en pocas manos. Todavía no hay respuestas cerradas para ninguno de los dos.
