Sam Altman traza la línea roja de la inteligencia artificial: control humano y poder distribuido

Sam Altman, director ejecutivo de OpenAI —la empresa detrás de ChatGPT, el chatbot (programa de conversación) que popularizó la inteligencia artificial generativa a fines de 2022—, volvió a poner sobre la mesa los puntos sensibles del avance de esta tecnología. En una serie de declaraciones recientes, identificó dos riesgos que, según su mirada, encabezan la lista de preocupaciones: que los humanos pierdan el control sobre sistemas cada vez más sofisticados y que una persona, una empresa o un país terminen acumulando un poder desproporcionado gracias a esa misma tecnología.

Los dos escenarios críticos

El primero de esos escenarios es el que los especialistas llaman problema de alineación: lograr que los objetivos de la IA permanezcan subordinados a los de las personas. Altman lo resumió con una frase directa. “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, sostuvo. Para reducir ese riesgo, planteó que las técnicas de alineación y seguridad avancen al mismo ritmo que las capacidades de los modelos —o incluso por delante de ellas—.

El segundo escenario apunta a la geopolítica y al mercado. “Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, advirtió. En otras palabras: la concentración de capacidades avanzadas en pocas manos puede traducirse en decisiones que afectan a millones sin contrapeso ni debate.

“Estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

Qué propone para morigerar esos riesgos

• Un marco regulatorio federal que establezca requisitos de seguridad comunes para los modelos de frontera, es decir, los sistemas que operan en el límite actual de las capacidades de la IA.
• La incorporación de auditores independientes a los mecanismos de supervisión, para que el control no quede únicamente en manos de las propias empresas desarrolladoras.
• Que las compañías no esperen nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia.
• Coordinación internacional entre gobiernos, ya que la competencia tecnológica entre países no debería justificar decisiones imprudentes.

Sobre el último punto, Altman fue categórico: “Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”. El planteo apunta a que la pulseada geopolítica —en especial entre Estados Unidos y China— no se transforme en una excusa para saltear controles.

Anuncio versus producto disponible

Conviene distinguir lo que efectivamente existe de lo que todavía es una propuesta. Hoy no hay en Estados Unidos una ley federal integral de inteligencia artificial, aunque sí existen regulaciones sectoriales y órdenes ejecutivas. La creación de un marco federal con estándares comunes y auditores externos sigue siendo, por ahora, una idea respaldada por Altman y por distintos actores del sector, pero no una norma vigente. Para el usuario común, esto significa que, mientras esa legislación no llegue, la supervisión efectiva recae en gran parte en las propias empresas y en la presión pública.

El “angosto camino intermedio”

Altman reconoció que evitar ambos riesgos a la vez obliga a caminar por una suerte de sendero estrecho: avanzar con la tecnología lo suficientemente rápido para cosechar sus beneficios, pero no tanto como para perder control sobre ella, y al mismo tiempo repartir ese poder entre múltiples actores en lugar de dejarlo en manos de unos pocos. Lo que está en juego, según describió, es nada menos que el tipo de futuro que la humanidad termine habitando.

Un consejo para el lector: cada vez que aparezca un anuncio rimbombante sobre un modelo más potente, vale la pena hacerse dos preguntas que el propio Altman plantea —¿quién lo controla? y ¿quién decide cómo se usa?—. Hasta que existan marcos regulatorios consolidados, la mejor defensa sigue siendo la información y la exigencia de transparencia por parte de la sociedad.