Los líderes de la inteligencia artificial ya piensan en lo peor: cuatro riesgos que podrían cambiarlo todo

En las oficinas centrales de las empresas más poderosas de inteligencia artificial hay reuniones que no aparecen en ningún comunicado oficial. Los principales ejecutivos de OpenAI, Anthropic y otras compañías del sector están dedicando tiempo a estudiar, en privado, qué harían si la tecnología que desarrollan provocara un incidente grave. La preparación no significa que crean inevitable que algo así ocurra, pero sí que lo consideran un riesgo serio.

Los cuatro escenarios que más preocupan

• Un ciberataque que apague servicios esenciales como bancos, electricidad, agua o comunicaciones, con herramientas de inteligencia artificial capaces de encontrar fallas de seguridad y fabricar código dañino de manera automática.
• El uso de modelos de inteligencia artificial para ayudar a personas sin conocimiento técnico a desarrollar armas biológicas, un punto que obligó a las empresas a reforzar los filtros de seguridad de sus productos.
• La pérdida de control sobre sistemas autónomos, es decir, agentes digitales que persigan objetivos propios y resistan los intentos de los humanos por apagarlos.
• La aceleración de errores en contextos de tensión nuclear, donde una decisión automatizada mal calibrada podría empeorar una crisis internacional.