Durante años nos dijeron que la inteligencia artificial cambiaría el mundo. Que revolucionaría la medicina, la educación, la ciencia y la productividad.
Y probablemente lo hará.
Pero algo cambió. Quienes están construyendo las máquinas más poderosas del planeta comenzaron a advertir sobre sus propios riesgos.
La conversación dejó de ser solamente sobre empleos que desaparecerán, deepfakes o máquinas capaces de escribir y razonar. Ahora la palabra es otra: control.
Investigadores dedicados precisamente a estudiar la seguridad de estos sistemas han advertido sobre escenarios extremos, incluida la posibilidad de una catástrofe para la humanidad. No existe consenso científico sobre que eso vaya a ocurrir y muchos consideran exageradas esas predicciones.
Pero la alarma no puede simplemente ignorarse.
Ya no es ciencia ficción
La preocupación tampoco se limita al futuro.
Ya se han documentado usos de inteligencia artificial en operaciones cibernéticas, fraude, vigilancia e influencia. La IA está reduciendo una barrera peligrosa: capacidades que antes exigían equipos de especialistas, grandes recursos y mucho tiempo empiezan a estar disponibles para muchas más personas.
La misma herramienta que puede ayudar a encontrar una cura puede encontrar una vulnerabilidad. La que acelera un descubrimiento científico también puede acelerar un ataque.
Ahí comienza el verdadero código rojo.
Una carrera que nadie quiere perder
Hay además un problema gigantesco: nadie quiere frenar primero.
Estados Unidos teme que China gane. China teme que Estados Unidos gane. Una empresa teme que su competidor llegue antes. Los inversionistas exigen velocidad y cada nuevo modelo obliga a responder con otro más poderoso.
