La inteligencia artificial atraviesa una etapa decisiva. Mientras algunos de sus principales desarrolladores advierten que el ritmo de avance debería moderarse para reducir riesgos, otros sostienen que detenerse o avanzar más lentamente podría significar perder una de las competencias tecnológicas más importantes de nuestro tiempo.

En medio de este debate aparece una pregunta fundamental: ¿Qué ocurre cuando la inteligencia artificial deja de limitarse a responder preguntas y comienza a actuar por nosotros?

Entre acelerar y poner límites

Dario Amodei, fundador de Anthropic, empresa creadora de Claude, pidió que los modelos de inteligencia artificial más poderosos avancen con mayor cuidado.

La preocupación no es aislada. Sam Altman, creador de ChatGPT; Elon Musk, creador de Grok; y Demis Hassabis, creador de Gemini, también han señalado que existen razones para tomar en serio los riesgos asociados con el desarrollo acelerado de esta tecnología.

Sin embargo, desde otra perspectiva, también existe preocupación por el costo de disminuir el ritmo.

Donald Trump ha señalado que Estados Unidos compite directamente con China en el desarrollo de inteligencia artificial y que reducir la velocidad mientras China continúa avanzando podría representar una desventaja tecnológica.

Su planteamiento puede resumirse en una frase: “Quien gane la inteligencia artificial, gana todo”.

Y ambas preocupaciones tienen sentido.

Ningún país puede darse el lujo de quedarse atrás en inteligencia artificial. Quien consiga dominar esta tecnología podría obtener ventajas importantes en ámbitos como la ciencia, la medicina, la industria, la defensa y la economía.

Pero, al mismo tiempo, quienes piden prudencia plantean una cuestión que cada vez resulta más difícil ignorar.

El cambio: de responder preguntas a actuar

Durante años, la inteligencia artificial se utilizó principalmente como una herramienta a la que una persona hacía preguntas y de la que esperaba respuestas.

Ahora estamos entrando en una etapa diferente: sistemas capaces de realizar tareas por nosotros.

Imaginemos que una sola persona pudiera poner a trabajar simultáneamente a mil agentes de inteligencia artificial. Mientras unos buscan vulnerabilidades en una empresa, otros podrían escribir código, intentar acceder a diferentes sistemas, imitar voces o hacerse pasar por personas reales. Además, estos sistemas podrían aprender de los errores que van cometiendo.

Ahí aparece una de las principales preocupaciones.

El problema no necesariamente consiste en imaginar robots tomando las calles o una computadora que, de repente, decida acabar con la humanidad. El escenario más inmediato puede ser mucho más cercano y complejo: la inteligencia artificial teniendo acceso a los espacios digitales donde hemos concentrado buena parte de nuestra vida.

El verdadero punto vulnerable: Internet

Internet concentra una cantidad enorme de información y actividades esenciales.

Ahí están nuestro dinero, fotografías, documentos, conversaciones y negocios. También funcionan bancos, hospitales, universidades, empresas y gobiernos.

La sociedad construyó este ecosistema para facilitar la vida de las personas, pero, fundamentalmente, pensando en seres humanos utilizando computadoras.

Y desde hace mucho tiempo Internet tampoco ha sido un espacio libre de amenazas.

Fraudes, extorsiones, espionaje, robo de identidad, campañas de desinformación y ataques informáticos ya forman parte de los riesgos conocidos del entorno digital.

La diferencia es que realizar estas acciones a gran escala tradicionalmente requiere recursos considerables: personas, conocimientos, dinero, infraestructura y tiempo.

¿Qué ocurre cuando la inteligencia artificial reduce drásticamente ese costo?

Esa es, precisamente, una de las advertencias centrales.

Cuando una persona puede hacer el trabajo de miles

La posibilidad más inquietante no necesariamente está en que las máquinas acumulen poder por sí mismas, sino en que una persona pueda utilizar herramientas de inteligencia artificial para realizar actividades que antes requerían cientos o incluso miles de personas.

La transcripción plantea incluso un escenario en el que, si el desarrollo continúa al ritmo actual, en seis o doce meses podrían existir enjambres de agentes capaces de comprometer sistemas a gran escala, incluso de un país.

El plazo puede ser incierto, pero la posibilidad forma parte de la preocupación.

Durante años, el debate alrededor de la inteligencia artificial se concentró en qué ocurriría cuando una máquina tuviera demasiado poder.

Ahora podría ser necesario prestar atención a otra pregunta:

¿Qué ocurre cuando una sola persona puede utilizar inteligencia artificial para hacer lo que antes requería cientos o miles de personas?

La carrera no puede ignorar la prudencia

El desarrollo de inteligencia artificial representa una oportunidad que ningún país debería ignorar. Es necesario desarrollarla, aprender a utilizarla, invertir en ella y aprovechar las posibilidades que ofrece.

Pero avanzar no significa necesariamente hacerlo sin límites.

La preocupación de quienes piden mayor prudencia también plantea un desafío relevante: ganar la carrera tecnológica no debería significar correr tan rápido que dejemos de comprender qué estamos poniendo en manos de sistemas cada vez más capaces.

El debate, por tanto, no parece reducirse simplemente a acelerar o detenerse. Se trata de encontrar la manera de avanzar sin perder de vista las consecuencias de poner capacidades cada vez mayores al alcance de individuos y organizaciones.

El poder de la inteligencia artificial

Quizá el primer gran problema de la inteligencia artificial no sea que las máquinas acumulen demasiado poder.

Puede ser algo distinto: que terminen multiplicando demasiado el poder de unos cuantos.

La carrera por la inteligencia artificial apenas comienza a definir sus verdaderas dimensiones. Mientras los países y las empresas buscan mantenerse a la vanguardia, el desafío será aprovechar sus capacidades sin perder de vista los riesgos que aparecen cuando una tecnología poderosa puede multiplicar, a una escala inédita, lo que una sola persona es capaz de hacer.