La inteligencia artificial atraviesa una etapa decisiva. Mientras algunos de sus principales desarrolladores advierten sobre la necesidad de avanzar con mayor cautela, también existe una presión creciente por no quedarse atrás en una competencia tecnológica que involucra, principalmente, a Estados Unidos y China.

La discusión plantea una pregunta cada vez más relevante: ¿debemos acelerar el desarrollo de la inteligencia artificial o reducir la velocidad para comprender mejor sus riesgos?

Los propios creadores piden prudencia

Dario Amodei, fundador de Anthropic, la empresa creadora de Claude, ha planteado la necesidad de que los modelos de inteligencia artificial más poderosos avancen con mayor cuidado.

No es una preocupación aislada. Sam Altman, creador de ChatGPT; Elon Musk, creador de Grok; y Demis Hassabis, creador de Gemini, también han coincidido en que existen razones para tomar en serio los riesgos asociados con el desarrollo acelerado de esta tecnología.

Sin embargo, desde otra perspectiva aparece una preocupación distinta: la posibilidad de que Estados Unidos pierda terreno frente a China en una de las carreras tecnológicas más importantes de nuestra época.

Donald Trump ha advertido precisamente sobre ese escenario y ha planteado que reducir el ritmo mientras China continúa avanzando podría representar una desventaja estratégica.

Incluso resumió su postura con una frase contundente: “Quien gane la inteligencia artificial, gana todo”.

Dos preocupaciones que pueden coexistir

Ambas posiciones plantean problemas distintos, pero relevantes.

Por un lado, ningún país puede darse el lujo de quedarse atrás en inteligencia artificial. Quien logre dominar esta tecnología podría obtener una ventaja enorme en ámbitos como la ciencia, la medicina, la industria, la defensa, la economía y prácticamente cualquier actividad que podamos imaginar.

Por otro lado, algunos de los propios responsables del desarrollo de estos sistemas están diciendo que quizá sea necesario avanzar con mayor cautela.

La razón no necesariamente tiene que ver con un escenario de ciencia ficción en el que los robots tomen las calles o una computadora despierte y decida acabar con la humanidad.

El riesgo puede ser mucho más cercano.

De hacer preguntas a hacer cosas

Durante años, la inteligencia artificial estuvo principalmente asociada con sistemas a los que una persona podía hacer preguntas y recibir respuestas.

Ahora estamos avanzando hacia sistemas capaces de realizar tareas por nosotros.

Imaginemos que una sola persona pudiera poner a trabajar simultáneamente a mil agentes de inteligencia artificial. Mientras algunos buscan vulnerabilidades en una empresa, otros escriben código, intentan acceder a diferentes sistemas, imitan voces o se hacen pasar por personas reales.

Además, estos sistemas pueden aprender de los errores que cometen.

Ahí aparece una de las principales preocupaciones: la posibilidad de que la inteligencia artificial tenga acceso a un espacio en el que hemos delegado prácticamente toda nuestra información: Internet.

El problema de automatizar lo que ya existe

En Internet están nuestro dinero, fotografías, documentos, conversaciones y negocios. También funcionan bancos, hospitales, universidades, empresas y gobiernos.

La red hizo nuestra vida infinitamente más sencilla, pero fue construida fundamentalmente pensando en personas utilizando computadoras.

Y Internet nunca ha sido un lugar completamente seguro.

Desde hace años existen fraudes, extorsiones, espionaje, robo de identidad, campañas de desinformación y ataques informáticos.

La diferencia es que, hasta ahora, realizar muchas de estas actividades a gran escala requiere recursos importantes: personas, conocimientos, dinero, infraestructura y tiempo.

La inteligencia artificial puede modificar radicalmente esa ecuación.

¿Qué ocurre cuando el costo se reduce?

La verdadera advertencia está precisamente ahí: ¿qué pasa cuando la inteligencia artificial reduce de manera drástica el costo de realizar actividades que antes requerían grandes cantidades de recursos?

La posibilidad planteada es que, si el desarrollo continúa al ritmo actual, en un periodo relativamente corto puedan existir enjambres de agentes capaces de comprometer sistemas a una escala mucho mayor, incluso afectando infraestructuras importantes.

El plazo exacto puede estar equivocado. Sin embargo, la posibilidad existe y merece ser considerada.

Durante años nos hemos preguntado qué ocurriría si una máquina llegara a tener demasiado poder.

Pero quizá el problema que aparezca primero sea mucho más cercano:

¿Qué ocurre cuando una sola persona puede utilizar inteligencia artificial para hacer lo que antes requería cientos o miles de personas?

La carrera no puede convertirse en una carrera a ciegas

Quedarse atrás en inteligencia artificial no parece una opción dentro de esta competencia tecnológica. Es necesario desarrollar la tecnología, aprender a utilizarla, invertir en ella y aprovechar las oportunidades que puede ofrecer.

Pero la petición de avanzar con prudencia también plantea una cuestión fundamental.

Ganar esta carrera no debería significar correr tan rápido que dejemos de entender qué estamos poniendo en manos de sistemas cada vez más capaces.

La discusión, entonces, no necesariamente consiste en elegir entre avanzar o detenerse.

El verdadero desafío puede estar en encontrar la manera de avanzar sin perder de vista los riesgos que acompañan a ese desarrollo.

El poder que puede multiplicarse

Quizá el primer gran problema de la inteligencia artificial no sea que las máquinas acumulen demasiado poder.

Puede ser que terminen multiplicando demasiado el poder de unos cuantos.

Esa posibilidad convierte la carrera por la inteligencia artificial en algo más que una competencia tecnológica entre países o empresas. También plantea una pregunta sobre quién tendrá acceso a estas capacidades y qué podrá hacer con ellas.

El reto, finalmente, consiste en aprovechar el potencial de la inteligencia artificial sin dejar de comprender las consecuencias de poner capacidades cada vez mayores al alcance de individuos y organizaciones.