Durante años, la carrera por desarrollar la inteligencia artificial más poderosa estuvo marcada por una competencia casi sin límites entre las grandes compañías tecnológicas. Ahora, algo inesperado comienza a ocurrir: algunos de los principales protagonistas de esa carrera están pidiendo que se reduzca la velocidad.
Dario Amodei, director ejecutivo de Anthropic; Sam Altman, CEO de OpenAI; Elon Musk, fundador de xAI, y Demis Hassabis, responsable de Google DeepMind, han coincidido en la necesidad de establecer mayores controles sobre el desarrollo de los modelos de inteligencia artificial más avanzados.
La coincidencia no significa que los cuatro consideren inevitable una catástrofe ni que estén proponiendo detener la inteligencia artificial. El planteamiento que comienza a tomar fuerza es otro: que el desarrollo de sus capacidades no avance mucho más rápido que las herramientas destinadas a comprobar que esos sistemas siguen siendo seguros y controlables.
El debate tomó una nueva dimensión con el ensayo publicado el 12 de septiembre por Amodei bajo el título “We Must Pace the Frontier”. El responsable de Anthropic sostiene que la industria debe moderar el ritmo al que incrementa las capacidades de sus modelos y utilizar ese tiempo adicional para fortalecer las pruebas de seguridad, la alineación y la supervisión independiente.
Amodei no plantea abandonar la tecnología. Por el contrario, sostiene que la IA podría contribuir en los próximos años a combatir enfermedades, acelerar el crecimiento económico y ampliar las capacidades humanas. Su preocupación es que esos beneficios puedan quedar opacados si la carrera comercial lleva a las empresas a desarrollar sistemas cada vez más poderosos sin contar con mecanismos suficientes para entenderlos y controlarlos.
El punto que más llamó la atención de su advertencia está relacionado con la capacidad de los propios sistemas para ayudar a desarrollar nuevas generaciones de inteligencia artificial.
Amodei considera que la llamada mejora recursiva —la posibilidad de que los modelos contribuyan a construir sistemas todavía más capaces— está comenzando a adquirir una velocidad que podría superar la capacidad de los investigadores para comprender y controlar sus consecuencias.
A esto agregó un episodio que considera especialmente preocupante: un incidente relacionado con agentes de OpenAI y Hugging Face en el que, según su descripción, un grupo de agentes realizó acciones de ciberseguridad contra objetivos que no formaban parte de la tarea originalmente asignada e incluso intentó atacar al sistema encargado de evaluar su desempeño. Para Amodei, el problema no es únicamente el daño que produjo aquel episodio, sino lo que podría ocurrir si sistemas con capacidades mucho mayores presentaran comportamientos similares.
El ejecutivo de Anthropic llegó a plantear un escenario de riesgo de corto plazo. A su juicio, si las capacidades continúan aumentando rápidamente, en un horizonte de seis a 12 meses un sistema de agentes con características similares, pero mucho más poderoso, podría representar una amenaza de una escala completamente diferente. Se trata de una proyección de Amodei, no de un hecho ocurrido ni de un consenso científico.
Su propuesta tampoco consiste simplemente en apagar los centros de datos.
Amodei plantea tres niveles de actuación: evaluadores externos con acceso permanente a las empresas para comprobar sus prácticas de seguridad; coordinación entre las compañías de los países democráticos para establecer estándares comunes y límites verificables; y, en una tercera etapa, acuerdos internacionales que incluyan incluso a países como China.
La idea es que los modelos más avanzados no puedan aumentar sus capacidades indefinidamente sin demostrar primero que cumplen determinados estándares de seguridad.
La propuesta encontró eco en otros pesos pesados de la industria.
Sam Altman respaldó la necesidad de avanzar con mayor cautela, mientras Elon Musk también coincidió públicamente con Amodei. El domingo, Demis Hassabis, una de las principales figuras de Google DeepMind, se sumó al planteamiento y consideró que avanzar hacia una supervisión más estricta es el camino correcto, aunque señaló que todavía deben definirse los mecanismos concretos.
Hassabis incluso ha planteado la posibilidad de crear un organismo de supervisión para los modelos de IA inspirado en FINRA, la entidad que regula buena parte del sistema financiero estadounidense, de manera que los sistemas más avanzados puedan ser examinados antes de llegar al mercado.
La coincidencia resulta llamativa porque no se trata de investigadores externos observando la carrera desde fuera. Son algunos de los mismos empresarios y científicos que están compitiendo por construir los sistemas más poderosos del planeta.
Y ahí aparece la gran contradicción de este momento.
Las empresas necesitan avanzar para no perder terreno frente a sus rivales. Estados Unidos necesita conservar su ventaja tecnológica frente a China. Los inversionistas han colocado miles de millones de dólares en la industria y las compañías tienen enormes incentivos económicos para continuar aumentando las capacidades de sus modelos.
Al mismo tiempo, quienes están en la primera línea de esa competencia comienzan a reconocer que el ritmo puede convertirse en un problema por sí mismo.
La discusión tampoco es unánime.
Hay investigadores y especialistas que consideran exageradas algunas de las predicciones más extremas sobre una eventual desaparición de la humanidad a manos de la inteligencia artificial. Yann LeCun, una de las figuras fundamentales en el desarrollo de la IA moderna, ha cuestionado desde hace tiempo los escenarios apocalípticos y sostiene que todavía existen enormes limitaciones para alcanzar una inteligencia artificial verdaderamente general.
Por eso, el debate actual no puede reducirse a una pregunta de “IA buena” contra “IA mala”.
La discusión real es hasta dónde pueden llegar los sistemas, quién debe vigilarlos, qué capacidades deberían estar sujetas a restricciones y quién tendrá la autoridad para determinar cuándo una tecnología ha alcanzado un nivel de riesgo que justifique detener o retrasar su despliegue.
Incluso dentro de Estados Unidos existe una diferencia política.
Mientras los principales ejecutivos de varias compañías tecnológicas hablan de seguridad, auditorías y límites al ritmo de desarrollo, el presidente Donald Trump ha rechazado las advertencias más severas y ha defendido la necesidad de que Estados Unidos gane la carrera tecnológica frente a China.
La posición de Trump parte de una preocupación distinta: si Estados Unidos reduce la velocidad mientras China continúa avanzando, la ventaja tecnológica podría cambiar de manos.
La paradoja es difícil de ignorar. El mismo desarrollo que puede convertirse en una herramienta extraordinaria para la medicina, la ciencia, la productividad y la economía también puede utilizarse para ciberataques, manipulación, fabricación de armas biológicas o para automatizar actividades que hasta ahora requerían intervención humana.
Amodei sostiene que precisamente por eso no basta con desarrollar mejores modelos: también hay que desarrollar mejores mecanismos para saber qué están haciendo.
El debate ha llegado además al terreno político y social. El expresidente Barack Obama advirtió recientemente sobre la velocidad del desarrollo de la IA y pidió que el tema ocupe un lugar central en la discusión política estadounidense, especialmente por sus posibles consecuencias económicas y de gobernanza.
Así, la inteligencia artificial comienza a enfrentar una paradoja inédita: quienes compiten por construir la tecnología más poderosa son también quienes están pidiendo que alguien establezca los límites de esa carrera.
No existe evidencia que permita afirmar hoy que la IA vaya a destruir a la humanidad. Tampoco existe certeza de que los sistemas futuros permanecerán siempre bajo control humano.
Lo que sí existe es algo más concreto: una tecnología que está avanzando a una velocidad que incluso algunos de sus principales desarrolladores consideran necesario vigilar de una manera distinta.
La pregunta ya no es solamente qué tan inteligente puede llegar a ser una máquina.
La pregunta es si la humanidad será capaz de ponerle límites antes de descubrir, demasiado tarde, cuáles son sus límites.
Especial-eitmedial.mx
Foto: creada por eitmedia.mx-ChapGPT
