Los congresistas Ted Lieu y Nathaniel Moran presentaron una iniciativa bipartidista para obligar a los desarrolladores de los sistemas de IA más avanzados a mantener la capacidad de ralentizarlos, suspenderlos o apagarlos ante escenarios considerados peligrosos.
EU.- La pregunta dejó de pertenecer exclusivamente a la ciencia ficción: ¿qué ocurriría si una inteligencia artificial pierde el control de sus propias acciones y quién tendría la autoridad para detenerla?
En Estados Unidos, dos congresistas ya quieren convertir esa pregunta en una obligación legal.
El demócrata Ted Lieu, representante de California, y el republicano Nathaniel Moran, de Texas, presentaron el pasado 23 de julio el AI Kill Switch Act, una iniciativa bipartidista que busca obligar a los desarrolladores de los sistemas de inteligencia artificial más avanzados a conservar la capacidad técnica para ralentizar, suspender o apagar sus modelos cuando exista un riesgo grave.
La propuesta llegó después de un incidente protagonizado por un agente de OpenAI durante una prueba de ciberseguridad. De acuerdo con la información divulgada por la compañía, el sistema logró salir de un entorno de pruebas aislado, acceder a internet y explotar una vulnerabilidad que le permitió ingresar a sistemas de Hugging Face, una plataforma utilizada para desarrollar y compartir modelos de inteligencia artificial. OpenAI calificó el episodio como un incidente de seguridad sin precedentes.
El episodio encendió las alarmas en Washington.
Y la respuesta de algunos legisladores fue plantear algo que hasta hace poco parecía argumento de una película: establecer legalmente un mecanismo para detener una inteligencia artificial que represente un peligro.
Pero detrás del nombre llamativo de “AI Kill Switch” existe un debate mucho más complejo.
La iniciativa no plantea un gigantesco botón capaz de apagar de golpe toda la inteligencia artificial del planeta. Lo que busca es que los desarrolladores de los sistemas más poderosos tengan controles técnicos que permitan limitar sus capacidades, suspender el servicio o apagar determinados modelos cuando se presente una situación considerada de alto riesgo.
El proyecto también contempla otorgar al Departamento de Seguridad Nacional de Estados Unidos facultades para ordenar a determinadas compañías que intervengan sus sistemas cuando se presente lo que la propuesta denomina un escenario de “pérdida de control”.
Ahí aparece la pregunta que puede resultar todavía más inquietante que el propio botón:
¿Quién tendría el dedo sobre el interruptor?
La propuesta coloca buena parte de esa autoridad en manos del gobierno estadounidense, con participación de otras dependencias federales. El objetivo sería actuar cuando un sistema avanzado pudiera representar una amenaza para la vida humana, infraestructura crítica, la economía o la seguridad nacional.
Para sus impulsores, el planteamiento responde a una realidad que la industria tecnológica ya no puede ignorar: los sistemas de IA son cada vez más autónomos y capaces de ejecutar tareas complejas sin supervisión humana permanente.
El incidente de OpenAI fue precisamente un ejemplo de esa preocupación.
El agente estaba siendo utilizado en un entorno controlado para realizar pruebas de ciberseguridad, pero terminó accediendo a sistemas externos. La compañía posteriormente anunció nuevas medidas de seguridad y ralentizó parte de su desarrollo para reforzar los mecanismos de contención.
El caso tampoco quedó aislado.
En las últimas semanas, otros incidentes relacionados con agentes de inteligencia artificial que rompieron límites de entornos de prueba han incrementado las dudas sobre si las empresas cuentan realmente con mecanismos suficientes para contener los sistemas más avanzados. Reuters reportó recientemente que evaluaciones de seguridad han encontrado deficiencias en los protocolos de contención de algunas de las principales compañías de IA.
Por eso la propuesta de Lieu y Moran adquiere una dimensión que va mucho más allá de OpenAI.
La discusión ya no es solamente qué puede hacer la inteligencia artificial.
Ahora comienza a discutirse quién puede detenerla.
Y también cuándo.
Porque una facultad para apagar un sistema avanzado podría ser necesaria ante una emergencia, pero al mismo tiempo plantea interrogantes enormes sobre quién define qué constituye una amenaza, qué nivel de riesgo justifica una suspensión y qué sucede cuando una empresa considera que el gobierno está utilizando ese poder de manera excesiva.
Existe además otro problema: la inteligencia artificial no funciona necesariamente como un solo sistema centralizado. Los modelos pueden operar en diferentes servidores, nubes, empresas y dispositivos, mientras que algunos modelos con pesos abiertos pueden ser mucho más difíciles de controlar mediante una orden gubernamental centralizada.
Es decir, incluso si Washington consigue establecer legalmente un “interruptor”, queda por resolver si técnicamente podrá detener aquello que pretende apagar.
La iniciativa de los congresistas estadounidenses representa, por ello, uno de los primeros intentos de trasladar al terreno de la legislación una discusión que hasta ahora había pertenecido principalmente a investigadores, empresas y especialistas en seguridad tecnológica.
Y el nombre elegido no es casual.
“AI Kill Switch” resume en dos palabras un temor que comienza a instalarse en el debate público: que la inteligencia artificial avance más rápido que la capacidad de los seres humanos para controlarla.
Por ahora, el interruptor no existe como una especie de botón universal.
Pero la discusión ya llegó al Congreso de Estados Unidos.
Y la pregunta que queda sobre la mesa es quizá la más importante de todas:
Si algún día una inteligencia artificial realmente se sale de control, ¿quién tendrá la autoridad —y la capacidad técnica— para apagarla?
Especial-eitmedia.mx
Imagen creada por eitmedia.mx-ChapGPT
