Un grupo internacional de especialistas comenzó a trazar la ruta sobre cómo la inteligencia artificial está transformando la sociedad, con una premisa clara: que la tecnología esté al servicio de las personas y no al revés. Entre las propuestas destacan el impulso de la llamada inteligencia aumentada —que fortalece las capacidades humanas en lugar de sustituirlas— y la implementación de mecanismos como marcas de agua para diferenciar contenidos creados por humanos de los generados por máquinas.
El análisis está a cargo del Panel Científico Internacional Independiente sobre IA, el primer organismo de alcance mundial enfocado exclusivamente en evaluar el impacto de la inteligencia artificial. Este grupo se prepara para celebrar su primera cumbre presencial, en la que se abordará la relación entre innovación tecnológica y principios éticos.
Impulsado por la Organización de las Naciones Unidas, el panel reúne a 40 expertos provenientes de diversos sectores, incluidos el académico, empresarial, gubernamental y técnico. Su misión es elaborar evaluaciones científicas sobre los riesgos, oportunidades e impactos de la IA, sin imponer regulaciones, pero ofreciendo información clave para la toma de decisiones.
Entre sus integrantes se encuentra Menna El-Assady, profesora del Instituto Federal Suizo de Tecnología en Zúrich, quien subraya que el enfoque del grupo va más allá de lo técnico. “No nos centramos únicamente en la IA como un campo matemático, también buscamos garantizar que los seres humanos ocupen un lugar central en la toma de decisiones”, afirma.
Uno de los conceptos clave es el de “inteligencia aumentada”, que promueve la colaboración entre humanos y sistemas de IA. La idea es mantener siempre “un humano en la máquina”, es decir, que las decisiones automatizadas cuenten con supervisión y criterio humano.
El panel también analiza cómo esta tecnología impacta sectores sensibles como el empleo y la salud, además de plantear la necesidad de una infraestructura digital pública que permita el acceso equitativo al desarrollo de IA y la inclusión de diversas culturas e idiomas en los modelos tecnológicos.
Las preocupaciones sobre los riesgos de una IA sin control han sido reiteradas por figuras como António Guterres, quien advirtió que el destino de la humanidad no debe quedar en manos de algoritmos, y Volker Türk, que alertó sobre los peligros de desarrollar sistemas sin bases éticas sólidas.
En este contexto, la propuesta de incorporar “marcas de agua” en contenidos generados por inteligencia artificial busca fortalecer la confianza pública y combatir la desinformación, al permitir identificar claramente el origen de la información.
El primer informe del panel será presentado en el Diálogo Global sobre la Gobernanza de la IA, programado para julio en Ginebra, donde se espera sentar las bases para una discusión global sobre el futuro de esta tecnología y su impacto en la humanidad.
Con información de https://news.un.org/ Por Conor Lennon y Khaled Mohamed
eitmedia.mx
