Expertos de la ONU advierten sobre la inteligencia artificial y firman una carta advirtiendo líneas rojas: “Pandemias artificiales”

Diez ganadores del Premio Nobel forman parte de las más de 200 personas que han firmado una carta pidiendo a las Naciones Unidas que definan y apliquen “líneas rojas” que controlen y hasta prohíban algunos usos de la inteligencia artificial. “Algunos sistemas avanzados de IA ya han mostrado un comportamiento engañoso y dañino, y sin embargo, se les está otorgando mayor autonomía para actuar y tomar decisiones en el mundo”, aseguran los firmantes, no sin advertir que pronto la IA podría superar ampliamente las capacidades humanas actuales.

Expertos advierten sobre los peligros de la IA

Tanto es así, que en el mismo documento se advierte que la IA “pronto podría superar con creces las capacidades humanas y agravar riesgos como pandemias artificiales, desinformación generalizada, manipulación a gran escala de personas, incluidos niños, preocupaciones de seguridad nacional e internacional, desempleo masivo y violaciones sistemáticas de los derechos humanos”, detallan en la carta enviada a la ONU.

En este mismo documento disponible en el sitio web redlines.ai, los firmantes piden a la ONU que prohíba el uso de IA en circunstancias que el grupo considere demasiado peligrosas, incluyendo dar a los sistemas de IA control directo de armas nucleares, usarla para vigilancia masiva y hacerse pasar por humanos sin revelar la participación de la IA. En este sentido, los expertos piden a la ONU que se establezcan controles globales obligatorios sobre la IA para fines de 2026, advirtiendo que, una vez desatados, nadie podría controlarlos.

Entre los firmantes del llamado se incluyen Geoffrey Hinton, quien ganó un Premio Nobel por su trabajo en IA, el ganador del Premio Turing Yoshua Bengio, el cofundador de OpenAI y desarrollador de ChatGPT Wojciech Zaremba, el CISO de Anthropic Jason Clinton y el científico investigador de Google DeepMind Ian Goodfellow. Sin embargo, personalidades como el CEO de DeepMind, Demis Hassabis, o Sam Altman de OpenAI, no firmaron el documento, lo que ha generado algunas reacciones incómodas.

En este sentido, el grupo advierte que la ONU debe actuar lo antes posible porque teme que una reacción más lenta llegue demasiado tarde para regular eficazmente la IA: “Si no se controla, muchos expertos, incluidos aquellos que están a la vanguardia del desarrollo, advierten que será cada vez más difícil ejercer un control humano significativo en los próximos años”, argumentan.

Otros tratados internacionales de gran alcance

Y es que los firmantes de la propuesta de aplicar líneas rojas sobre la IA señalan que la ONU ya ha desarrollado acuerdos similares, como el Tratado de No Proliferación de Armas Nucleares de 1970 , aunque pasa por alto el hecho de que varias naciones con armas nucleares no lo firmaron (como India, Israel o Pakistán) o se retiraron del pacto, como Corea del Norte en 2003, país que lanzó su primera bomba tres años después.

Por otro lado, el Tratado de Montreal de 1987, que prohíbe el uso de sustancias químicas que dañan la capa de ozono, ha funcionado en gran medida. La mayoría de los principales desarrolladores de IA también han suscrito los Compromisos de Seguridad de la IA Fronteriza, acordados en mayo pasado, en los que los firmantes firmaron una resolución no vinculante para desmantelar un sistema de IA que pueda volverse demasiado peligroso.

A pesar de las nobles intenciones de los autores, es poco probable que la ONU le preste poca atención, ya que entre la guerra en curso en Ucrania, la situación en Gaza y muchos otros problemas mundiales acuciantes, la agenda de la Asamblea General de la ONU de esta semana ya está repleta. Y así seguirá durante las siguientes semanas y meses.

Sigue el canal de MeriStation en Twitter. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.

¡Suscríbete! Si estás interesado en licenciar este contenido, pincha aquí.