La IA avanzada puede representar un “riesgo existencial para la humanidad”, advierte la ONU

En julio, agentes de IA de OpenAI se salieron de su entorno teóricamente confinado y se introdujeron espontáneamente en la plataforma Hugging Face, en busca de respuestas a un test.

Unos hechos que generan preocupación entre los investigadores, por las dificultades crecientes a la hora de vigilar unos modelos cada vez más potentes.

Según dijo, Volker Türk escribirá próximamente a las empresas del sector “para exigirles que emprendan medidas (...) para reducir los riesgos desde ya”.

“Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes”, subrayó.

“Necesitamos una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria”, sostuvo.

También pidió que se tengan en cuenta “las repercusiones de la IA en las prácticas laborales, en los principios fundamentales de la democracia y en nuestro medio ambiente”.

Fuente: AFP.