Un informe erróneo generado con IA puso a un buque chino en la mira de EEUU
El incidente ocurrió a comienzos de año, en el contexto de la guerra con Irán, según cuatro fuentes con conocimiento del caso citadas por el medio estadounidense.
Dos de ellas indicaron que militares armados se alistaron para abordar la embarcación, mientras varias aeronaves estadounidenses sobrevolaban la zona.
La operación se suspendió poco antes de ejecutarse, cuando funcionarios estadounidenses revisaron con más detenimiento la información y determinaron que el chatbot que un analista había utilizado identificó de forma incorrecta el material transportado.
Según CNN, la herramienta combinó información de fuentes abiertas con inteligencia clasificada, almacenada por el Gobierno estadounidense, y concluyó erróneamente que la carga estaba vinculada a un programa de armas nucleares.
La cadena no pudo determinar cuál era la carga real del buque ni si la herramienta era un producto comercial o un sistema desarrollado por el Gobierno de EEUU.
Una de las fuentes calificó el informe de “completamente falso” y afirmó que una eventual intervención contra una embarcación china podría haber provocado una escalada entre Washington y Pekín.
El caso se conoce en un momento en que aumenta el uso de herramientas de IA por parte del Ejército y los servicios de inteligencia estadounidenses, así como las críticas hacia esta tecnología.
El fin de semana pasado, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el que pidió frenar el ritmo de desarrollo de la industria ante los crecientes riesgos de seguridad de la IA.
El texto se suma a declaraciones en la misma línea de Sam Altman, director ejecutivo de OpenAI, y del multimillonario Elon Musk.
El presidente estadounidense, Donald Trump, se opone, en cambio, a regular el sector, pues considera que ello retrasaría a EEUU en la competencia con China por el liderazgo tecnológico.
Fuente: EFE.
