Un informe de la compañía Anthropic recopila usos irregulares de la inteligencia artificial que incluyen el diseño de misiles por los hutíes de Yemen, enjambres de drones para uso de Rusia y ensayos chinos para sortear las defensas antimisiles estadounidensesUn ingeniero de Anthropic dimite y denuncia que las empresas de IA ocultan su riesgo real: “Están apostando nuestras vidas”
La inteligencia artificial sigue dando muestras de descontrol. La empresa estadounidense Anthropic publicó el jueves un informe en el que repasa varios supuestos de uso ilegítimo de sus herramientas de acceso público en los últimos meses, entre ellas la popular Claude. De los episodios detectados destaca que tanto Irán como los rebeldes hutíes de Yemen han utilizado la tecnología para acelerar desarrollos armamentísticos. En el caso iraní, un sistema para localizar naves estadounidenses. En el de sus aliados de la península arábiga, el diseño y prueba de cohetes y misiles balísticos. También actores vinculados a Rusia —para el diseño de enjambres de drones— y China —para neutralizar las defensas antiaéreas de EEUU— se sirvieron de la IA con fines militares. La empresa dice que cortó el acceso a los responsables tras descubrir lo sucedido.
El intento yemení es de los más sofisticados. Un equipo de informáticos empleó Claude en tres procesos paralelos para evitar que saltasen las alarmas. Consiguieron que la IA crease el software de guiado de un cohete a partir de los componentes de un teléfono móvil e incluso realizaron un ensayo real del arma cuyos resultados volvieron a pasar por la inteligencia artificial para que analizase los errores.
El informe explica: “Los atacantes gestionaron varias instancias de Claude a la vez, asignando a cada una un rol, de forma muy similar a como un jefe delegaría el trabajo en un pequeño equipo de ingeniería: los atacantes encargaron a una instancia que escribiera el código, a otra que investigara y a una tercera que revisara el código producido por la primera instancia”, señala el estudio, que no identifica directamente a los hutíes, sino que habla de “una célula actores maliciosos con base en el norte de Yemen [el territorio que controlan los rebeldes]”.
Los atacantes gestionaron varias instancias de Claude a la vez, asignando a cada una un rol, de forma muy similar a como un jefe delegaría el trabajo en un pequeño equipo de ingeniería
El proceder de “un actor malicioso vinculado a Irán” no buscaba crear armas propiamente, pero sí identificar objetivos navales estadounidenses, fundamentales en el juego del gato y el ratón en que se ha convertido el paso de petróleo y gas por el estrecho de Ormuz, al que EEUU destaca buena parte de sus esfuerzos militares.
Mediante un programa informático automatizado se seleccionaban objetivos con el apoyo de Claude a partir de fuentes abiertas; por ejemplo, una lista de personal estadounidense extraída de los pies de foto de fotografías militares públicas; identificadores de transpondedores de buques y aeronaves, también de acceso público; secuencias de comandos para la consulta de imágenes de satélites comerciales; y un inventario de sitios web públicos que revelaban los movimientos navales de EEUU.
Claude también ayudó a los actores de matriz iraní a recopilar fallos de seguridad en los sistemas de los barcos y sus satélites de comunicaciones.
China quiso neutralizar las defensas antimisiles de EEUU
El profuso documento, de 150 páginas, detalla usos malintencionados que no se pueden siempre vincularse definitivamente a actores concretos, pero que tienen vínculos con los aparatos de defensa de China y Rusia. En el caso del gigante asiático, destaca, entre otros el empleo de Claude para redactar y elaborar una oferta para un concurso público en un contrato de defensa para la compra de un sistema de defensa contra torpedos. Para sortear los controles, los usuarios se hicieron pasar por un fabricante estadounidense.
Pero el caso más llamativo de los salidos del gigante asiático es el diseño, desarrollo y pulido de sistemas para bloquear radares y neutralizar defensas aéreas, de nuevo a través de Claude. Las órdenes que recibió la IA ponían especial énfasis en la necesidad de contrarrestar los sistemas antiaéreos estadounidenses Patriot y THAAD (las muy costosas baterías contra misiles balísticos). “A mitad del proyecto, observamos que el actor modificó el escenario predeterminado de la simulación a 12 objetivos en Taiwán”, relata el trabajo, que incide en que los metadatos de la cuenta y el contenido indicaron que el actor estaba vinculado a instituciones de investigación chinas.
Los analistas de Anthropic no establecen un vínculo directo con el Estado ruso sino con un «probable actor ‘freelance'» que se sirvió de la IA para construir un sistema de drones en enjambre completamente autónomo
Por lo que se refiere a Rusia, los analistas de Anthropic relacionan uno de los casos que hicieron saltar las alarmas con un “probable actor freelance” que se sirvió de la IA para construir un sistema de drones en enjambre completamente autónomo de los que explotan al contactar con el objetivo. Para que supiese distinguir entre “amigo” y “enemigo”, los programadores utilizaron vídeos de operaciones de combate en Ucrania. Los responsables, con vínculos con un centro de investigación ligado a la Academia de Ciencias de Rusia, se saltaron el bloqueo a través de servidores virtuales privados, que permiten suplantar la ubicación original.
Aparte de los usos claramente militares, el informe también recopila varios usos fraudulentos vinculados al espionaje electrónico y la represión interna, la ciberdelincuencia y la difusión de relatos informativos manipulados en redes sociales, pero también de la publicidad o el activismo informático o hacktivismo.
Anthropic, que ocupó esta semana los titulares después de que un exempleado advirtiese del potencial “mortal” de la inteligencia artificial, no se plantea frenar su desarrollo y publica el estudio para “ayudar a otros desarrolladores a identificar patrones similares en sus propias plataformas, ofrecer a los gobiernos y a la sociedad civil una visión más clara de cómo se configuran las amenazas emergentes y reforzar las defensas colectivas”. Un informe de la compañía Anthropic recopila usos irregulares de la inteligencia artificial que incluyen el diseño de misiles por los hutíes de Yemen, enjambres de drones para uso de Rusia y ensayos chinos para sortear las defensas antimisiles estadounidensesUn ingeniero de Anthropic dimite y denuncia que las empresas de IA ocultan su riesgo real: “Están apostando nuestras vidas”
La inteligencia artificial sigue dando muestras de descontrol. La empresa estadounidense Anthropic publicó el jueves un informe en el que repasa varios supuestos de uso ilegítimo de sus herramientas de acceso público en los últimos meses, entre ellas la popular Claude. De los episodios detectados destaca que tanto Irán como los rebeldes hutíes de Yemen han utilizado la tecnología para acelerar desarrollos armamentísticos. En el caso iraní, un sistema para localizar naves estadounidenses. En el de sus aliados de la península arábiga, el diseño y prueba de cohetes y misiles balísticos. También actores vinculados a Rusia —para el diseño de enjambres de drones— y China —para neutralizar las defensas antiaéreas de EEUU— se sirvieron de la IA con fines militares. La empresa dice que cortó el acceso a los responsables tras descubrir lo sucedido.
El intento yemení es de los más sofisticados. Un equipo de informáticos empleó Claude en tres procesos paralelos para evitar que saltasen las alarmas. Consiguieron que la IA crease el software de guiado de un cohete a partir de los componentes de un teléfono móvil e incluso realizaron un ensayo real del arma cuyos resultados volvieron a pasar por la inteligencia artificial para que analizase los errores.
El informe explica: “Los atacantes gestionaron varias instancias de Claude a la vez, asignando a cada una un rol, de forma muy similar a como un jefe delegaría el trabajo en un pequeño equipo de ingeniería: los atacantes encargaron a una instancia que escribiera el código, a otra que investigara y a una tercera que revisara el código producido por la primera instancia”, señala el estudio, que no identifica directamente a los hutíes, sino que habla de “una célula actores maliciosos con base en el norte de Yemen [el territorio que controlan los rebeldes]”.
Los atacantes gestionaron varias instancias de Claude a la vez, asignando a cada una un rol, de forma muy similar a como un jefe delegaría el trabajo en un pequeño equipo de ingeniería
El proceder de “un actor malicioso vinculado a Irán” no buscaba crear armas propiamente, pero sí identificar objetivos navales estadounidenses, fundamentales en el juego del gato y el ratón en que se ha convertido el paso de petróleo y gas por el estrecho de Ormuz, al que EEUU destaca buena parte de sus esfuerzos militares.
Mediante un programa informático automatizado se seleccionaban objetivos con el apoyo de Claude a partir de fuentes abiertas; por ejemplo, una lista de personal estadounidense extraída de los pies de foto de fotografías militares públicas; identificadores de transpondedores de buques y aeronaves, también de acceso público; secuencias de comandos para la consulta de imágenes de satélites comerciales; y un inventario de sitios web públicos que revelaban los movimientos navales de EEUU.
Claude también ayudó a los actores de matriz iraní a recopilar fallos de seguridad en los sistemas de los barcos y sus satélites de comunicaciones.
China quiso neutralizar las defensas antimisiles de EEUU
El profuso documento, de 150 páginas, detalla usos malintencionados que no se pueden siempre vincularse definitivamente a actores concretos, pero que tienen vínculos con los aparatos de defensa de China y Rusia. En el caso del gigante asiático, destaca, entre otros el empleo de Claude para redactar y elaborar una oferta para un concurso público en un contrato de defensa para la compra de un sistema de defensa contra torpedos. Para sortear los controles, los usuarios se hicieron pasar por un fabricante estadounidense.
Pero el caso más llamativo de los salidos del gigante asiático es el diseño, desarrollo y pulido de sistemas para bloquear radares y neutralizar defensas aéreas, de nuevo a través de Claude. Las órdenes que recibió la IA ponían especial énfasis en la necesidad de contrarrestar los sistemas antiaéreos estadounidenses Patriot y THAAD (las muy costosas baterías contra misiles balísticos). “A mitad del proyecto, observamos que el actor modificó el escenario predeterminado de la simulación a 12 objetivos en Taiwán”, relata el trabajo, que incide en que los metadatos de la cuenta y el contenido indicaron que el actor estaba vinculado a instituciones de investigación chinas.
Los analistas de Anthropic no establecen un vínculo directo con el Estado ruso sino con un «probable actor ‘freelance'» que se sirvió de la IA para construir un sistema de drones en enjambre completamente autónomo
Por lo que se refiere a Rusia, los analistas de Anthropic relacionan uno de los casos que hicieron saltar las alarmas con un “probable actor freelance” que se sirvió de la IA para construir un sistema de drones en enjambre completamente autónomo de los que explotan al contactar con el objetivo. Para que supiese distinguir entre “amigo” y “enemigo”, los programadores utilizaron vídeos de operaciones de combate en Ucrania. Los responsables, con vínculos con un centro de investigación ligado a la Academia de Ciencias de Rusia, se saltaron el bloqueo a través de servidores virtuales privados, que permiten suplantar la ubicación original.
Aparte de los usos claramente militares, el informe también recopila varios usos fraudulentos vinculados al espionaje electrónico y la represión interna, la ciberdelincuencia y la difusión de relatos informativos manipulados en redes sociales, pero también de la publicidad o el activismo informático o hacktivismo.
Anthropic, que ocupó esta semana los titulares después de que un exempleado advirtiese del potencial “mortal” de la inteligencia artificial, no se plantea frenar su desarrollo y publica el estudio para “ayudar a otros desarrolladores a identificar patrones similares en sus propias plataformas, ofrecer a los gobiernos y a la sociedad civil una visión más clara de cómo se configuran las amenazas emergentes y reforzar las defensas colectivas”.
La inteligencia artificial sigue dando muestras de descontrol. La empresa estadounidense Anthropic publicó el jueves un informe en el que repasa varios supuestos de uso ilegítimo de sus herramientas de acceso público en los últimos meses, entre ellas la popular Claude. De los episodios detectados destaca que tanto Irán como los rebeldes hutíes de Yemen han utilizado la tecnología para acelerar desarrollos armamentísticos. En el caso iraní, un sistema para localizar naves estadounidenses. En el de sus aliados de la península arábiga, el diseño y prueba de cohetes y misiles balísticos. También actores vinculados a Rusia —para el diseño de enjambres de drones— y China —para neutralizar las defensas antiaéreas de EEUU— se sirvieron de la IA con fines militares. La empresa dice que cortó el acceso a los responsables tras descubrir lo sucedido.
El intento yemení es de los más sofisticados. Un equipo de informáticos empleó Claude en tres procesos paralelos para evitar que saltasen las alarmas. Consiguieron que la IA crease el software de guiado de un cohete a partir de los componentes de un teléfono móvil e incluso realizaron un ensayo real del arma cuyos resultados volvieron a pasar por la inteligencia artificial para que analizase los errores.
El informe explica: “Los atacantes gestionaron varias instancias de Claude a la vez, asignando a cada una un rol, de forma muy similar a como un jefe delegaría el trabajo en un pequeño equipo de ingeniería: los atacantes encargaron a una instancia que escribiera el código, a otra que investigara y a una tercera que revisara el código producido por la primera instancia”, señala el estudio, que no identifica directamente a los hutíes, sino que habla de “una célula actores maliciosos con base en el norte de Yemen [el territorio que controlan los rebeldes]”.
Los atacantes gestionaron varias instancias de Claude a la vez, asignando a cada una un rol, de forma muy similar a como un jefe delegaría el trabajo en un pequeño equipo de ingeniería
El proceder de “un actor malicioso vinculado a Irán” no buscaba crear armas propiamente, pero sí identificar objetivos navales estadounidenses, fundamentales en el juego del gato y el ratón en que se ha convertido el paso de petróleo y gas por el estrecho de Ormuz, al que EEUU destaca buena parte de sus esfuerzos militares.
Mediante un programa informático automatizado se seleccionaban objetivos con el apoyo de Claude a partir de fuentes abiertas; por ejemplo, una lista de personal estadounidense extraída de los pies de foto de fotografías militares públicas; identificadores de transpondedores de buques y aeronaves, también de acceso público; secuencias de comandos para la consulta de imágenes de satélites comerciales; y un inventario de sitios web públicos que revelaban los movimientos navales de EEUU.
Claude también ayudó a los actores de matriz iraní a recopilar fallos de seguridad en los sistemas de los barcos y sus satélites de comunicaciones.
El profuso documento, de 150 páginas, detalla usos malintencionados que no se pueden siempre vincularse definitivamente a actores concretos, pero que tienen vínculos con los aparatos de defensa de China y Rusia. En el caso del gigante asiático, destaca, entre otros el empleo de Claude para redactar y elaborar una oferta para un concurso público en un contrato de defensa para la compra de un sistema de defensa contra torpedos. Para sortear los controles, los usuarios se hicieron pasar por un fabricante estadounidense.
Pero el caso más llamativo de los salidos del gigante asiático es el diseño, desarrollo y pulido de sistemas para bloquear radares y neutralizar defensas aéreas, de nuevo a través de Claude. Las órdenes que recibió la IA ponían especial énfasis en la necesidad de contrarrestar los sistemas antiaéreos estadounidenses Patriot y THAAD (las muy costosas baterías contra misiles balísticos). “A mitad del proyecto, observamos que el actor modificó el escenario predeterminado de la simulación a 12 objetivos en Taiwán”, relata el trabajo, que incide en que los metadatos de la cuenta y el contenido indicaron que el actor estaba vinculado a instituciones de investigación chinas.
Los analistas de Anthropic no establecen un vínculo directo con el Estado ruso sino con un «probable actor ‘freelance'» que se sirvió de la IA para construir un sistema de drones en enjambre completamente autónomo
Por lo que se refiere a Rusia, los analistas de Anthropic relacionan uno de los casos que hicieron saltar las alarmas con un “probable actor freelance” que se sirvió de la IA para construir un sistema de drones en enjambre completamente autónomo de los que explotan al contactar con el objetivo. Para que supiese distinguir entre “amigo” y “enemigo”, los programadores utilizaron vídeos de operaciones de combate en Ucrania. Los responsables, con vínculos con un centro de investigación ligado a la Academia de Ciencias de Rusia, se saltaron el bloqueo a través de servidores virtuales privados, que permiten suplantar la ubicación original.
Aparte de los usos claramente militares, el informe también recopila varios usos fraudulentos vinculados al espionaje electrónico y la represión interna, la ciberdelincuencia y la difusión de relatos informativos manipulados en redes sociales, pero también de la publicidad o el activismo informático ohacktivismo.
Anthropic, que ocupó esta semana los titulares después de que un exempleado advirtiese del potencial “mortal” de la inteligencia artificial, no se plantea frenar su desarrollo y publica el estudio para “ayudar a otros desarrolladores a identificar patrones similares en sus propias plataformas, ofrecer a los gobiernos y a la sociedad civil una visión más clara de cómo se configuran las amenazas emergentes y reforzar las defensas colectivas”.
elDiario.es – Internacional
