Dólar cripto

(0,82%)

$ 1.532,45

Bitcoin

(1,06%)

u$s 123.467,00

Ethereum

(0,83%)

u$s 4.531,70

Solana

(2,79%)

u$s 229,24

Ripple

(0,92%)

u$s 2,90

Cardano

(1,65%)

u$s 0,84

Avalanche

(2,09%)

u$s 28,94

Polkadot

(1,41%)

u$s 4,22

Chainlink

(2,52%)

u$s 22,59

Arbitrum

(2,69%)

u$s 0,44

Fuente

Innovación

En un informe, Google reveló que grupos de amenazas intentaron utilizar la inteligencia artificial para cometer ataques y realizar actividades ilegales

Por iProUP

31.01.2025 • 11:53hs • INTELIGENCIA ARTIFICIAL

INTELIGENCIA ARTIFICIAL

Google reveló que Gemini "está en la mira" de hackers respaldados por gobiernos

Este viernes por la mañana se conoció que el departamento de inteligencia de amenazas de Google publicó un documento titulado Adversarial Misuse of Generative AI, en el que denunció cómo los ciberdelincuentes intentaron atacar a su chatbot de inteligencia artificial, Gemini.

Según trascendió, la empresa matriz, Alphabet, manifestó en el informe que los autores de las amenazas intentaron hacer jailbreak a la IA.

Además, también informaron que detectaron grupos de amenazas persistentes avanzadas (APT) respaldados por gobiernos que intentaron usar a Gemini para diversas actividades ilegales.

Google en la mira de los hackers

En el informe, Google confirmó que, aunque detectó varios intentos de jailbreak a Gemini, el buscador no registró ningún ataque avanzado bajo esa modalidad.

Por otro lado, cabe recordar que los jailbreaks de IA son ataques de inyección de comandos cuyo objetivo es conseguir que un modelo de inteligencia artificial realice tareas prohibidas.

Este tipo de ataques puede derivar en la filtración de información sensible o el suministro de contenido no seguro.

Por ello, según trascendió, Google confirmó que, en un caso puntual, un agente de APT utilizó instrucciones de acceso público para engañar a Gemini y hacer que realizara tareas de codificación maliciosas.

No obstante, la empresa aseguró que este ataque no tuvo éxito, ya que su modelo de IA proporcionó una respuesta con filtros de seguridad.

Google detectó amenazas respaldadas por gobiernos

Además de los intentos de jailbreak frustrados que detectó Google, el buscador también informó que los APT respaldados por gobiernos pusieron su atención en Gemini.

Según lo que trascendió en el informe de Google, intentaron usar la IA para recolectar información sobre sus objetivos, investigar vulnerabilidades conocidas públicamente y realizar tareas de codificación y scripting.

Asimismo, estos atacantes también intentaron llevar a cabo actividades posteriores al ataque, como la evasión de defensas.

Por otro lado, Google manifestó en el informe que delincuentes de APT con base en Irán se centraron en el uso de IA para la elaboración de campañas de phishing.

Además, los atacantes utilizaron el modelo de IA para obtener información sobre expertos y organizaciones de defensa.

Por su parte, actores de APT de China, el otro gran rival de Estados Unidos, intentaron usar a Gemini para solucionar problemas de código, scripting y desarrollo.

También emplearon este modelo de IA para investigar cómo obtener un acceso más profundo a sus redes objetivo.

Entre los países implicados también se encuentra Corea del Norte, cuyos atacantes intentaron utilizar a Gemini en diferentes fases del ciclo de vida de sus ataques, desde la investigación hasta el desarrollo.

"También utilizaron Gemini para investigar temas de interés estratégico para el gobierno norcoreano, como el ejército surcoreano y las criptomonedas", concluyó el informe.

Temas relacionados

google gemini hacker seguridad inteligencia artificial

Te puede interesar

¿Hay un límite legal para usar la IA en una profesión?: antecedentes en la Justicia argentina

Sora 2: la nueva apuesta de OpenAI para generar videos con IA en segundos

Google rediseña Gemini: el chatbot tendrá un feed al estilo redes sociales

Meta compró Rivos, una startup de chips de IA y refuerza su apuesta por el hardware propio

Universal Assistance lanza una IA que analiza la salud de los viajeros desde el celular en segundos

Comprá en Amazon, con envío y ahorro de 40%: cómo aprovechar el Prime Day y pagar con dólar barato

AMD y OpenAI firman una alianza para el desarrollo de chips para IA

¿Elon Musk busca destronar al iPhone 17?: circulan rumores sobre un posible nuevo celular de Tesla

Profesionales de CABA denunciaron a Lannis y su "contador IA": qué respondió la startup

Elon Musk baja los precios de Starlink en Argentina: cuánto cuesta el servicio de internet satelital

Comprá en Amazon, con envío y ahorro de 40%: cómo aprovechar el Prime Day y pagar con dólar barato

Bitcoin rompe récords, pero no es la única: la moneda que renueva máximos y puede subir 40%

Cuando Bitcoin sube, sus rivales la siguen: dos monedas que pueden multiplicar precios según analistas

Oportunidad en dólares: cómo invertir en la nueva ON de YPF con 7% anual y pago trimestral

Atención inversores: este trader multimillonario cripto anticipó un rally histórico