Google Gemini sufre un ataque masivo impulsado por IA que pone en riesgo 1.800 millones de cuentas Gmail

Más de 1.800 millones de usuarios de Gmail están en la mira de una nueva amenaza a la ciberseguridad que utiliza la inteligencia artificial para manipular y extraer información sensible como contraseñas. La vulnerabilidad se basa en Google Gemini, la IA integrada en Gmail y otros servicios de Google, que está siendo explotada para engañar a los usuarios y hacer que revelen sus datos confidenciales de forma inadvertida.

El ataque consiste en que los ciberdelincuentes incrustan comandos ocultos dentro del cuerpo de los correos electrónicos. Cuando un usuario utiliza la función “resumir este correo” de Google Gemini, la IA interpreta esas instrucciones escondidas en vez de centrarse en el contenido visible. El resultado es la generación de alertas de seguridad falsas o notificaciones urgentes que parecen completamente legítimas, pero que en realidad son un truco para manipular al usuario.

Google Gemini, la puerta para ataques de “prompt injection”

Una de las técnicas más preocupantes que usan los atacantes es conocida como “prompt injection”. Ocultan los comandos maliciosos usando texto blanco sobre fondo blanco y una tipografía con tamaño cero, por lo que no se detectan a simple vista, pero Google Gemini los recoge sin problema. De esta forma se elaboran mensajes fraudulentos que advierten de accesos no autorizados y facilitan un falso número de “soporte de Google”, que redirige directamente a los estafadores en lugar de a los canales oficiales.

Estas alertas engañosas suelen instar al usuario a realizar acciones inmediatas, como clicar en enlaces maliciosos o llamar a números falsos, llevándoles a webs de phishing o estafas telefónicas. Investigadores de seguridad, entre ellos el equipo 0Din de Mozilla, han demostrado cómo Google Gemini puede ser manipulado para generar estos mensajes falsos con gran facilidad, exponiendo una grave debilidad en la manera en que se procesa el lenguaje dentro de la plataforma.

Los expertos en ciberseguridad recomiendan ignorar cualquier alerta de seguridad que recibamos a través del resumen que haga Google Gemini, puesto que Google nunca envía avisos genuinos mediante esta herramienta. También es fundamental desconfiar de correos que insistiendo en la urgencia y contengan enlaces o números telefónicos desconocidos, sobre todo si invitan a realizar llamadas o acciones rápidas. Además, los clientes de correo pueden configurarse para bloquear o señalar contenidos ocultos, como fuentes de tamaño cero o texto blanco en blanco, y establecer filtros para detectar patrones anómalos, como mensajes urgentes en exceso, URLs sospechosas o teléfonos poco comunes.

El riesgo de Google Gemini trasciende Gmail

Dado que Google Gemini está integrado en otras plataformas como Docs, Calendar y diferentes aplicaciones de terceros, esta vulnerabilidad no afecta solo a Gmail, sino que supone un riesgo mucho más amplio en el ecosistema Google. Mientras la compañía no implemente un parche efectivo, los usuarios deberían eliminar cualquier resumen sospechoso generado con esta IA y confirmar cualquier aviso relacionado con la seguridad directamente en los canales oficiales de Google, evitando depender de textos creados automáticamente que pueden estar manipulados.

Este fallo pone en evidencia la necesidad urgente de mejorar la seguridad en las herramientas de inteligencia artificial integradas en servicios masivos, donde la interacción humana con la máquina puede convertirse en un punto débil explotable por delincuentes. Mantenerse alerta y aplicar las recomendaciones de seguridad es clave para evitar caer en estas estafas cada vez más sofisticadas basadas en Google Gemini.

Fuente