Una vulnerabilidad crítica ha sido identificada en el sistema de inteligencia artificial Google Gemini para Workspace, exponiendo a millones de usuarios corporativos a sofisticados ataques de phishing. Esta falla de seguridad permite a los ciberdelincuentes manipular la función de resumen de correos electrónicos mediante técnicas de prompt injection, creando un nuevo vector de amenaza que evade los sistemas de seguridad tradicionales y explota la confianza de los usuarios en las herramientas de Google.
Descubrimiento de la vulnerabilidad por expertos en seguridad
El hallazgo fue realizado por Marco Figueroa, especialista en seguridad informática y gestor del programa bug bounty 0Din (0Day Investigative Network). Esta iniciativa, lanzada por Mozilla en 2024, se enfoca específicamente en la identificación de vulnerabilidades en modelos de lenguaje extensos y tecnologías de aprendizaje profundo.
La técnica aprovecha una debilidad fundamental en el procesamiento de texto por parte de los sistemas de IA, permitiendo que instrucciones maliciosas sean insertadas invisiblemente en correos electrónicos aparentemente legítimos. Cuando los usuarios activan la función de resumen automático de Gemini, el sistema procesa estas instrucciones ocultas como comandos válidos.
Metodología del ataque mediante texto oculto
Los atacantes implementan esta vulnerabilidad utilizando técnicas avanzadas de HTML y CSS para ocultar comandos maliciosos dentro del contenido del correo electrónico. Estas instrucciones se camuflan mediante la configuración del tamaño de fuente en cero o aplicando colores de texto idénticos al fondo, haciéndolas completamente invisibles para el usuario final.
La sofisticación de este método radica en que los correos electrónicos no contienen indicadores tradicionales de compromiso como archivos adjuntos sospechosos o enlaces maliciosos. Esta característica permite que los mensajes atraviesen exitosamente los filtros de seguridad corporativos, sistemas antispam y herramientas de protección de correo electrónico.
Ejemplo práctico de explotación
En la demostración presentada por Figueroa, el sistema Gemini generaba alertas falsas sobre la compromiso de credenciales de Gmail del usuario. El mensaje fraudulento incluía un número telefónico falso de soporte técnico, dirigiendo a las víctimas a contactar a los atacantes bajo el pretexto de «restaurar la seguridad de la cuenta».
La efectividad de este ataque se amplifica por la confianza inherente que los usuarios depositan en las herramientas integradas de Google Workspace, incrementando significativamente las probabilidades de éxito del engaño.
Estrategias de mitigación y detección
Los expertos en ciberseguridad han identificado múltiples enfoques para contrarrestar estas amenazas emergentes. La implementación de filtros de preprocesamiento constituye la primera línea de defensa, removiendo o neutralizando contenido oculto antes de que sea procesado por los sistemas de IA.
Adicionalmente, los filtros de postprocesamiento analizan las salidas generadas por Gemini, identificando elementos sospechosos como alertas de seguridad no solicitadas, URLs o números telefónicos que no deberían aparecer en resúmenes legítimos de correos electrónicos.
Para los usuarios finales, se recomienda verificar independientemente cualquier alerta de seguridad generada por sistemas de IA a través de canales oficiales de comunicación, especialmente aquellas que soliciten acciones urgentes o proporcionen información de contacto alternativa.
Respuesta oficial de Google
Google ha confirmado la recepción del reporte de vulnerabilidad y ha iniciado el desarrollo de mecanismos de protección mejorados. La compañía ha implementado pruebas red team para entrenar sus modelos contra inyecciones de prompt y otras formas de manipulación, aunque declaró no tener conocimiento de explotaciones activas de esta vulnerabilidad en entornos de producción.
Esta vulnerabilidad subraya la creciente complejidad de las amenazas cibernéticas en la era de la integración de inteligencia artificial en sistemas empresariales. Las organizaciones deben evolucionar sus estrategias de seguridad para abordar estos nuevos vectores de ataque, implementando capas adicionales de protección y programas de concientización que preparen a los empleados para reconocer y responder adecuadamente a estas amenazas emergentes en el panorama de la ciberseguridad moderna.
