Des chercheurs en cybersécurité ont récemment identifié trois failles de sécurité majeures dans l’assistant IA de Google Gemini, désormais corrigées, qui auraient pu permettre des attaques par injection de prompt, des compromissions dans le cloud, et le vol de données sensibles. Ces vulnérabilités, surnommées la “Gemini Trifecta”, soulignent les risques croissants liés à l’adoption des outils d’intelligence artificielle au sein des services cloud comme Google Cloud Platform.
Trois failles découvertes dans l’écosystème de Google Gemini
Injection de prompt dans Gemini Cloud Assist
Les chercheurs de Tenable ont découvert une faille d’injection de prompt dans l’outil Gemini Cloud Assist, capable de résumer automatiquement les logs issus des services cloud de Google. En intégrant un prompt caché dans un en-tête HTTP “User-Agent”, un attaquant pouvait inciter l’IA à exécuter des actions malveillantes sur des services comme Cloud Function, App Engine, Compute Engine, ou encore Cloud Asset API. Cette attaque permettait de rechercher des actifs publics ou de détecter des erreurs de configuration IAM, entraînant une possible compromission des ressources cloud.
Manipulation via le modèle de personnalisation de recherche
Une autre faille permettait d’attaquer le modèle de personnalisation des recherches de Gemini. En exploitant l’historique de recherche de Chrome par le biais de JavaScript injecté, un cybercriminel pouvait tromper l’IA et la pousser à divulguer des données personnelles comme des informations enregistrées ou la localisation du compte Google ciblé. L’IA échouait à distinguer les requêtes légitimes des prompts injectés, ouvrant la voie à une fuite discrète d’informations sensibles.
Exfiltration de données via l’outil de navigation Gemini
La troisième vulnérabilité concernait l’outil de navigation Gemini. En modifiant le contenu d’une page web résumée par l’IA, un attaquant pouvait insérer une commande invisible dirigeant les données collectées vers un serveur externe. Cette injection indirecte de prompt se faisait sans que l’utilisateur ait besoin d’ouvrir de lien ou d’image, rendant l’attaque particulièrement sournoise.
Réponse de Google et impacts pour la sécurité Cloud
Mesures correctives mises en place
Google a immédiatement réagi après la divulgation responsable faite par Tenable. L’entreprise a cessé l’affichage des liens hypertextes dans les réponses contenant des résumés de logs, et a renforcé la protection contre les injections de prompt à différents niveaux. Ces ajustements sont une réponse directe au scénario redouté par les chercheurs : celui dans lequel une IA devient non pas la cible mais le vecteur principal de l’attaque.
Une surface d’attaque en expansion avec les agents IA
Le problème dépasse les frontières de Google. Un rapport récent de CodeIntegrity met en garde contre un scénario similaire impliquant l’agent AI de Notion, capable d’exfiltrer discrètement des données sensibles via des documents PDF contenant des instructions invisibles. Les agents IA, lorsqu’ils disposent d’un accès étendu à un espace de travail, peuvent combiner actions et informations entre plusieurs sources, rendant les contrôles traditionnels comme le RBAC inefficaces face à des flux automatisés malveillants.
Renforcer la cybersécurité à l’ère de l’intelligence artificielle
Visibilité et contrôle comme piliers de la protection
Les chercheurs insistent sur la nécessité, pour toute organisation utilisant des IA, de disposer d’une visibilité totale sur l’environnement et d’appliquer strictement des politiques de sécurité. Les IA peuvent transformer une attaque en chaîne, leur autonomie et leur capacité à interpréter des requêtes complexes devenant des armes à double tranchant. C’est pourquoi des livres techniques comme notre livre pour hacker sont essentiels pour apprendre à hacker et comprendre les mécanismes de ce type d’attaques. Savoir comment fonctionnent les injections de prompt et la sécurisation d’API est une compétence clé pour tout professionnel de la cybersécurité.
Les outils IA : opportunités et menaces
Si les outils IA révolutionnent la productivité dans le cloud, leur intégration rapide expose les entreprises à de nouvelles cyberattaques complexes. Le scénario de la “Gemini Trifecta” nous rappelle que l’IA peut être manipulée comme n’importe quel autre système si elle n’est pas intégrée avec rigueur dans les politiques de cybersécurité de l’entreprise. Chez CyberCare, nous accompagnons déjà nos clients sur les tests de vulnérabilité IA et le durcissement des environnements cloud.
Avec la prolifération des outils basés sur l’intelligence artificielle, CyberCare propose des services spécialisés pour auditer, tester et renforcer la sécurité de vos plateformes IA et Cloud contre les nouvelles générations de menaces cybernétiques.
