Des groupes étatiques liés à des menaces persistantes avancées, notamment d’Iran, de Chine, de Corée du Nord et de Russie, exploitent l’assistant IA Gemini de Google pour leurs opérations malveillantes. Selon Google, l’outil est principalement utilisé pour des tâches liées à la productivité et à la recherche, comme le développement de scripts, l’identification de vulnérabilités, la reconnaissance sur des cibles, ou encore l’évasion des systèmes de détection. Par exemple, les hackers iraniens s’en servent pour cibler des organisations de défense et mener des campagnes de phishing, tandis que les acteurs chinois l’exploitent pour des actions contre des institutions militaires américaines ou des analyses de systèmes de sécurité. Google a également observé des tentatives de contournement des restrictions de l’IA via des jailbreaks (exploiter les failles d’un appareil électronique bridé pour installer un logiciel autre que celui fourni par le fabricant de l’appareil) bien qu’elles aient échoué.
Bonnes pratiques :
Restreignez l’accès aux IA génératives pour les usages sensibles liés à l’innovation ou aux aspects financiers, par exemple. Surveillez les requêtes suspectes pouvant indiquer une tentative de collecte d’informations ou de développement de scripts malveillants. Renforcez la sécurité des systèmes exposés en appliquant les correctifs, en surveillant les connexions inhabituelles et en limitant l’accès aux informations critiques.
Sources :