Il y a quelques mois, une arnaque impliquant un faux Brad Pitt créé à l’aide de l’intelligence artificielle (IA) a fait les gros titres. L’utilisation de l’IA pour amplifier et améliorer les attaques et les escroqueries en ligne est un phénomène connu, bien qu’il soit difficile à quantifier. Cependant, les attaques qui visent directement les systèmes d’IA sont moins courantes.
Un rapport intitulé « Analyse d’attaque sur les systèmes de l’IA » a été publié par le Campus Cyber en collaboration avec le Hub France IA, à l’occasion du salon Incyber. Ce rapport vise à sensibiliser les gens aux risques liés à l’IA et à proposer des moyens de se protéger contre les incidents cyber liés à l’IA. L’objectif est également d’encourager les éditeurs à intégrer la sécurité dans la conception de leurs modèles d’IA dès le départ.