We’re available from 9 am to 6 pm on weekdays. Contact Us.
La cybercriminalité utilise l'IA pour des activités frauduleuses et pas seulement pour des deepfakes

Europol, l'United Nations Interregional Crime and Justice Research Institute (UNICRI) et Trend Micro ont publié un rapport commun détaillant l'emploi de l'intelligence artificielle (IA) à des fins criminelles. Il fournit aux services de police, décideurs politiques et autres organismes des renseignements précieux sur les attaques informatiques existantes et potentielles perpétrées au moyen de l'IA et donne des recommandations pour en limiter les risques.

"L'intelligence artificielle, c'est la promesse d'automatisation, d'efficience et d'autonomie. Mais il ne faudrait pas y voir que des avantages : il faut également présenter clairement les menaces. Le grand public se fait de plus en plus de souci quant aux abus potentiels de l'IA", commente Edvardas Šileris, patron du Cybercrime Centre d'Europol. "Ce rapport nous aide à anticiper de possibles usages malintentionnés de l'intelligence artificielle, à éviter les menaces ou à en limiter les conséquences. Cela permettra d'exploiter de façon positive le potentiel de l'IA."

 

L'intelligence artificielle, ce n'est pas que de la désinformation par hypertrucage

Le rapport prévient aussi que les cybercriminels utiliseront l'IA à la fois comme cible d'une attaque et comme vecteur. Les deepfakes, c'est-à-dire les hypertrucages de fichiers audio ou vidéo, forment actuellement l'usage le plus répandu de l'intelligence artificielle comme vecteur d'une cyberattaque. Mais à l'avenir et toujours selon le rapport, une nouvelle technologie d'analyse sera nécessaire pour limiter les campagnes trompeuses, les tentatives de chantage ou d'extorsion ainsi que les menaces ciblées sur les datasets de l'IA.

Ainsi, l'intelligence artificielle pourrait être abusivement exploitée dans les buts suivants :

- Attaque de social engineering à grande échelle

- Malware document-scraping pour augmenter l'efficacité des cyberattaques

- Détournement de la reconnaissance par l'image et de la biométrie vocale

- Attaque par logiciel de rançon via targeting intelligent

- Data pollution, pour l'identification de failles dans les règles de détection

 

"Les applications de l'IA commencent à avoir un impact sérieux sur la société, elles s'affirment clairement comme l'une des technologies d'avenir fondamentales", assure Irakli Beridze, patron du Centre pour l'IA et la Robotique à l'UNICRI. "Mais si les avantages de l'intelligence artificielle sur la société sont indiscutables, ils ne peuvent masquer la menace d'un usage malveillant. C'est pourquoi nous sommes heureux, avec le concours d'Europol et de Trend Micro, d'orienter les projecteurs sur le côté sombre de l'IA et d'alimenter ainsi la discussion sur ce thème important."

Le rapport avertit aussi que l'intelligence artificielle est utilisée afin d'amplifier l'efficience des logiciels pirates et de neutraliser les dispositifs de reconnaissance faciale ainsi que les solutions anti-malwares.

"Les cybercriminels sont toujours les plus prompts à adopter les nouvelles technologies. Il en va, hélas, de même avec l'IA. Comme le montre clairement ce rapport, l'intelligence artificielle est utilisée pour deviner des mots de passe, décoder des CAPTCHA ou imiter des voix. Mais les cybercriminels l'exploitent aussi dans d'autres buts malhonnêtes", explique Martin Roesler, patron du Future Threat Research chez Trend Micro. "Nous sommes fiers que la collaboration avec Europol et l'UNICRI renforce la prise de conscience à propos de ces menaces et contribue à un avenir numérique plus sûr."

 

Recommandations

Les trois entreprises enrichissent leur rapport de plusieurs recommandations :

- Utiliser tout le potentiel de l'IA afin de combattre la criminalité et de préparer l'industrie de la cybersécurité ainsi que les services de police à affronter l'avenir

- Poursuivre les recherches pour stimuler le développement de technologies défensives

- Favoriser et développer les AI-frameworks sûrs

- Désamorcer la rhétorique politiquement sensible sur l'emploi de l'IA à des fins de cybersécurité

- Amorcer des partenariats publics/privés et fonder des groupes d'experts multidisciplinaires

 

Les résultats complets de cette étude sont disponibles ici : https://www.trendmicro.com/vinfo/us/security/news/cybercrime-and-digital-threats/exploiting-ai-how-cybercriminals-misuse-abuse-ai-and-ml.

 

Communiqué par Trend Micro