{"id":19912,"date":"2024-06-11T10:35:28","date_gmt":"2024-06-11T08:35:28","guid":{"rendered":"https:\/\/www.m-q.ch\/?p=19912"},"modified":"2024-06-11T10:35:28","modified_gmt":"2024-06-11T08:35:28","slug":"nouveaux-developpements-dans-lutilisation-cybercriminelle-de-ki","status":"publish","type":"post","link":"https:\/\/www.m-q.ch\/fr\/nouveaux-developpements-dans-lutilisation-cybercriminelle-de-ki\/","title":{"rendered":"Nouveaux d\u00e9veloppements dans l'utilisation cybercriminelle de l'IA"},"content":{"rendered":"
\"\"
Image d'un pirate informatique g\u00e9n\u00e9r\u00e9e par l'IA : c'est encore inoffensif par rapport \u00e0 d'autres possibilit\u00e9s utilis\u00e9es par les cybercriminels. (Image : Pixabay.com)<\/figcaption><\/figure>\n

L'intelligence artificielle offre de nombreuses opportunit\u00e9s et poss\u00e8de un grand potentiel d'utilisateurs. Mais il y a aussi le revers de la m\u00e9daille : car l'IA peut aussi \u00eatre utilis\u00e9e \u00e0 des fins criminelles. Une analyse de Trend Micro pr\u00e9sente les derniers d\u00e9veloppements et met en lumi\u00e8re les menaces auxquelles il faut s'attendre dans un avenir proche.<\/p>\n

Jailbreaking-as-a-Service<\/strong><\/h3>\n

Alors que les technologies d'IA sont rapidement accept\u00e9es dans l'\u00e9conomie, le monde de la cybercriminalit\u00e9 a certes tent\u00e9 l'an dernier de d\u00e9velopper ses propres grands mod\u00e8les linguistiques (LLM) cybercriminels, mais ces tentatives ont \u00e9t\u00e9 en grande partie abandonn\u00e9es. Au lieu de cela, les criminels se sont tourn\u00e9s vers le \"jailbreaking\" de mod\u00e8les existants, c'est-\u00e0-dire vers des astuces sp\u00e9ciales pour les amener \u00e0 contourner leurs mesures de s\u00e9curit\u00e9 int\u00e9gr\u00e9es. C'est ainsi qu'il existe d\u00e9sormais des offres telles que le jailbreaking-as-a-service. Dans ce cas, les criminels utilisent des techniques raffin\u00e9es pour amener les LLM \u00e0 r\u00e9pondre \u00e0 des demandes qui devraient \u00eatre bloqu\u00e9es. Ces techniques vont des jeux de r\u00f4le aux sc\u00e9narios hypoth\u00e9tiques en passant par l'utilisation de langues \u00e9trang\u00e8res. Des fournisseurs de services comme OpenAI ou Google travaillent \u00e0 combler ces failles de s\u00e9curit\u00e9. Les utilisateurs cybercriminels, quant \u00e0 eux, doivent donc recourir \u00e0 des invitations de jailbreaking plus sophistiqu\u00e9es. C'est ainsi qu'est apparu un march\u00e9 pour une nouvelle classe de services criminels sous la forme d'offres de chatbots pour le jailbreaking.<\/p>\n

\"Les cybercriminels ont abus\u00e9 de l'IA bien avant le r\u00e9cent engouement pour l'IA g\u00e9n\u00e9rative dans le secteur informatique. C'est pourquoi nous nous sommes plong\u00e9s dans les forums criminels clandestins pour d\u00e9couvrir comment les cybercriminels utilisent et d\u00e9ploient r\u00e9ellement l'IA pour atteindre leurs objectifs, et quels types de services criminels bas\u00e9s sur l'IA sont propos\u00e9s\", explique David Sancho, chercheur principal en mati\u00e8re de menaces chez Trend Micro. \"<\/strong>Nous avons examin\u00e9 les conversations souterraines sur l'IA et constat\u00e9 que l'int\u00e9r\u00eat pour l'IA g\u00e9n\u00e9rative a suivi les tendances g\u00e9n\u00e9rales du march\u00e9, mais que l'adoption semble \u00eatre \u00e0 la tra\u00eene. Nous avons \u00e9galement vu des offres LLM faites par des criminels pour des criminels. Parmi elles, FraudGPT, DarkBARD, DarkBERT et DarkGPT, qui pr\u00e9sentent de nombreuses similitudes. C'est pourquoi nous soup\u00e7onnons qu'ils fonctionnent tr\u00e8s probablement comme des services d'enveloppement pour le ChatGPT ou le Google BARD l\u00e9gitimes - nous les appelons des services de jailbreaking as a service\", poursuit David Sancho. \"Nous avons \u00e9galement examin\u00e9 d'autres offres LLM criminelles potentiellement fausses : WolfGPT, XXXGPT et Evil-GPT. Nous nous sommes \u00e9galement pench\u00e9s sur les services de deepfake pour les criminels : Nous avons vu les prix et certains mod\u00e8les commerciaux pr\u00e9coces autour de ces fausses images et vid\u00e9os bas\u00e9es sur l'IA\".<\/p>\n

Les services Deepfake gagnent du terrain<\/strong><\/h3>\n

Certes, les deepfakes existent depuis longtemps, mais ce n'est que r\u00e9cemment que de v\u00e9ritables offres cybercriminelles ont \u00e9t\u00e9 d\u00e9couvertes. Les criminels proposent des services de deepfake pour contourner les syst\u00e8mes de v\u00e9rification d'identit\u00e9. Cela devient un probl\u00e8me croissant, en particulier dans le secteur financier, car les banques et les bourses de cryptomonnaies exigent des v\u00e9rifications de plus en plus strictes. La cr\u00e9ation de deepfakes est de moins en moins co\u00fbteuse et de plus en plus facile. Les cybercriminels utilisent cette technologie pour cr\u00e9er de fausses images et vid\u00e9os qui peuvent tromper m\u00eame les syst\u00e8mes de s\u00e9curit\u00e9 avanc\u00e9s. Il suffit souvent d'un document d'identit\u00e9 vol\u00e9 pour cr\u00e9er une fausse image convaincante.<\/p>\n

Qu'est-ce que cela signifie pour l'avenir ?<\/strong><\/h3>\n

Les d\u00e9veloppements montrent que les criminels trouvent toujours de nouvelles fa\u00e7ons d'abuser des technologies d'IA. Bien que la grande disruption n'ait pas encore eu lieu, ce n'est qu'une question de temps avant que des attaques plus s\u00e9rieuses ne se produisent. Les entreprises et les particuliers doivent donc rester vigilants et am\u00e9liorer constamment leurs mesures de cybers\u00e9curit\u00e9 afin d'\u00eatre arm\u00e9s contre ces menaces. Trois r\u00e8gles fondamentales des mod\u00e8les commerciaux cybercriminels seront d\u00e9terminantes pour savoir quand les acteurs malveillants se tourneront vers GenAI \u00e0 grande \u00e9chelle :<\/p>\n

    \n
  1. Les criminels veulent une vie facile :<\/strong> L'objectif est d'atteindre un certain r\u00e9sultat \u00e9conomique avec le moins d'efforts et le moins de risques possible.<\/li>\n
  2. Les nouvelles technologies doivent \u00eatre meilleures que les outils existants :<\/strong> Les criminels n'adoptent de nouvelles technologies que si le retour sur investissement est plus \u00e9lev\u00e9 que pour les m\u00e9thodes existantes.<\/li>\n
  3. L'\u00e9volution plut\u00f4t que la r\u00e9volution :<\/strong> Les criminels pr\u00e9f\u00e8rent les ajustements progressifs aux r\u00e9visions globales afin d'\u00e9viter de nouveaux facteurs de risque.<\/li>\n<\/ol>\n

    Conclusion : l'utilisation cybercriminelle de l'IA n'en est qu'\u00e0 ses d\u00e9buts<\/strong><\/h3>\n

    Le besoin d'un acc\u00e8s s\u00e9curis\u00e9, anonyme et intra\u00e7able aux LLM demeure. Cela incitera les services cybercriminels \u00e0 exploiter sans cesse de nouveaux LLM plus faciles \u00e0 jailbreaker ou adapt\u00e9s \u00e0 leurs besoins sp\u00e9cifiques. Actuellement, il existe plus de 6 700 LLM facilement disponibles sur la plateforme communautaire d'intelligence artificielle Hugging Face. On peut \u00e9galement s'attendre \u00e0 ce que de plus en plus d'outils criminels, anciens et nouveaux, int\u00e8grent des fonctions GenAI. Les cybercriminels commencent \u00e0 peine \u00e0 gratter la surface des possibilit\u00e9s r\u00e9elles que GenAI leur offre.<\/p>\n

    Dans un blog, Trend Micro a rassembl\u00e9 de plus amples informations sur le sujet :<\/em><\/p>\n