Un rapport d'Europol explore le côté obscur de ChatGPT et autres LLM

Europol, l’Agence de l’Union européenne pour la coopération des services répressifs, vient de publier un rapport dont l'objectif est de sensibiliser à l'utilisation potentiellement abusive des LLM (Large Language models) à des fins criminelles, d'ouvrir un dialogue avec les entreprises d'intelligence artificielle (IA) pour les aider à mettre en place de meilleures garanties et de promouvoir le développement de systèmes d'IA sûrs et fiables.

Les LLM. - Ce sont des types de système d'IA qui peuvent traiter, manipuler et générer du texte. L'appentissage d'un LLM implique de lui fournir de grandes quantités de données, telles que des livres, des articles et des sites Web, afin qu'il puisse apprendre les modèles et les connexions entre les mots pour générer de nouveaux contenus. ChatGPT est un LLM qui a été développé par OpenAI et rendu public dans le cadre d'un aperçu de la recherche en novembre 2022. Le modèle actuel accessible au public sous-jacent à ChatGPT est capable de traiter et de générer un texte de type humain en réponse aux questions et invitations de l'utilisateur. Plus précisément, le modèle peut répondre à des questions sur une variété de sujets, traduire du texte, s'engager dans des échanges conversationnels (« chater »), générer de nouveaux contenus et produire du code fonctionnel.

Le rapport. - Le laboratoire d’innovation d'Europol a organisé un certain nombre d’ateliers avec des experts en la matière afin d'explorer le comportement de ChatGPT - choisi car il s'agit du LLM le plus médiatisé et le plus couramment utilisé actuellement disponible au public - face à des cas d'utilisation criminelle et comment ces LLM peuvent aider les enquêteurs dans leur travail quotidien. Leurs idées sont compilées dans ce premier rapport intitulé « ChatGPT - l'impact des grands modèles linguistiques sur l'application de la loi ». Ce document donne un aperçu de l'utilisation potentiellement abusive de ChatGPT et offre un aperçu de ce qui pourrait encore arriver, alors que les capacités des LLM sont sans cesse améliorées.

Parmi les nombreux sujets de préoccupations identifiés par les experts d'Europol figurent les trois domaines de criminalité suivants :

• Fraude et ingénierie sociale : la capacité de ChatGPT à rédiger des textes très réalistes en fait un outil utile à des fins de phishing. La capacité des LLM à reproduire des modèles de langage peut être utilisée pour imiter le style de discours d'individus ou de groupes spécifiques. Cette capacité peut être exploitée à grande échelle pour inciter les victimes potentielles à placer leur confiance entre les mains d'acteurs criminels ;

• Désinformation : ChatGPT excelle dans la production de texte authentique à grande vitesse et à large échelle. Cela rend le modèle idéal à des fins de propagande et de désinformation, car il permet aux utilisateurs de générer et de diffuser des messages reflétant un récit spécifique avec relativement peu d'effort ;

• Cybercriminalité : en plus de générer un langage de type humain, ChatGPT est capable de produire du code dans un certain nombre de langages de programmation différents. Pour un criminel potentiel avec peu de connaissances techniques, il s'agit d'une ressource inestimable pour produire du code malveillant.

Lisez les recommandations d'Europol et les conclusions complètes du rapport ici.