Modèles de langage à grande échelle sans restrictions : une nouvelle menace pour la sécurité de l'industrie du chiffrement

Avec le développement rapide des technologies d'intelligence artificielle, des modèles de langage avancés comme la série GPT et Gemini transforment profondément nos modes de travail et de vie. Cependant, l'autre face de cette avancée technologique devient également de plus en plus évidente : l'émergence de modèles de langage de grande taille sans restrictions ou malveillants pose de nouveaux défis à la cybersécurité.

Les LLM sans restriction se réfèrent à ceux qui ont été délibérément conçus, modifiés ou "débridés" pour contourner les mécanismes de sécurité intégrés et les restrictions éthiques des modèles principaux. Bien que les développeurs de LLM principaux investissent généralement d'importantes ressources pour empêcher l'utilisation abusive des modèles, certaines personnes ou organisations, motivées par de mauvaises intentions, commencent à rechercher ou à développer leurs propres modèles non restreints. Cet article explorera les moyens potentiels d'abus de ces outils LLM sans restriction dans l'industrie du chiffrement, ainsi que les défis de sécurité et les stratégies d'adaptation associés.

Les dangers potentiels des LLM sans restrictions

L'apparition des LLM sans restrictions a considérablement abaissé le seuil technique des attaques réseau. Des tâches qui nécessitaient auparavant des compétences spécialisées, telles que l'écriture de code malveillant, la création de courriels de phishing, la planification d'escroqueries, peuvent désormais être facilement mises en œuvre même par des personnes ordinaires manquant d'expérience en programmation. Les attaquants n'ont qu'à obtenir les poids et le code source des modèles open source, puis à procéder à un ajustement fin avec un ensemble de données contenant du contenu malveillant ou des instructions illégales pour créer des outils d'attaque personnalisés.

Cette tendance entraîne de multiples risques :

1. Les attaquants peuvent personnaliser des modèles pour des cibles spécifiques, générant un contenu plus trompeur, contournant les contrôles de contenu des LLM conventionnels.
2. Le modèle peut être utilisé pour générer rapidement des variantes de code de sites de phishing ou pour personnaliser des textes de fraude pour différentes plateformes.
3. La disponibilité et la modifiabilité des modèles open source favorisent la formation d'un écosystème d'IA souterrain, créant un terreau pour les transactions et le développement illégaux.

Outils LLM typiques sans restriction et leurs abus potentiels

WormGPT : version sombre de GPT

WormGPT est un LLM malveillant vendu publiquement sur des forums clandestins, prétendant n'avoir aucune restriction éthique. Il est basé sur des modèles open source tels que GPT-J 6B et a été entraîné sur une grande quantité de données liées aux logiciels malveillants. Les utilisateurs n'ont qu'à payer 189 dollars pour obtenir un mois d'accès.

Dans le domaine du chiffrement, les abus potentiels comprennent :

• Générer des e-mails de phishing très réalistes, imitant les échanges ou les projets demandant la clé privée des utilisateurs.
• Aider les attaquants ayant des capacités techniques limitées à écrire du code malveillant pour voler des fichiers de portefeuille.
• Piloter l'automatisation des escroqueries, en guidant les victimes à participer à de fausses distributions de jetons ou à des projets d'investissement.

DarkBERT : une épée à double tranchant pour le contenu du dark web

DarkBERT est un modèle de langage pré-entraîné spécifiquement sur des données du dark web, initialement conçu pour aider à la recherche en cybersécurité. Cependant, s'il est utilisé de manière malveillante, les informations sensibles qu'il détient pourraient avoir de graves conséquences.

Les abus potentiels incluent :

• Collecter des informations sur les utilisateurs de chiffrement et les équipes de projet, afin de cibler précisément les escroqueries.
• Copier des stratégies de vol et de blanchiment d'argent matures dans le dark web

FraudGPT : un outil multifonction pour la fraude en ligne

FraudGPT se présente comme la version améliorée de WormGPT, principalement vendue sur le dark web et les forums de hackers.

Les abus potentiels dans le domaine du chiffrement comprennent :

• Projets de chiffrement contrefaits : génération de livres blancs réalistes, de sites officiels, etc., pour de fausses ICO/IDO
• Génération en masse de pages de phishing : imitation rapide de l'interface de connexion des échanges connus
• Activités de faux comptes sur les réseaux sociaux : fabrication massive de faux commentaires pour promouvoir des jetons frauduleux
• Attaque par ingénierie sociale : imiter des conversations humaines pour inciter les utilisateurs à divulguer des informations sensibles

GhostGPT : un assistant IA sans contraintes morales

GhostGPT est clairement positionné comme un chatbot IA sans restrictions morales.

Dans le domaine du chiffrement, les abus potentiels incluent :

• Générer des courriels de phishing très réalistes, se faisant passer pour des notifications fictives publiées par l'échange
• Générer rapidement des contrats intelligents avec des portes dérobées, utilisés pour des escroqueries de type Rug Pull
• Créer des logiciels malveillants capables de se transformer pour voler des informations de portefeuille.
• Déployer des robots sur les plateformes sociales pour inciter les utilisateurs à participer à des projets faux
• En coopération avec d'autres outils d'IA, générer des voix falsifiées pour mettre en œuvre des escroqueries téléphoniques.

Venice.ai : risques potentiels d'accès sans censure

Venice.ai offre un accès à plusieurs LLM, y compris certains modèles avec moins de restrictions. Bien qu'il soit positionné comme une plateforme d'exploration ouverte, il pourrait également être abusé pour générer du contenu malveillant.

Les risques potentiels comprennent :

• Contourner la censure pour générer du contenu malveillant : utiliser des modèles avec moins de restrictions pour générer du matériel d'attaque
• Abaisser le seuil d'entrée pour les attaques : rendre plus facile pour les attaquants d'obtenir des sorties initialement restreintes.
• Accélérer l'itération des discours d'attaque : tester rapidement les réactions de différents modèles, optimiser les scripts de fraude

Conclusion

L'émergence des LLM sans restriction marque l'apparition de nouvelles menaces plus complexes, à plus grande échelle et dotées de capacités d'automatisation dans le domaine de la cybersécurité. Cela abaisse non seulement le seuil d'attaque, mais entraîne également des risques plus sournois et plus trompeurs.

Pour relever ce défi, il est nécessaire que les différentes parties de l'écosystème de sécurité collaborent.

1. Augmenter l'investissement dans la technologie de détection, développer des outils capables d'identifier et d'intercepter les contenus générés par des LLM malveillants.
2. Promouvoir la construction de la capacité de prévention du jailbreak des modèles, explorer les mécanismes de filigrane et de traçabilité
3. Établir des normes éthiques et un mécanisme de régulation solides, afin de limiter dès le départ le développement et l'abus de modèles malveillants.

Il n'est possible de répondre efficacement à cette nouvelle menace de sécurité et de préserver le développement sain de l'industrie du chiffrement qu'en agissant sur plusieurs fronts.