depuis ses débuts en novembre, ChatGPT Il est devenu le nouveau jouet préféré d'Internet. L'outil de traitement du langage naturel alimenté par l'IA a rapidement rassemblé plus d'un million d'utilisateurs, qui ont utilisé le chatbot Web pour tout, de la génération discours de mariage y paroles de hip-hop à la rédaction d'essais académiques et à l'écriture de code informatique.
Les capacités humaines de ChatGPT ont non seulement pris d'assaut Internet, mais ont également poussé plusieurs industries au bord du gouffre : une école de New York a interdit ChatGPT de peur qu'il ne soit utilisé pour tricher, les rédacteurs sont déjà remplacés et des rapports affirment que Google est tellement alarmé par les capacités de ChatGPT qu'il a émis un "code rouge" pour assurer la survie de l'activité de recherche de l'entreprise.
Il semble que l'industrie de la cybersécurité, une communauté qui a longtemps été sceptique quant aux implications potentielles de l'IA moderne, taIl prend également note des préoccupations selon lesquelles les pirates disposant de ressources limitées et d'aucune connaissance technique pourraient abuser de ChatGPT.
La société israélienne de cybersécurité Check Point a démontré comment le chatbot basé sur le Web, lorsqu'il est utilisé conjointement avec Codex - le système d'écriture de code d'OpenAI - pouvait créer un e-mail de phishing capable de transporter une charge utile malveillante. Le responsable du groupe de renseignement sur les menaces de Check Point, Sergey Shykevich, a déclaré qu'il pensait que des cas d'utilisation comme celui-ci illustraient que ChatGPT avait "le potentiel de modifier de manière significative le paysage des cybermenaces", ajoutant qu'il représentait "un autre pas en avant dans l'évolution dangereuse de systèmes de plus en plus sophistiqués et efficaces. solutions. capacités cybernétiques.
De nombreux experts en sécurité pensent que la capacité de ChatGPT à écrire des e-mails à partir de phishing qui semblent légitimes, le principal vecteur d'attaque pour le ransomware, rendra le chatbot largement adopté par les cybercriminels, en particulier ceux qui ne sont pas de langue maternelle anglaise.
Chester Wisniewski, chercheur principal chez Sophos, a déclaré qu'il était facile de voir que ChatGPT était abusé pour "toutes sortes d'attaques d'ingénierie sociale" où les auteurs veulent donner l'impression d'écrire dans un anglais américain plus convaincant.
L'idée qu'un chatbot puisse écrire un texte convaincant et des interactions réalistes n'est pas si farfelue.. "Par exemple, vous pouvez dire à ChatGPT de faire semblant d'être un médecin généraliste et cela générera un texte réaliste en quelques secondes", a-t-il déclaré. Hanah Darley, qui dirige la recherche sur les menaces chez Darktrace. "Il n'est pas difficile d'imaginer comment les acteurs de la menace pourraient utiliser cela comme multiplicateur de force."
Check Point a également récemment tiré la sonnette d'alarme sur la capacité apparente du chatbot à aider les cybercriminels à écrire du code malveillant.. Les chercheurs disent avoir été témoins d'au moins trois cas dans lesquels des pirates sans compétences techniques se sont vantés de la façon dont ils avaient exploité l'intelligence artificielle de ChatGPT à des fins malveillantes. Un pirate informatique sur un forum Web sombre a affiché un code écrit par ChatGPT qui aurait volé des fichiers d'intérêt, les a compressés et les a envoyés sur le Web. Un autre utilisateur a publié un script python, qui, selon lui, était le premier script qu'il avait créé. Check Point a noté que même si le code semblait bénin, il pouvait "facilement être modifié pour chiffrer complètement la machine de quelqu'un sans aucune interaction de l'utilisateur".
