seit seinem Debüt im November, ChatGPT Es ist zum neuen Lieblingsspielzeug des Internets geworden. Das KI-gestützte Tool zur Verarbeitung natürlicher Sprache hat schnell mehr als 1 Million Benutzer angehäuft, die den webbasierten Chatbot für alles von der Generierung verwendet haben Hochzeitsreden y Hip-Hop-Texte zum Schreiben von wissenschaftlichen Aufsätzen und zum Schreiben von Computercode.
Die menschenähnlichen Fähigkeiten von ChatGPT haben nicht nur das Internet im Sturm erobert, sondern auch mehrere Branchen an den Rand des Abgrunds gedrängt: Eine New Yorker Schule verbot ChatGPT aus Angst, es könnte zum Schummeln verwendet werden, Texter werden bereits ersetzt, und Berichte behaupten dies Google ist so beunruhigt über die Möglichkeiten von ChatGPT, dass es einen "Code Red" ausgegeben hat, um das Überleben des Suchgeschäfts des Unternehmens zu sichern.
Es scheint, dass die Cybersicherheitsbranche, eine Gemeinschaft, die seit langem skeptisch gegenüber den möglichen Auswirkungen der modernen KI ist, taEs nimmt auch Bedenken zur Kenntnis, dass Hacker mit begrenzten Ressourcen und ohne technische Kenntnisse ChatGPT missbrauchen könnten.
Das israelische Cybersicherheitsunternehmen Check Point hat demonstriert, wie der webbasierte Chatbot in Verbindung mit Codex – dem Codeschreibsystem von OpenAI – eine E-Mail von erstellen kann Phishing in der Lage, eine bösartige Nutzlast zu tragen. Der Manager der Threat Intelligence Group von Check Point, Sergey Shykevich, sagte, er glaube, dass Anwendungsfälle wie dieser zeigen, dass ChatGPT das „Potenzial hat, die Cyber-Bedrohungslandschaft erheblich zu verändern“, und fügte hinzu, dass es „einen weiteren Schritt nach vorne in der gefährlichen Entwicklung von immer raffinierter und effektiver darstellt Lösungen. kybernetische Fähigkeiten.
Viele der Sicherheitsexperten glauben, dass ChatGPT die Fähigkeit hat, E-Mails zu schreiben Phishing das klingt legitim, der Hauptangriffsvektor für die Ransomware, wird der Chatbot von Cyberkriminellen weit verbreitet sein, insbesondere von denen, die keine englischen Muttersprachler sind.
Chester Wisniewski, Principal Research Scientist bei Sophos, sagte, es sei leicht zu erkennen, dass ChatGPT für „alle Arten von Social-Engineering-Angriffen“ missbraucht wird, bei denen die Täter den Anschein erwecken wollen, in überzeugenderem amerikanischem Englisch zu schreiben.
Die Vorstellung, dass ein Chatbot überzeugende Texte und realistische Interaktionen schreiben kann, ist gar nicht so weit hergeholt.. „Zum Beispiel können Sie ChatGPT anweisen, sich als Arztpraxis auszugeben, und es wird in Sekundenschnelle realistischen Text generieren“, sagte er. Hanah Darley, der die Bedrohungsforschung bei Darktrace leitet. „Es ist nicht schwer vorstellbar, wie Bedrohungsakteure dies als Kraftmultiplikator nutzen könnten.“
Check Point hat kürzlich auch wegen der offensichtlichen Fähigkeit des Chatbots, Cyberkriminellen beim Schreiben von bösartigem Code zu helfen, Alarm geschlagen.. Die Forscher sagen, dass sie mindestens drei Fälle miterlebt haben, in denen Hacker ohne technische Kenntnisse damit geprahlt haben, wie sie die künstliche Intelligenz von ChatGPT für böswillige Zwecke genutzt haben. Ein Hacker hat in einem Dark-Web-Forum einen von ChatGPT geschriebenen Code angezeigt, der angeblich interessante Dateien gestohlen, komprimiert und über das Internet gesendet hat. Ein anderer Benutzer hat ein Python-Skript gepostet, von dem er behauptete, dass es das erste Skript war, das er erstellt hatte. Check Point stellte fest, dass der Code zwar harmlos zu sein schien, aber „leicht geändert werden konnte, um den Computer einer anderen Person vollständig ohne Benutzerinteraktion zu verschlüsseln“.
