dal suo esordio a novembre, ChatGPT È diventato il nuovo giocattolo preferito di Internet. Lo strumento di elaborazione del linguaggio naturale basato sull'intelligenza artificiale ha rapidamente accumulato più di 1 milione di utenti, che hanno utilizzato il chatbot basato sul Web per tutto, dalla generazione discorsi nuziali y testi hip-hop alla scrittura di saggi accademici e alla scrittura di codice per computer.
Le abilità simili a quelle umane di ChatGPT non solo hanno preso d'assalto Internet, ma hanno anche spinto diverse industrie sull'orlo: una scuola di New York ha vietato ChatGPT per paura che potesse essere usato per imbrogliare, i copywriter sono già stati sostituiti e i rapporti affermano che Google è così allarmato dalle capacità di ChatGPT che ha emesso un "codice rosso" per garantire la sopravvivenza dell'attività di ricerca dell'azienda.
Sembra che l'industria della sicurezza informatica, una comunità che è stata a lungo scettica sulle potenziali implicazioni dell'IA moderna, taSta inoltre prendendo atto delle preoccupazioni che gli hacker con risorse limitate e nessuna conoscenza tecnica possano abusare di ChatGPT.
La società israeliana di sicurezza informatica Check Point ha dimostrato come il chatbot basato sul Web, se utilizzato insieme a Codex, il sistema di scrittura del codice di OpenAI, potrebbe creare un'e-mail di phishing in grado di trasportare un payload dannoso. Il responsabile del gruppo di intelligence sulle minacce di Check Point, Sergey Shykevich, ha affermato di ritenere che casi d'uso come questo dimostrino che ChatGPT ha il "potenziale per alterare in modo significativo il panorama delle minacce informatiche", aggiungendo che rappresenta "un altro passo avanti nella pericolosa evoluzione di sistemi sempre più sofisticati ed efficaci soluzioni. capacità cibernetiche.
Molti degli esperti di sicurezza ritengono che la capacità di ChatGPT di scrivere e-mail da phishing che suona legittimo, il principale vettore di attacco per il ransomware, renderà il chatbot ampiamente adottato dai criminali informatici, in particolare quelli che non sono madrelingua inglese.
Chester Wisniewski, Principal Research Scientist di Sophos, ha affermato che è facile vedere ChatGPT essere abusato per "tutti i tipi di attacchi di ingegneria sociale" in cui gli autori vogliono sembrare scrivere in un inglese americano più convincente.
L'idea che un chatbot possa scrivere testi avvincenti e interazioni realistiche non è poi così inverosimile.. "Ad esempio, puoi dire a ChatGPT di fingere di essere un medico di famiglia e genererà un testo realistico in pochi secondi", ha affermato. Hanah Darley, che guida la ricerca sulle minacce presso Darktrace. "Non è difficile immaginare come gli attori delle minacce potrebbero usarlo come moltiplicatore di forza".
Check Point ha anche recentemente lanciato l'allarme sull'apparente capacità del chatbot di aiutare i criminali informatici a scrivere codice dannoso.. I ricercatori affermano di aver assistito ad almeno tre casi in cui hacker senza competenze tecniche si sono vantati di come avevano sfruttato l'intelligenza artificiale di ChatGPT per scopi dannosi. Un hacker su un forum del dark web ha mostrato un codice scritto da ChatGPT che presumibilmente rubava file di interesse, li comprimeva e li inviava attraverso il web. Un altro utente ha pubblicato uno script Python, che secondo loro era il primo script che avevano creato. Check Point ha notato che mentre il codice sembrava benigno, poteva "facilmente essere modificato per crittografare completamente la macchina di qualcuno senza alcuna interazione da parte dell'utente".
