desde sua estréia em novembro, ChatGPT Tornou-se o novo brinquedo favorito da Internet. A ferramenta de processamento de linguagem natural alimentada por IA rapidamente acumulou mais de 1 milhão de usuários, que usaram o chatbot baseado na web para tudo, desde gerar discursos de casamento y letras de hip-hop para escrever ensaios acadêmicos e escrever código de computador.
As habilidades humanas do ChatGPT não apenas tomaram a Internet como uma tempestade, mas também levaram vários setores à beira do abismo: uma escola de Nova York baniu o ChatGPT por medo de que pudesse ser usado para trapacear, redatores já estão sendo substituídos e relatórios afirmam que Google está tão alarmado com os recursos do ChatGPT que emitiu um "código vermelho" para garantir a sobrevivência do negócio de busca da empresa.
Parece que a indústria de cibersegurança, uma comunidade que há muito tempo é cética em relação às possíveis implicações da IA moderna, taTambém está tomando nota das preocupações de que hackers com recursos limitados e nenhum conhecimento técnico possam abusar do ChatGPT.
A empresa de segurança cibernética israelense Check Point demonstrou como o chatbot baseado na web, quando usado em conjunto com o Codex - o sistema de escrita de código da OpenAI - pode criar um e-mail de Phishing capaz de transportar uma carga útil maliciosa. O gerente do grupo de inteligência de ameaças da Check Point, Sergey Shykevich, disse acreditar que casos de uso como esse ilustram que o ChatGPT tem "potencial para alterar significativamente o cenário de ameaças cibernéticas", acrescentando que representa "outro passo à frente na perigosa evolução de tecnologias cada vez mais sofisticadas e eficazes soluções. capacidades cibernéticas.
Muitos dos especialistas em segurança acreditam que a capacidade do ChatGPT de escrever e-mails de Phishing que soam legítimos, o principal vetor de ataque para o ransomware, fará com que o chatbot seja amplamente adotado por cibercriminosos, principalmente aqueles que não são falantes nativos de inglês.
Chester Wisniewski, principal cientista de pesquisa da Sophos, disse que é fácil ver o ChatGPT sendo abusado por "todos os tipos de ataques de engenharia social" em que os perpetradores querem parecer estar escrevendo em um inglês americano mais convincente.
A ideia de que um chatbot pode escrever textos atraentes e interações realistas não é tão absurda.. "Por exemplo, você pode dizer ao ChatGPT para fingir ser uma cirurgia de GP e ele gerará um texto realista em segundos", disse ele. Hanah Darley, que lidera a pesquisa de ameaças na Darktrace. “Não é difícil imaginar como os agentes de ameaças poderiam usar isso como um multiplicador de força”.
A Check Point também recentemente soou o alarme sobre a aparente capacidade do chatbot de ajudar os cibercriminosos a escrever códigos maliciosos.. Os pesquisadores dizem ter testemunhado pelo menos três casos em que hackers sem habilidades técnicas se gabavam de como haviam aproveitado a inteligência artificial do ChatGPT para fins maliciosos. Um hacker em um fórum da dark web exibiu um código escrito pelo ChatGPT que supostamente roubou arquivos de interesse, os comprimiu e os enviou pela web. Outro usuário postou um script python, que eles alegaram ser o primeiro script que criaram. A Check Point observou que, embora o código pareça benigno, ele pode "ser facilmente modificado para criptografar completamente a máquina de alguém sem nenhuma interação do usuário".
