Desde su debut en noviembre, ChatGPT se ha convertido en el nuevo juguete favorito de Internet. La herramienta de procesamiento de lenguaje natural impulsada por IA acumuló rápidamente a más de 1 millón de usuarios, que han utilizado el chatbot basado en la web para todo, desde generar discursos de boda y letras de hip hop hasta la elaboración de ensayos académicos y la escritura de código informático.
Las habilidades similares a las humanas de ChatGPT no solo han arrasado en Internet, sino que también han puesto al límite a varias industrias: una escuela de Nueva York prohibió ChatGPT por temor a que pudiera usarse para hacer trampa, los redactores ya están siendo sustituidos y los informes afirman que Google está tan alarmado por las capacidades de ChatGPT que emitió un «código rojo» para asegurar la supervivencia del negocio de búsqueda de la empresa.
Parece que la industria de la ciberseguridad, una comunidad que durante mucho tiempo se ha mostrado escéptica sobre las posibles implicaciones de la IA moderna, también está tomando nota de las preocupaciones de que los piratas informáticos con recursos limitados y sin conocimientos técnicos puedan abusar de ChatGPT.
La empresa de ciberseguridad israelí Check Point ha demostrado cómo el chatbot basado en la web, cuando se usa junto con Codex – el sistema de escritura de código de OpenAI -, podría crear un correo electrónico de phishing capaz de transportar una carga maliciosa. El gerente del grupo de inteligencia de amenazas de Check Point, Sergey Shykevich, dijo que cree que casos de uso como este ilustran que ChatGPT tiene el «potencial de alterar significativamente el panorama de amenazas cibernéticas», y agregó que representa «otro paso adelante en la peligrosa evolución de soluciones cada vez más sofisticadas y efectivas». capacidades cibernéticas”.
Muchos de los expertos en seguridad creen que la capacidad de ChatGPT para escribir correos electrónicos de phishing que suenan legítimos, el principal vector de ataque para el ransomware, hará que los ciberdelincuentes adopten ampliamente el chatbot, particularmente aquellos que no son hablantes nativos de inglés.
Chester Wisniewski, científico investigador principal de Sophos, dijo que es fácil ver que se abusa de ChatGPT para «todo tipo de ataques de ingeniería social» en los que los perpetradores quieren parecer que escriben en un inglés estadounidense más convincente.
La idea de que un chatbot pueda escribir un texto convincente e interacciones realistas no es tan descabellada. «Por ejemplo, puede indicar a ChatGPT que finja ser una cirugía de médico de cabecera y generará un texto realista en segundos», dijo Hanah Darley, quien dirige la investigación de amenazas en Darktrace. «No es difícil imaginar cómo los actores de amenazas podrían usar esto como un multiplicador de fuerza».
Check Point también recientemente hizo sonar la alarma sobre la aparente capacidad del chatbot para ayudar a los ciberdelincuentes a escribir código malicioso. Los investigadores dicen que fueron testigos de al menos tres casos en los que los piratas informáticos sin habilidades técnicas se jactaron de cómo habían aprovechado la inteligencia artificial de ChatGPT con fines maliciosos. Un pirata informático en un foro de la web oscura mostró un código escrito por ChatGPT que supuestamente robó archivos de interés, los comprimió y los envió a través de la web. Otro usuario publicó una secuencia de comandos de Python, que afirmaron que era la primera secuencia de comandos que habían creado. Check Point señaló que si bien el código parecía benigno, podría «modificarse fácilmente para encriptar la máquina de alguien por completo sin ninguna interacción del usuario».
