Tehisintellekt
Vaatamata sellele, et ettevõtted nõuavad oma töötajatelt iga-aastaste küberjulgeolekualaste koolituste läbimist, esineb ikka veel inimtegevusest tingitud küberjulgeoleku rikkumisi. Probleem võib isegi oluliselt süveneda, kuna generatiivne tehisintellekt suurendab sotsiaalse manipuleerimise kampaaniate ulatust ja isikupärastamist.
Anagramm, endise nimega Cipher, võtab töötajate küberjulgeolekualaste koolituste osas kasutusele uue lähenemisviisi, millega ettevõte loodab, et suudab sammu pidada nende kampaaniate muutuva iseloomuga.
New Yorgis asuv ettevõte ehitas platvormi, mis sisaldab praktilist turvakoolitust ettevõtetele. Koolitus sisaldab lühikesi videoid ja kohandatud interaktiivseid mõistatusi, et õpetada töötajatele kahtlasi e-kirju ja suhtlust tuvastama. Need treeningud on kavandatud olema sagedasemad ja kaasahaaravamad kui praegune üheaastase treeningu standard.
Anagrami kaasasutaja ja tegevjuht Harley Sugarman ütles, et need tegevused hõlmavad ülesandeid, näiteks lasta töötajatel luua oma kohandatud andmepüügimeile, et õpetada neile, kuidas tuvastada neile suunatud keerukaid kampaaniaid.
"Laenasime eelmistest küberturvalisuse koolitusmudelitest väga vähe; tegelikult ei inspireerinud meid olemasolevad, " rääkis Sugarman olemasolevatest küberturvalisuse koolitustest. "See, mida me tõesti nägime, olid TikToki ja Duolingo ja Khan Academy õppetunnid. Vaatasime neid platvorme, mis on muutunud väga-väga kaasahaaravaks ja kasutajate käitumise põhjal arenevateks muudes valdkondades peale turvalisuse, ja ütlesime: OK, kuidas me saame neid õppetunde turvalisuses rakendada?"
Mänguliste küberjulgeolekualaste koolituste loomine ei olnud see, mida Sugarman, endine Bloomberg Beta riskikapitali juht, ettevõtte käivitamisel kavatses teha.
Sugarmani esimene idee oli "lipu püüdmise" stiilis koolitus lähenemine töötajatele ettevõtte küberturvalisuse kohta. See koolitusmeetod hõlmab haavatavustega tarkvara loomist ja seda, et turbeteadlased kasutavad seda tarkvara vigade leidmiseks ja koodi kirjutamiseks ilma samadesse lõksudesse sattumata.
Ettevõte käivitati Cipherina 2022. aastal ja saavutas mõningase haarde. Kuid infoteaduste juhid (CISO) hakkasid Sugarmanile rääkima, et nende ettevõtetel on tegelikult suurem turvaprobleem, millega nad tegelevad: nende töötajad. Sugarman ütles, et CISO-d kirjeldavad oma töötajaid kui nende nõrgimat küberjulgeoleku lüli.
"Mind üllatas tegelikult see, kui palju ma nende kõnedes kuulsin," ütles Sugarman. "See oli nende jaoks lahendamatu probleem."
Cipher pöördus 2024. aasta jaanuaris, et keskenduda selle probleemi lahendamisele. See on nüüd muutnud oma nime Anagramiks, et kajastada oma uut fookust, ja on käimas oma algse toote vähendamine. Anagram on alates selle pöördepunktist tugevalt kasvanud, lisades uusi kliente, sealhulgas Thomson Reuters, Massmutual ja Disney.
Anagram kogus Madrona juhtimisel 10 miljoni dollari suuruse A-seeria vooru, kus osalesid muu hulgas General Catalyst, Bloomberg Beta ja operaatorpartnerid. Ettevõte kavatseb raha kasutada oma müügimeeskonna ülesehitamiseks ja toote täiustamiseks. Sugarman ütles, et seni on õnnestunud andmepüügi veamäära vähendada 20 protsendilt 6 protsendile, kuid usub, et nad suudavad ka edaspidi jõuda nullile lähemale.
Sugarman ütles, et Anagram tõi oma toote turule küberjulgeolekutööstuse jaoks tõeliselt huvitavas pöördepunktis. Generatiivse AI edusammude abil saab sotsiaalse inseneride kampaaniaid isikupärastada rohkem kui kunagi varem, mistõttu inimestel on üha raskem öelda, mis on tõeline ja mis mitte.
"Ma arvan, et selle kõrvalmõju on see, et traditsioonilistel meiliturbeplatvormidel on nende tehisintellekti loodud andmepüügi tuvastamiseks palju pikem aeg," ütles Sugerman. "See genereerimis- ja randomiseerimisvõime on nii tugev ja inseneri vaatenurgast on selle eest väga-väga raske kaitsta."
Anagram töötab ka ettevõtte töötajate e-kirjade jaoks tehisintellekti agenti väljatöötamise nimel, mida koolitatakse võimalike küberturvalisuse vigade märkimiseks enne nende ilmnemist. Sugarman ütles, et agent teeb näiteks, et küsida kelleltki, kas ta tõesti soovib oma krediitkaarditeavet ja muid sarnaseid kaitsemeetmeid saata.
Samal ajal loodab Anagram, et tema TikToki-laadsed mõistatused ja koolitusvideod jätkavad maastiku parandamist.
"Inimesed ei ole rumalad, me ehitame pilvelõhkujaid ja saame kosmoses reisida," ütles Sugarman. "Saame välja mõelda, kuidas mitte klõpsata e-kirjas olevale kahtlasele lingile."
