Yoel Roth, endine Twitteri usalduse ja turvalisuse juht (nüüd X), jagab oma muret avatud sotsiaalvõrgustiku tuleviku ja selle võime pärast võidelda väärinfo, rämpsposti ja muu ebaseadusliku sisuga. Hiljutises taskuhäälinguintervjuus revolutsioon.sotsiaalneRoth väljendas muret „Fediverse’i” modereerimisvahendite puudumise pärast.
Ta meenutas ka Twitteris toimunud olulisi hetki, näiteks otsust president Trump keelustada, Venemaa botifarmide levitatud desinformatsiooni ja seda, kuidas isegi tegevjuht Jack Dorsey oli nende bottide ohver.
Detsentraliseeritud modereerimise peamised väljakutsed
- Tööriistade puudus: Platvormid, mis enim kogukonna kontrolli pooldavad (näiteks Mastodon), pakuvad oma administraatoritele kõige vähem tehnilisi tööriistu.
- Jätkusuutmatu majandus: Modereerimine on kulukas (masinõppe mudelid, personal) ja föderaalmudel, mis tugineb suuresti vabatahtlikele, ei ole osutunud majanduslikult jätkusuutlikuks.
- Privaatsus vs turvalisus: Privaatsusele rangelt keskendumine aitab ära hoida andmete (nt IP-aadresside või seadme identifikaatorite) kogumist, mis on kohtuekspertiisi ja pahatahtlike osalejate vastase võitluse seisukohalt ülioluline.
Modereerimisvahendite paradoks
Roth märkis, et kogukonnad, mis kõige enam toetuvad detsentraliseeritud kontrollile, on need, millel on oma poliitika haldamiseks kõige vähem tehnilisi vahendeid. "Vaadates Paksunahaline, teistele teenustele, mis põhinevad ActivityPubon Sinine taevas juba oma algusaegadel, Teemad...nägime, et paljud teenused, mis kaldusid kõige enam kogukonna kontrolli poole, andsid oma kogukondadele kõige vähem tehnilisi vahendeid,“ ütles ta.
"Kui projekti eesmärk oli valitsemise demokraatliku legitiimsuse suurendamine ja meie oleme valitsemises sammu tagasi astunud, siis kas see on tõesti toiminud?"
– Joel Roth
Ta nägi läbipaistvuse osas ka "suurt sammu tagasi". Kuigi Twitter selgitas oma otsuseid avalikult, näevad kasutajad paljudel avatud platvormidel oma postitusi ilma hoiatuse või põhjenduseta kadumas.
Mõõdukuse majandus ja tehisintellekti roll
Roth tõstatas föderaalsüsteemis mõõdukuse majanduslikud probleemid. Ta tõi näiteks organisatsiooni IFTAS (Federated Trust & Safety), mis pidi rahastamise puudumise tõttu paljud oma projektid sulgema. „Selle föderaalse lähenemisviisi usaldusele ja ohutusele majanduslik külg ei ole kunagi paika pidanud. Ja minu arvates ei ole nad siiani,“ selgitas ta.
Ta hoiatas, et tehisintellekt muudab maastikku. Ta viitas a-le hiljutine Stanfordi uuring ...mis leidis, et õigusteaduse spetsialistid võivad olla isegi veenvamad kui inimesed. See tähendab, et ainult sisuanalüüsil põhinev lahendus ei ole piisav.
„Kui alustate sisu loomisega, olete võidurelvastumisel juhtivate tehisintellekti mudelitega ja olete juba kaotanud,“ ütles Roth. Selle asemel soovitas ta ettevõtetel jälgida käitumuslikke signaale, näiteks mitme konto loomist või automatiseerimise kasutamist, et tuvastada pahatahtlikke tegijaid.
