Ühel novembripäeval logis tootestrateeg, keda me nimetame Michelle'iks, oma LinkedIni kontole sisse ja muutis oma soo meessoost. Ta muutis ka oma nime Michaeliks. Ta osales sotsiaalses eksperimendis, mida tunti nime all #WearthePants, kus grupp professionaalseid naisi uuris hüpoteesi, et platvormi uus algoritm on nende vastu kallutatud.
Mõjukad LinkedIni kasutajad olid juba kuid teatanud oma postituste kaasatuse ja näitamiste arvu olulisest langusest. See nähtus langes kokku ettevõtte inseneriosakonna asepresidendi Tim Jurka augustikuise teadaandega suurte keelemudelite (LLM) rakendamise kohta, et optimeerida kasutajatele kuvatavat sisu.
Definitsioon: LLM (suur keelemudel)
Suure keele mudel (LLM) on tehisintellekti tüüp, mida treenitakse tohutu hulga tekstiandmete põhjal inimkeele mõistmiseks, genereerimiseks ja sellele reageerimiseks. Need on tehnoloogiad selliste tööriistade nagu ChatGPT taga ja neid kasutatakse platvormidel nagu LinkedIn, et valida ja tähtsuse järjekorda seada sisu, mida kasutajad oma voos näevad.
Michelle, kellel on üle 10 000 jälgija, kahtlustas muutusi. Ta kirjutab sageli postitusi oma abikaasa jaoks, kellel on vaid 2.000 jälgijat, ja märkas, et mõlemad saavad sarnase arvu näitamisi. „Ainus oluline muutuja oli sugu,“ ütles ta.
Eksperimendiga liitus ka ettevõtte asutaja Marilynn Joyner. Pärast kaheaastast järjepidevat postitamist märkas ta nähtavuse drastilist langust. Tema muutuse tulemused olid kohesed ja mõjusad.
Teised spetsialistid nagu Megan Cornish, Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies ja Lucy Ferguson teatasid sarnastest tulemustest, dokumenteerides oma sisu ulatuse märkimisväärset suurenemist pärast seda, kui nad oma profiilides meesidentiteedi omaks võtsid.
LinkedIni ametlik seisukoht
LinkedIn on öelnud, et selle "algoritmi- ja tehisintellektisüsteemid ei kasuta sisu nähtavuse määramiseks signaalina demograafilist teavet, nagu vanus, rass või sugu." Nad lisasid, et "voo uuenduste hetktõmmis, mis pole täiesti representatiivne, ei tähenda automaatselt ebaõiglast kohtlemist või eelarvamusi".
Sotsiaalsete algoritmide eksperdid väidavad, et kuigi otsene seksism on ebatõenäoline, võib esineda kaudne eelarvamus. Brandeis MarshallAndmeeetika konsultatsioonifirma Marshall kirjeldab neid platvorme kui „keerulist algoritmide sümfooniat, mis mõjutab matemaatilisi ja sotsiaalseid hoobasid“. Marshalli sõnul on „oma foto ja nime muutmine vaid üks neist hoobadest“ ning probleem on palju keerulisem, kui paistab.
#WearthePants eksperimendi algus
Algatust #WearthePants vedasid ärinaised Cindy Gallop y Jane EvansOma teooria testimiseks palusid nad kahel mehel postitada täpselt sama sisu kui naistel. Jälgijate arvu erinevus oli vapustav: naistel oli kokku üle 150 000 jälgija, võrreldes meeste umbes 9.400 jälgijaga.
Tulemused olid paljastavad. Gallopi postitus jõudis 801 inimeseni, samas kui mehe sama sisuga postitus ulatus 10 408 inimeseni, ületades 100% tema enda jälgijaskonnast. See tasakaalustamatus motiveeris ka teisi naisi liituma.
LinkedIni profiil
LinkedIn on maailma suurim professionaalne sotsiaalvõrgustik, mis on loodud selleks, et hõlbustada spetsialistide vahelist suhtlust, tööotsingut ja karjääri arengut. See asutati 2002. aastal ja selle missiooniks on ühendada maailma spetsialiste, et muuta nad produktiivsemaks ja edukamaks. Microsoft omandas platvormi 2016. aastal, integreerides selle teenused tehnoloogiahiiglase tootlikkuse ökosüsteemi.
- peakorter: Sunnyvale, California, USA
- Sihtasutus: 2002, autor Reid Hoffman, Allen Blue, Konstantin Guericke, Eric Ly ja Jean-Luc Vaillant.
- Omanik: Microsoft Corporation (Omandatud 2016. aastal 26.2 miljardi dollari eest).
- Sotsiaalne: LinkedIn, X (Twitter)
- Võrk: Külasta ametlikku veebisaiti
Poleemika seisneb algoritmide läbipaistmatuses. Platvormid nagu LinkedIn, mis tuginevad õigusteaduse vahenditele (LLM), pakuvad vähe üksikasju selle kohta, kuidas nende mudeleid treenitakse. Marshall juhib tähelepanu sellele, et enamik neist platvormidest hõlmab "valget, mees- ja läänekeskset vaatenurka", kuna see on tingitud sellest, kes mudeleid treenis. Akadeemilised uuringud kinnitavad inimlike eelarvamuste, näiteks seksismi ja rassismi esinemist populaarsetes õigusteaduse vahendites, kuna need toituvad inimeste loodud sisust.
Žanrist kaugemale: toon, stiil ja muud muutujad
LinkedIn väidab, et eksperiment ei näita soolist eelarvamust. Ettevõte väidab, et kasutab demograafilisi andmeid ainult õigluse testimiseks, tagades loojatele võrdsed võimalused konkureerimiseks. Tundmatud muutujad aga raskendavad analüüsi.
Näiteks Michelle tunnistas, et nädalal, mil ta postitas Michaelina, muutis ta oma tooni lihtsama ja otsekohesema stiili vastu, mis sarnanes sellele, mida ta kasutab oma abikaasa puhul. Just siis suurenes tema näitamiste arv 200% ja kaasatus 27%. Tema järeldus on, et süsteem ei ole "selgelt seksistlik", kuid tundub, et naistega seotud suhtlusstiile peetakse "madalama väärtusega näitajaks".
Kui õigusteaduse magistriõppe üliõpilast õpetatakse eelistama kokkuvõtlikku ja otsekohest kirjutamisstiili – mida stereotüüpselt peetakse maskuliinseks – koostööaldisemale ja emotsionaalsemale – mida stereotüüpselt peetakse feminiinseks –, on see kaudne eelarvamus. Cornelli ülikooli arvutiteaduse professor Sarah Dean lisab, et algoritmid arvestavad täielike profiilidega, sealhulgas tööajalooga ja varasemate suhtlustega, mis võib mõjutada nii seda, mida kasutaja näeb, kui ka seda, kes tema postitusi näeb.
Algoritmilise konflikti kronoloogia
| August 202X | LinkedIn teatab uute õigusteaduse vahendite (LLM) rakendamisest uudistevoo täiustamiseks. |
| November 202X | #WearthePants eksperiment algab, kus kasutajad muudavad oma profiilil sugu, et mõõta selle mõju. |
| Detsember 202X | LinkedIn kordab, et nende süsteemid ei kasuta nähtavuse tagamiseks demograafilisi andmeid ja omistavad muutused teistele teguritele. |
Laialdane rahulolematus
Uue algoritmiga kaasnev segadus ja rahulolematus ei piirdu ühe žanriga. Andmeteadlane Shailvi Wakhulu on viis aastat iga päev postitanud ja varem sai ta tuhandeid muljeid; nüüd saab ta neid vaevalt paar sada. „See demotiveerib lojaalsete jälgijatega sisuloojaid,“ kurdab ta.
Kogemused on erinevad. Üks meeskasutaja teatas 50% langusest kaasatuses, teine aga väitis, et tema ulatus on suurenenud enam kui 100% tänu nišipublikutele suunatud kindlatele teemadele keskendumisele – midagi, mida uus algoritm näib premeerivat.
LinkedIn põhjendab muudatusi platvormi kasvuga: postituste arv kasvas aastaga 15% ja kommentaaride arv 24%, mille tulemuseks on "suurem konkurents uudisvoos". Ettevõtte sõnul toimib hästi sisu, mis keskendub erialastele teadmistele, valdkonna analüüsile ja hariduslikele teemadele.
Vaatamata selgitustele on kasutajate nõudmine selge. „Ma tahan läbipaistvust,“ võtab Michelle kokku. Arvestades aga, et algoritmid on rangelt valvatud ärisaladused, jääb see palve tõenäoliselt vastuseta.
