Umetna inteligenca je jedrsko orožje za populiste #kolumna

Umetna inteligenca odpira pot popolnemu informacijskemu kaosu. Človeštvo še nikoli ni imelo v rokah tako učinkovite tehnologije za manipuliranje z ljudmi in ščuvanje k linču.

Avtor: Primož Cirman
sobota, 6. 5. 2023, 05:55


donald trump fb
Prihajajoča predsedniška kampanja v ZDA bo prva v zgodovini, ki bo v pomembni meri temeljila na orodjih umetne inteligence. Ne le, da to odpira pot poplavi politične propagande, ampak popolnemu informacijskemu kaosu
Facebook

"And he's back," bi rekli Američani. Vrnil se je.

Po neuspelem poizkusu državnega udara, kraji zaupnih dokumentov iz Bele hiše in plačevanju porno zvezdnice z denarjem za volilno kampanjo je Donald Trump spet resno v igri za predsednika ZDA. Znova mu ne kaže slabo. Trenutno ga ankete uvrščajo na prvo mesto med republikanci. 

Ime Donalda Trumpa je laž. Novinarji New York Timesa so jih v njegovem mandatu 2017-2021 skupaj našteli 30.573. V povprečju torej 21 na dan. Samo na enem od shodov v zvezni državi Wisconsin je izrekel 131 lažnivih ali manipulativnih trditev. Trump je "oče" lažnih novic, pri čemer je imel na voljo najboljša tehnološka orodja za njihovo širjenje. Šele po Trumpovi izvolitvi in Brexitu je zahodni svet spoznal vse razsežnosti toksične kombinacije populistov in digitalnih orodij, s katerimi ti ciljno zastrupljajo možgane volivcev. 

Leta 2018 je tako izbruhnila afera Cambridge Analytica. Gre za podjetje, ki je usmerjalo Trumpovo kampanjo prek družbenih omrežij. Brez njihovega soglasja je pridobilo velikansko bazo osebnih podatkov o 50 milijonih uporabnikov Facebooka. Ustvarilo je sistem, s katerim je dobesedno vsakemu od volivcev pošiljalo sporočila, za katera so algoritmi presodili, da jih utegnejo sprejeti z naklonjenostjo. Tistemu, ki je ostal brez službe, so pošiljali obljube o novih delovnih mestih. Tistemu, ki sovraži migrante, o zidu na meji z Mehiko. Tistemu, ki sovraži ženske, o "pokvarjeni Hillary". 10.000 Trumpovih oglasov je imelo skupaj milijardo ogledov. 

A to je bilo šele ogrevanje. "Mala malica" za tisto, kar sledi. 

Cambridg
Podjetje Cambridge Analytica je že sredi prejšnjega desetletja ustvarilo sistem, s katerim je dobesedno vsakemu od volivcev pošiljalo sporočila, za katera so algoritmi presodili, da jih utegnejo sprejeti z naklonjenostjo.
Getty Images

Preberite še:
Kako ustaviti populistično desnico #kolumna

10.000 lažnih člankov o "migrantih posiljevalcih"

Prihajajoča predsedniška kampanja v ZDA bo prva v zgodovini, ki bo v pomembni meri temeljila na orodjih umetne inteligence. Mnogi že slutijo, kaj to pomeni. Do zdaj je Trumpov štab prek družbenih omrežij ciljno širil sporočila, ki so jih morali ustvarjati in urejati ljudje. To je zahtevalo svoj čas. Te ovire po novem ne bo več, saj lahko že danes besedila učinkovito pišejo, krajšajo in urejajo orodja umetne inteligence. Analizirati znajo tudi, komu in kdaj pošiljati ta sporočila.  

Ne le, da to odpira pot poplavi politične propagande, ampak popolnemu informacijskemu kaosu. Ista orodja bodo namreč v kombinaciji z "deep fake" orodji ustvarjala lažna video sporočila političnih nasprotnikov, lažne osebe, slogani in dogodki. Človeštvo bo vstopilo v svet, ko bo dobesedno nemogoče ločiti resnico od laži. Vsak bo lahko videl in slišal tisto, za kar bodo algoritmi ocenili, da bo želel. Ob teh orodjih potrebujete le še nekoga, ki sproti ustvarja laži, in v ZDA je to Trump. Ali dvomite, da je Joe Biden pošast nezemeljskega izvora? Tu imate video, ki to dokazuje. Res ne verjamete, da je Hollywood demokratska kabala, kjer jedo otroke? Tu imate 100.000 člankov o tem. 

Politični populisti so v roke dobili jedrsko bombo in to ne le v ZDA. Predstavljajte si recimo kombinacijo umetne inteligence, Nova24TV, plačanih medijskih delavcev in spletnih trolov v Sloveniji. Poslansko vprašanje Alenke Jeraj, v katerem je lagala, da so "ilegalni migranti na območju Ljubljane osumljeni 57 primerov posilstva", bi se naenkrat pojavilo v 10.000 člankih in video oglasih, še preden bi to informacijo zanikala policija. Človeštvo še nikoli ni imelo v rokah tako učinkovite tehnologije za manipuliranje z ljudmi in ščuvanje k linču. 

Preberite še:
Trump kot Al Capone: do živega mu je prišla šele davkarija #kolumna

Ali ustvarjamo pošast, ki nas bo nadvladala?

Umetna inteligenca pomeni prelomnico v razvoju človeštva, ki morda res utegne pomagati pri zdravljenju raka, a bo spremenila temelje družb, v katerih živimo. Vdrla bo, kot pravi zgodovinar Harari, v operativni sistem človeštva. 

Številni znanstveniki, misleci in strokovnjaki za umetno inteligenco so tako pred časom podpisali odprto pismo, s katerim so zahtevali polletni moratorij na nadaljni razvoj sistemov, ki so pametnejši in zmogljivejši od obstoječega Chat GPT-4. "Bomo res dovolili strojem, da naše informacijske kanale preplavijo s propagando in neresnicami?," se glasi prvo vprašanje. In zadnje: "Bomo tvegali izgubo nadzora nad lastno civilizacijo?"

manipulacija
Vsak bo lahko videl in slišal tisto, za kar bodo algoritmi ocenili, da bo želel. Ob teh orodjih potrebujete le še nekoga, ki sproti ustvarja laži.
dreamstime

Že zdaj nam vse skupaj postavlja neprijetna vprašanja: kaj je smisel izobraževanja, če bo čez 10 ali 20 let namesto nas razmišljal stroj? Kaj se bo zgodilo s številnimi intelektualnimi poklici, ki nas izpolnjujejo? Je kapitalizem, kot ga poznamo, sploh še možen brez univerzalnega temeljnega dohodka, edinega vira preživetja za množice ljudi, ki jim ne bo treba več početi ničesar? Kaj se bo zgodilo z demokracijami, če varnostnih filtrov pred lažmi ne bo več? Ali ustvarjamo tudi pošast, ki nas bo na koncu nadvladala?

Toda največja težava je, da tako revolucionarna tehnologija vstopa v okolje, ne da bi človeštvo pred njo imelo kakršne koli varnostne mehanizme ali regulacijo. V tem stoletju je imelo dva podobna izpita. Enega je opravilo: vsaj 70 držav sveta je do zdaj zakonsko prepovedalo kloniranje ljudi zaradi številnih etičnih in moralnih zadržkov do tega početja. 

Preberite še:
Kako je naš kapitalizem postal preveč komunističen #kolumna

Nov izpit človeštva: prvega smo opravili, drugega ne

Na drugem izpitu je človeštvo padlo: družbena omrežja so s pomočjo pametnih telefonov postala droga za odrasle in mladoletne. Ustvarila so informacijske balone, zaradi katerih družbe postajajo vse bolj histerične. Mladoletnim v formativnih letih uničujejo sposobnost koncentracije, s tem pa nepovratno spreminjajo kognitivne funkcije v možganih, in potencirajo duševne stiske. Peščica zasebnikov ima v rokah osebne podatke več milijard ljudi.

volitve
Kaj se bo zgodilo z demokracijami, če varnostnih filtrov pred lažmi ne bo več?
STA

Nove tehnologije človeštvo prehitevajo po levi in desni. Na eni strani se šele zdaj na ravni EU in držav razpravlja o regulaciji tehnoloških velikanov in načinih boja proti lažnim novicam. Znanstveniki šele dobro ugotavljajo zdravstvene, sociološke in psihološke posledice prikovanosti na zaslone. Šele začeli smo se zavedati, da tako opevana digitalna ekonomija v resnici temelji na milijarderjih, ki imajo v lasti podjetja za dostavo hrane in prevoze, in prekarnih, slabo plačanih delavcih, ki so praktično brez pravic. 

Na drugi strani so ti isti tehnološki velikani že razvili orodja, ki lahko brez regulacije človeško družbo spremenijo v distopijo. Če se nam je že do zdaj zdelo, da se svet vrti prehitro, bomo morda kmalu ugotovili, da je bilo to šele ogrevanje.