IT/AI Eliminacija pojedinca iz demokratskog procesa

Izlaganje Dalibora Vlahe na 27. godišnjoj konferenciji hrvatskih psihologa, u okviru simpozija Sekcije za ekološku psihologiju Hrvatskog psihološkog društva

Hvala vam na pozivu na ovaj veliki skup, koliko sam obaviješten, najznačajniji godišnji stručni skup psihologa. Posebno mi je zadovoljstvo družiti se s psiholozima, budući da u aktivnosti povezanoj s vašom strukom, u organizaciji dana ružičastih majica, s psiholozima uspješno surađujem već godinama. Kratko ću se predstaviti s par primjera svog radnog iskustva za koje se nadam da bi vam mogli biti zanimljivi.

Prvi primjer je veliki međunarodni holding koji je od mene tražio izradu malicioznog software-a. Software nije bio ilegalan, trebao je zaobići zaštite samog poslodavca. Dakle, trebao je zaobići firewall i ostale mjere sigurnosti na računalima radnika, kako bi poslodavac imao nadzor nad informatičkim aktivnostima svojih zaposlenika. Ta kompanija nije po tome bila posebna. Pouka za sve radnike sa službenim kompjuterima i telefonima je da pretpostavljaju da ih se prati.

Drugi primjer je financijska kuća iz Londona koja je od tima nas, kolega za računalnu sigurnost, tražila provalu u svoje vlastite informatičke kapacitete. Cilj je bio provjeriti da li njihov sustav zaštite od vanjskih napada uspješno funkcionira. Rezultat je bio, otprilike, neriješen. Mi smo probili njihov sustav preko loše konfigurirane mreže, preko njihovog printera. Oni to nisu priznali pa smo ostali bez nagrade. No iz toga se moglo vidjeti da posebno savjesno planirane zaštite mogu pasti na detaljima na koje nitko ne računa. Naša mala satisfakcija je da su u toj firmi na kraju ipak bili napadnuti i provaljeni, s nezanemarivim štetama.

Treći primjer je molba jedne radnice da provjerim da li ju preko telefona prisluškuje njena vlastita kompanija. Naime, u razgovorima sa šefovima doživljavala je neugodnosti kad bi joj govorili o njenim privatnim životnim okolnostima, koje su mogli saznati samo ako ju nadziru telefonom. Naravno, telefonom prisutnim uz nju, ne samo u telefonskim razgovorima, i ne samo u smislu govorenog glasa, već i u smislu lokacije, tekstualnih poruka, multimedijalnih sadržaja i ostalih informacija koje telefon može dati. Analizom signala telefona posebnim alatima, tokom 12 sati, utvrdio sam da se s telefona doista odašilje nestandardna radiokomunikacija, tipična za aplikacije tajnog nadzora. U detalje nisam ulazio jer bih se izvrgnuo mogućnosti kršenja zakona.

Kad razgovaramo o ilegalnom prikupljanju podataka potrebnom da se građanin ili demokratska institucija odredi kao “meta”, mogućnosti su doista brojne.

Na primjer, smart TV modeli marke Samsung, u velikoj javnoj aferi, prokazani su kao špijunski alati. Postoji javno dostupni alat, maliciozni program, koji se po zakutcima interneta poznatima kao “dark web” mogao naći i iskoristiti za ilegalni špijunski program u domaćinstvu. Prema opisima na wikileaksu, američka Agencija za nacionalnu sigurnost, poznata NSA, imala je vlastitu verziju takvog programa za masovni nadzor.

U našim se medijima mogla naći i afera “Galileo”, u kojoj se pokazalo da ni agencije nisu sasvim otporne na provale. U okviru dogovora SOA-e i jedne komercijalne hrvatske firme o kupovini inozemnog sustava za nadzor, dogodilo se da inozemna hackerska grupa provali mail korespondenciju. SOA jest ustvrdila da nije provaljena, ali je činjenica da su njeni mail-ovi presretani na način koji sigurno nije bio ni željen ni predviđen.

U drugom donekle sličnom slučaju opet je SOA bila uključena u pregovore o nabavi sustava za nadzor. Pregovori i upoznavanje s ponudom u inozemstvu doveli su do otkrivanja identiteta sedam agenata, do curenja podataka o načinu rada agencije i do otkrivanja podataka o kretanju i aktivnostima ravnatelja agencije.

—————




Iz prethodnih primjera vidi se da je i kod najbolje čuvanih sustava teško ostati zaštićen. Svaka informacija stavljena na elektronički uređaj povezan s internetom je mamac. Sama činjenica povezanosti s internetom znači da je uređaj pun tehnoloških izuma i rješenja koja ne može kontrolirati ni jedan sam informatički stručnjak, a kamo li neupućeni laik.

Svaki laik, međutim, danas koristi brojne takve uređaje. Ako je uključen u demokratski sustav više nisu meta samo podaci, meta može postati i sama osoba, ako djeluje na političkoj poziciji sukobljenoj s političkim interesima koji upravljaju i informatičkom infrastrukturom. Jednostavno rečeno, pojedinac sukobljen s državnom politikom postaje laka meta, osim u slučaju da država vrlo disciplinirano poštuje demokratske standarde na svom teritoriju. Na žalost, s mnogim državama to nije slučaj.

Pitanje izbacivanja iz demokratskog političkog procesa je u prvom redu pitanje za vas, psihologe. To je pitanje kada će motivacija osobe da se bavi demokratskim životom društva nestati, ili biti manja od motivacije da se bavi nečim što procjenjuje važnijim.

Ako vam politika smeta da se bavite vlastitom osnovnom egzistencijom, ili egzistencijom bliskih osoba, vjerojatno ćete se baviti egzistencijom.

Informatičke tehnologije lako mogu pristupiti motivacijskom sklopu pojedinca. Bankovni račun, prekršajne prijave, ovršni prijedlozi, osobni životni problemi i uspjesi, sve se činjenice o pojedincu danas na neki način pohranjuju u elektroničkom obliku.

Primitivnije metode upravljanja motivacijom pojedinca su, na primjer, blokade bankovnih računa, nakon kojih osoba ima zadatak reorganizacije života tako da podmiri nedostajuća sredstva, ili da nastavi život bez vlastitih sredstava.

Već i kod samog odabira politički zanimljivih pojedinaca, ITC infrastruktura omogućuje uvid u kontakte, kretanje, fizičku prisutnost uz političke skupove ili uz praćene pojedince. Ako je uključena umjetna inteligencija, na posebno zanimljive načine koje sada ne stižemo obraditi, računala mogu donositi i autonomne odluke o razini prijetnje koju za neku političku opciju predstavlja pojedinac. 

Kad se sve stavi u dugoročniju perspektivu, planeri mogu postupno nagrizati životne okolnosti pojedinca, sve do trenutka kada zaključe da je potrebno jače utjecati na njegov život i potpuno ga onemogućiti u političkom djelovanju na neko duže vrijeme, ili u nekom kritičnom trenutku. Time se mogućnosti utjecaja, s jedne strane, bolje skrivaju a s druge strane realiziraju s većom vjerojatnošću uspjeha.

Ako se sve stavi u masovnu perspektivu utjecaja na društvo, dodatno se može smanjiti utjecaj na pojedinca ali povećati utjecaj na društvene tokove.




Nedavno su u medijima dosta spominjane kineske metode utvrđivanja tzv. “društvenog kredita”, iako na zapadu razina praćenja pojedinca ni metode upravljanja njegovim društvenim životom vjerojatno nisu ništa liberalnije. Ako u Kini ne možete kupiti avionsku kartu ili skuplje plaćate neku javnu uslugu zato što ste pljunuli na pod, u Americi ćete zbog suradnje s nepoželjnim političarem izgubiti posao u medijskoj kući, biti izbačeni iz nevladine organizacije ili izgubiti klijenta u privatnom biznisu.

Za nas koji radimo u tehnološkom sektoru stvari su relativno jednostavne, jer smo pod nadzorom u svakom slučaju, i jer imamo svoje mjesto. No građani koji žele postići neke pozitivne društvene promjene sukobljene interesima političkih struktura, već danas standardno doživljavaju promjene u svojim karijerama. O tome je bilo dosta sumnji, pa i pravih slučajeva, i u medijima.

Pitanje kako se građani mogu suprotstaviti ovim trendovima u tehnologiji nije pravo pitanje za nas, informatičke stručnjake. To je više pitanje za vas, psihologe. Nadam se da ćete pronaći prave odgovore.