U stručnom osvrtu na savremene tehnološke rizike, profesor Hadžib Salkić, sudski vještak iz oblasti kriminalistike, upozorava da kvarovi informacionih sistema mogu izazvati posljedice koje prevazilaze granice pojedinačnih kompanija i država.

On ističe da su događaji u SAD i problemi sa Microsoftovim servisima vremenski podudarni, ali da nadležni organi nisu utvrdili njihovu međusobnu povezanost. Ipak, oni predstavljaju upozorenje koliko su avionski saobraćaj, banke, bolnice, elektroenergetske mreže i državne institucije zavisni od funkcionisanja digitalne infrastrukture.

Jedan kvar, milioni pogođenih ljudi

Prema dosadašnjim službenim informacijama, poremećaj američkog zračnog saobraćaja povezan je s preopterećenjem zastarjele telekomunikacijske infrastrukture, dok su Microsoftovi problemi predmet zasebne tehničke analize. Međutim, profesor Salkić ističe da ovi događaji otvaraju mnogo važnije pitanje: Šta će se dogoditi kada ključnim sistemima savremenog društva počnu upravljati autonomni algoritmi koji samostalno donose odluke, mijenjaju vlastite procedure i međusobno komuniciraju bez neposredne ljudske kontrole?”

“Razvoj umjetne inteligencije ulazi u novu fazu. Savremeni AI agenti nisu ograničeni samo na odgovaranje na pitanja ili obradu informacija. Oni mogu izvršavati složene zadatke, pisati programski kod, analizirati rezultate, koristiti druge digitalne alate i predlagati izmjene postojećih sistema. U određenim tehničkim okruženjima mogu i automatski testirati te primjenjivati promjene, ukoliko su im takva ovlaštenja dodijeljena. Upravo tu nastaje ozbiljan sigurnosni izazov. Ako autonomnom sistemu omogućimo da samostalno mijenja programske procedure, upravlja infrastrukturom ili donosi operativne odluke, postavlja se pitanje ko kontroliše posljedice njegovog djelovanja. Algoritam može izvršiti zadatak u skladu s postavljenim ciljem, a da pritom proizvede nepredviđene posljedice za druge povezane sisteme. To ne znači da je umjetna inteligencija nužno opasna, nego da njena autonomija mora biti proporcionalna nivou sigurnosnog rizika”, istakao je on.

Digitalna infrastruktura postaje pitanje nacionalne sigurnosti

Avionski saobraćaj, elektroenergetske mreže, bankarski sistemi, bolnice, telekomunikacije i državne institucije danas funkcionišu zahvaljujući međusobno povezanim informacionim tehnologijama. Takva povezanost omogućava izuzetnu efikasnost, ali istovremeno stvara sistemsku ranjivost. Kvar jedne komponente može pokrenuti lanac poremećaja koji prelazi granice pojedinačne kompanije, države ili kontinenta, piše Salkić.

“Posebno zabrinjava mogućnost da se u budućnosti tehničke greške, neadekvatno testirane softverske izmjene i autonomne odluke AI agenata međusobno pojačavaju. U takvim okolnostima nije dovoljno postaviti pitanje je li sistem bio napadnut. Potrebno je utvrditi i je li sistem pogrešno projektovan, neadekvatno nadziran ili mu je dodijeljen nivo autonomije koji prevazilazi postojeće sigurnosne mehanizme”, rekao je Salkiić.

Kriminalistički aspekt: Ko je odgovoran kada algoritam napravi štetu?

Dalje navodi da, iz perspektive kriminalistike i digitalne forenzike, razvoj autonomnih sistema otvara potpuno novu dimenziju dokazivanja. Kod klasičnog računarskog incidenta istražitelji nastoje utvrditi izvor problema, vrijeme nastanka, izvršene radnje, eventualni neovlašteni pristup i odgovornost konkretnih osoba.

“Međutim, kada u odlučivanju učestvuju autonomni AI agenti, istraživanje postaje složenije. Potrebno je rekonstruisati ne samo šta je računar izvršio, nego i koji su ciljevi zadani agentu, koje je informacije koristio, kakve je odluke donosio, koje je alate aktivirao i ko mu je odobrio pristup određenim funkcijama. Posebno je važno sačuvati digitalne tragove: sistemske zapise, verzije programskog koda, konfiguracije, naredbe, vremenske oznake i evidenciju ljudskih intervencija. Bez pouzdane evidencije aktivnosti autonomnog sistema može nastati ozbiljan problem u dokazivanju uzročne veze između algoritamske odluke i nastale štete. Umjetna inteligencija ne smije postati izgovor za odsustvo ljudske, profesionalne i institucionalne odgovornosti”; poručio je on.

Najveća opasnost nije inteligencija mašine, nego odsustvo kontrole

U javnosti se često govori o mogućnosti da umjetna inteligencija jednog dana postane potpuno nezavisna od čovjeka. Međutim, ističe profesor, neposredni sigurnosni rizici mnogo su konkretniji.

“To su neprovjerene softverske izmjene, pretjerana automatizacija, nedovoljno zaštićeni pristupi, zavisnost od jednog tehnološkog dobavljača i nedostatak rezervnih sistema. U kritičnoj infrastrukturi posebno je opasno kada se brzina tehnološkog razvoja počne smatrati važnijom od sigurnosne provjere. Zato bi svaki autonomni AI sistem koji može utjecati na sigurnost ljudi morao imati jasno definisana ovlaštenja, nezavisno testiranje, mogućnost ljudske intervencije i pouzdane mehanizme zaustavljanja. Nijedna tehnologija, bez obzira na njenu naprednost, ne smije biti izuzeta od stručne kontrole i odgovornosti”, jasan je Salkić.

Pouka za Bosnu i Hercegovinu

Kaže da ovi događaji predstavljaju upozorenje i za Bosnu i Hercegovinu. Upozorava da digitalizacija javne uprave, pravosuđa, zdravstva, energetike i drugih važnih sektora mora biti praćena odgovarajućim ulaganjima u informacijsku sigurnost.

“Posebnu pažnju potrebno je posvetiti zaštiti kritične infrastrukture, edukaciji stručnjaka, nezavisnim sigurnosnim provjerama i uspostavljanju procedura za digitalno-forenzičko istraživanje incidenata. Uvođenje umjetne inteligencije u institucije ne smije biti samo pitanje tehnološkog napretka ili smanjenja troškova. To mora biti i pitanje pravne odgovornosti, zaštite podataka, nacionalne sigurnosti i povjerenja građana”, naveo je profesor.

Čovjek mora ostati posljednja sigurnosna instanca

Događaji u Sjedinjenim Američkim Državama i globalni poremećaji Microsoftovih servisa nisu dokaz da su autonomni AI agenti preuzeli kontrolu nad digitalnim sistemima, navodi, ali, dodaje, jesu ozbiljno upozorenje koliko posljedice tehnoloških kvarova mogu biti velike.

“U vremenu kada algoritmi postaju sposobni da samostalno izvršavaju sve složenije zadatke, čovječanstvo mora jasno odrediti granice njihove autonomije. Tehnološki napredak ne smije biti zasnovan na slijepom povjerenju u automatizaciju. Naprotiv, što je sistem inteligentniji i samostalniji, to moraju biti snažniji mehanizmi njegovog nadzora. Jer najveća opasnost budućnosti nije da će mašine naučiti razmišljati, nego da će ljudi prestati kontrolisati odluke koje mašine donose”, zaključio je profesor Salkić.