ADVERTISEMENT

Zahtjevi za informacijama pokrenuti u Italiji, Irskoj, Belgiji, Nizozemskoj i Francuskoj žele znati krši li prikupljanje informacija AI tvrtke Opću uredbu o zaštiti podataka Europe (GDPR) prijenosom osobnih podataka u Kinu.

Ova zabrinutost već je dovela do blokiranja aplikacije u Italiji dok tamošnje vlasti istražuju koji se podaci prikupljaju, u koju svrhu, gdje se pohranjuju i jesu li korišteni za treniranje najnovijeg modela umjetne inteligencije.

Kineski start up pokrenuo je svoj chatbot R1 u januaru, tvrdeći da je model jeftiniji za rad i koristi manje energije od OpenAI-jevog ChatGPT-a.

Dakle, zašto to uzrokuje toliko tjeskobe europskim nadležnim tijelima za podatke?

Koje podatke aplikacija bilježi?

DeepSeek u svojim uvjetima korištenja navodi da prikuplja tri vrste informacija od korisnika: izravno dostavljene podatke kao što su imena i adrese e-pošte, automatski prikupljene informacije kao što je IP adresa i neke iz drugih izvora kao što su Apple ili Google prijave.

U ugovoru se navodi da se neke od tih informacija prikupljaju izravnim praćenjem interakcija i korištenja na svim uređajima te da aplikacija odlučuje kada će morati zaštititi sigurnost i dobrobit svoje zajednice.

Te se informacije mogu čuvati "što je duže moguće" i koristiti u razne svrhe.

Sve pružene informacije mogu se poslati trećim stranama, kao što su oglašivači, analitičke tvrtke, tijela za provedbu zakona, javna tijela i nositelji autorskih prava.

Nemamo nikakve odredbe o suštinski ekvivalentnoj ili odgovarajućoj zaštiti podataka.

David Erdos kodirektor Centra za intelektualno vlasništvo i informacijsko pravo, Sveučilište u Cambridgeu navodi da ovo nije "jedina aplikacija koja bilježi ove vrste podataka; OpenAI-jev ChatGPT i Anthropicov Claude također rade. Obje aplikacije, kao i DeepSeek, suočene su s kritikama zbog svojih politika privatnosti podataka u EU."

GDPR Europljanima daje određenu kontrolu nad njihovim podacima, poput prava na brisanje ili zaustavljanje njihove obrade.

Prema Davidu Erdosu, kodirektoru Centra za intelektualno vlasništvo i informacijsko pravo na Sveučilištu Cambridge, DeepSeek nije zajamčio da će ta prava biti zadovoljena za korisnike aplikacija iz EU.

"Nemamo nikakve odredbe o suštinski ekvivalentnoj ili odgovarajućoj zaštiti podataka", rekao je Erdos.

Gdje su informacije pohranjene?

Velik dio zabrinutosti oko aplikacije proizlazi iz činjenice da DeepSeek pohranjuje informacije na kineskim poslužiteljima.

DeepSeek kaže da održava "komercijalno razumne tehničke, administrativne i fizičke sigurnosne mjere," kako bi zaštitio podatke smještene u Kini i, kada je potrebno, prenosi korisničke podatke prema lokalnim zakonima.

"Ne postoji čak ni... pravna odredba o tome zašto je u redu pohranjivati ​​podatke u Kini i napustiti EU, samo se tvrdi da su tamo podaci", rekao je Erdos. “To bi samo po sebi bilo ozbiljno kršenje zakona”.

Pravni studijski dokument Europskog odbora za zaštitu podataka (EDPB) iz 2022. utvrdio je da je osnova kineskog zakona o privatnosti da "stabilnost zajednice treba prevladati nad potrebama pojedinačnih osoba".

EDPB je nastavio da se čine "brojne iznimke" od zaštite osobnih podataka radi nacionalne sigurnosti ili kaznenih istraga. U EDPB-u također ne znaju postupaju li na isti način s podacima stranih državljana.

Prema indeksu kibernetičkog kriminala za 2024., Kina je također jedna od svjetski najsklonijih napadima na kibernetičku sigurnost.

Nedavna analiza tehnološke kompanije Cisco otkrila je da DeepSeek nije mogao blokirati nijedan jailbreak cyber-sigurnosni napad, za razliku od drugih modela koji mogu barem djelomično blokirati te napade.

DeepSeek R1 nema robusne zaštitne ograde, što ga čini vrlo osjetljivim na algoritamsko jailbreaking i potencijalnu zlouporabu.

Procjena sigurnosnog rizika u DeepSeeku i drugim graničnim modelima rasuđivanja

"DeepSeek R1 nema robusne zaštitne ograde, što ga čini vrlo osjetljivim na algoritamsko jailbreaking i potencijalnu zlouporabu", stoji u njihovoj analizi.

Ako korisnici i dalje žele koristiti aplikaciju, Erdos je rekao da bi trebali biti oprezni u otkrivanju bilo kakvih osobnih podataka, uključujući bilo što "što bi bilo intimne prirode".

"Ljudi moraju donijeti vlastitu prosudbu o tome koriste li uslugu [iako] to ljudima ne mora nužno dati prava koja bi očekivali", rekao je Erdos.

Euronews Next pisao je DeepSeeku za reakciju na istrage o privatnosti podataka i za objašnjenje kako čuva podatke, ali nije odmah dobio odgovor.