Perkov (SHARE fondacija) za Insajder: Veštačka inteligencija se razvija brzo, potrebna regulativa
Tehnologija veštačke inteligencije razvija se brzo, a kako bi se sprečile moguće zloupotrebe potrebno je da postoje mere bezbednosti i zaštite, izjavio je za Insajder istraživač u SHARE fondaciji Bojan Perkov.
Stotine svetskih stručnjaka potpisale su apel u kome se traži šestomesečna pauza u istraživanju veštačke inteligencije, ukazujući na "velike rizike za čovečanstvo". Apel se odnosi na tehnologiju moćniju od ChatGPT 4, modela otvorene veštačke inteligencije pokrenutog sredinom marta.
"Najviše rizika postoji zbog nepoznanice šta su sve mogućnosti veštačke inteligencije jer se ona brzo razvija, u kontekstu toga pitanje je koliko bi primena same tehnologije mogla da bude problematična u nekim slučajevima", rekao je Perkov.
Pismo, koje je između ostalih potpisao i Elon Mask, dolazi u trenutku kada se Europol pridružio zboru koji je etički i pravno zabrinut zbog platformi poput ChatGPT-4. Oni upozoravaju na potencijalnu zloupotrebu sistema u pokušajima krađe identiteta, dezinformacije i kibernetičkog kriminala.
"Imate razne scenarije - od manipulacija fotografijama 'hapšenja' Donalda Trampa ili pape u velikoj perjanoj zimskoj jakni do pretnji po privatnost. 'OpenAI' (Chat GPT) je imao i bezbednosni propust kada je mogla da se vidi istorija upita pa su morali da se izvine", naveo je on.
Perkov je ocenio da taj slučaj pristupa podacima ne treba zanemariti, imajući u vidu šta sve ljudi mogu da upišu dok su koristili tu tehnologiju.
On je dodao da kriminalci već zloupotrebljavaju tu tehnologiju.
"Europol je već rekao da postoje i takozvane 'jailbreak' metode - kako da rafinišete tačno vaš upit da zaobiđete bezbednosne mehanizme koji bi vas inače sprečili da dobijete odgovor. To rade kriminalci zarad svojih interesa", naglasio je on.
Perkov je ocenio da je potrebno ostvariti ravnotežu između napretka tehnologije i javnog interesa da se građani zaštite.
"Treba da postoje jasni i precizni mehanizmi, a naznake već postoje da treba ići sa regulacijom", rekao je Perkov.
Evropska unija priprema Akt o veštačkoj inteligenciji (AI Act) koji bi trebalo da pruži smernice o rizicima sistema koji koriste tehnologiju veštačke inteligencije.
"Sve je to u EU u procesu pregovora, dosta tu ima i politike i lobiranja i jako je teško reći u kom smeru će se kretati ta debata", dodao je on.
Srbija bi kao kandidat za članstvo u EU trebalo i sama da razmišlja o regulaciji ove tehnologije.
"Šta god da bude, zakoni i regulativa će uvek kaskati za tehnologijom. Proces jednog i drugog često nije kompatibilan i ne odvija se istom brzinom. Dolazi do razvoja novih, inovativnih biznis modela i proizvoda a to često nije usaglašeno sa regulativom", zaključio je Perkov.
Izvor: Insajder