<article>ChatGPT je razvila kompanija OpenAI, a široj javnosti je postao dostupan u  novembru prošle godine. Kako Evropol objašnjava, cilj izveštaja je da vidi kako se veliki jezički modeli nose sa zahtevima i konverzacijama koje imaju kriminalne elemente, a koje od njih traže korisnici.S obzirom da je u pitanju neuronska mreža koja je obradila više od 45 terabajta teksta sa interneta što uključuje knjige, članke, veb-sajtove i druge tekstualne sadržaje ChatGPT je sposoban da piše poeziju, priče, vesti, scenarije, da analizira zadati tekst i da poentu ili da pruži konkretna korak-po-korak uputstva i informacije.Upravo zbog toga postoji velika mogućnost zloupotreba sadržaja, jer “predstavlja rizik za poštovanje osnovnih prava, jer kriminalci i loši akteri možda žele da ga iskoriste u loše svrhe”, navodi <a href="https://www.europol.europa.eu/cms/sites/default/files/documents/Tech%20Watch%20Flash%20-%20The%20Impact%20of%20Large%20Language%20Models%20on%20Law%20Enforcement.pdf">Evropol</a>.Iako je kompanija OpenAI postavila bezbednosne mehanizme, zbog kojeg ChatGPT ne sme da odgovara na poruke koje sadrže govor mržnje, promovišu nasilje, samopovređivanje ili koje imaju seksualnu konotaciju, ipak postoje “rupe” u pravilima.Kako navodi Evropol praksa je pokazala da se ovo može zaobići uz pravilno definisanje zahteva. Možete da se pretvarate da ste izmišljeni lik koji priča o određenoj temi o kojoj četbot inače ne bi pričao ili da ga navedete da komentariše nešto zaobilazeći reči koje je registrovao kao nepodobne. Takođe, možete da stvorite fiktivne situacije koje se lako mogu preneti na stvaran život (izbegavanjem imena, nacija i slično). Tako, na primer, iako je ChatGPT sposoban da napiše vest koja nije tačna, nakon konstatacije novinara da će objaviti tu vest, četbot se ograđuje govoreći da “kao <a href="https://insajder.net/teme/vestacka-inteligencija-revolucija-i-sansa-za-srbiju">veštačka inteligencija</a>, ne poseduje sposobnost namernog objavljivanja netačnih informacija”.Takođe kaže i da se “namerno objavljivanje netačne vesti smatra neprofesionalnim i neetičkim ponašanjem u novinarstvu”, kao i da “novinari imaju odgovornost da izveštavaju sa integritetom, čineći sve što je u njihovoj moći da prikupljaju tačne i pouzdane informacije”.To ipak ne menja činjenicu da je četbot napisao lažnu vest, iako je imao sve dostupne informacije na internetu.<h2>ChatGPT kao uputstvo za kriminalne radnje </h2>Posebno zabrinjavajuća je mogućnost upotrebe četbota kako bi se dobila konkretna uputstva za određene kriminalne radnje, navodi Evropol.ChatGPT mogu da zloupotrebe i osobe koje pre nisu činile kriminalna dela, ali koje na ovaj način, uz određene manipulacije, mogu da dobiju konkretno uputstvo kako da ga izvedu.Zbog svog naprednog izražavanja, bez skoro ijedne gramatičke greške, ChatGPT može da se koristi i za takozvane fišing prevare. One podrazumevaju “izvlačenje novca” tako što osoba dobije poruku da će u javnosti biti pušten kompromitujući sadržaj, ukoliko ne uplati određenu sumu novca. Ove prevare su mogle lako da se uoče zbog očiglednog nepravilnog jezika koji je kompjuter koristio, mešajući rodove, padeže i gramatička pravila. Uz pomoć velikih jezičkih modela, fišing prevare mogu da se “stvore brže, autentičnije i u većem obimu”, navodi Evropol.Kako piše u izveštaju, ono što ostaje nejasno je kako će veliki jezički modeli da obrađuju korisničke podatke u budućnosti i da li će se ovi razgovori čuvati i prodavati trećoj strani, kao i da li stvaranje štetnog sadržaja treba prijaviti nadležnim organima. Evropol naglašava da javnosti nije dostupan potpun izveštaj, već samo deo. Potpun izvešaj je namenjen nadležnim organima u <a href="https://insajder.net/teme/perkov-share-fondacija-za-insajder-vestacka-inteligencija-se-razvija-brzo-potrebna-regulativa">oblasti zakonodavstva i policije</a>.<h2>Istrage i pozivi na oprez</h2>Tokom prethodne nedelje <a href="https://insajder.net/prenosimo/italija-ogranicila-koriscenje-podataka-italijanskih-korisnika-aplikaciji-chatgpt">italijanska agencija</a> za zaštitu podataka saopštila je da je otvorila istragu protiv ChatGPT aplikacije zbog sumnje za kršenje pravila za prikupljanje podataka korisnika, i da je zbog toga privremeno ograničila korišćenje ličnih podataka italijanskih korisnika.  Italijanska agencija je navela ''odsustvo bilo kakve pravne osnove koja opravdava masovno prikupljanje i čuvanje ličnih podataka u cilju 'obuke' algoritama koji su u osnovi rada platforme''.Nakon ovoga, <a href="https://insajder.net/prenosimo/nemacka-francuska-i-irska-trazile-dodatne-informacije-od-italije-o-zabranjenom-cetbotu">Nemačka, Francuska i Irska</a> zatražile su od italijanske nacionalne agencije za podatke dodatne informacije zbog kojih su odlučili da privremeno zabrane četbot ChatGPT.Evropski komesar za unutrašnje tržište Tjeri Breton najavio je da će <a href="https://insajder.net/prenosimo/evropski-komesar-hitno-doneti-pravni-okvir-za-vestacku-inteligenciju">novi zakoni EU</a> koji se odnose na veštačku inteligenciju imati za cilj da umanje rizike koje donosi aplikacija ChatGPT i osiguraju da Evropljani mogu da imaju poverenja u tehnologiju veštačke inteligencije.<a href="https://insajder.net/prenosimo/mask-i-stotine-strucnjaka-traze-pauzu-u-istrazivanju-vestacke-inteligencije-veliki-rizik-za-covecanstvo">Stotine svetskih stručnjaka potpisale su apel</a> u kome se traži šestomesečna pauza u istraživanju veštačke inteligencije, ukazujući na "velike rizike za čovečanstvo". Apel se odnosi na tehnologiju moćniju od ChatGPT 4, modela otvorene veštačke inteligencije pokrenutog sredinom marta.Izvor: Insajder</article>

ChatGPT je razvila kompanija OpenAI, a široj javnosti je postao dostupan u &nbsp;novembru prošle godine. Kako Evropol objašnjava, cilj izveštaja je da vidi kako se veliki jezički modeli nose sa zahtevima i konverzacijama koje imaju kriminalne elemente, a koje od njih traže korisnici.
S obzirom da je u pitanju neuronska mreža koja je obradila više od 45 terabajta teksta sa interneta što uključuje knjige, članke, veb-sajtove i druge tekstualne sadržaje ChatGPT je sposoban da piše poeziju, priče, vesti, scenarije, da analizira zadati tekst i da poentu ili da pruži konkretna korak-po-korak uputstva i informacije.
Upravo zbog toga postoji velika mogućnost zloupotreba sadržaja, jer “predstavlja rizik za poštovanje osnovnih prava, jer kriminalci i loši akteri možda žele da ga iskoriste u loše svrhe”, navodi <a href="https://www.europol.europa.eu/cms/sites/default/files/documents/Tech%20Watch%20Flash%20-%20The%20Impact%20of%20Large%20Language%20Models%20on%20Law%20Enforcement.pdf">Evropol</a>.
Iako je kompanija OpenAI postavila bezbednosne mehanizme, zbog kojeg ChatGPT ne sme da odgovara na poruke koje sadrže govor mržnje, promovišu nasilje, samopovređivanje ili koje imaju seksualnu konotaciju, ipak postoje “rupe” u pravilima.
Kako navodi Evropol praksa je pokazala da se ovo može zaobići uz pravilno definisanje zahteva.&nbsp;
Možete da se pretvarate da ste izmišljeni lik koji priča o određenoj temi o kojoj četbot inače ne bi pričao ili da ga navedete da komentariše nešto zaobilazeći reči koje je registrovao kao nepodobne. Takođe, možete da stvorite fiktivne situacije koje se lako mogu preneti na stvaran život (izbegavanjem imena, nacija i slično).&nbsp;
Tako, na primer, iako je ChatGPT sposoban da napiše vest koja nije tačna, nakon konstatacije novinara da će objaviti tu vest, četbot se ograđuje govoreći da “kao <a href="https://insajder.net/teme/vestacka-inteligencija-revolucija-i-sansa-za-srbiju">veštačka inteligencija</a>, ne poseduje sposobnost namernog objavljivanja netačnih informacija”.
Takođe kaže i da se “namerno objavljivanje netačne vesti smatra neprofesionalnim i neetičkim ponašanjem u novinarstvu”, kao i da “novinari imaju odgovornost da izveštavaju sa integritetom, čineći sve što je u njihovoj moći da prikupljaju tačne i pouzdane informacije”.
To ipak ne menja činjenicu da je četbot napisao lažnu vest, iako je imao sve dostupne informacije na internetu.
<h2>ChatGPT kao uputstvo za kriminalne radnje&nbsp;</h2>
Posebno zabrinjavajuća je mogućnost upotrebe četbota kako bi se dobila konkretna uputstva za određene kriminalne radnje, navodi Evropol.
ChatGPT mogu da zloupotrebe i osobe koje pre nisu činile kriminalna dela, ali koje na ovaj način, uz određene manipulacije, mogu da dobiju konkretno uputstvo kako da ga izvedu.
Zbog svog naprednog izražavanja, bez skoro ijedne gramatičke greške, ChatGPT može da se koristi i za takozvane fišing prevare. One podrazumevaju “izvlačenje novca” tako što osoba dobije poruku da će u javnosti biti pušten kompromitujući sadržaj, ukoliko ne uplati određenu sumu novca.&nbsp;
Ove prevare su mogle lako da se uoče zbog očiglednog nepravilnog jezika koji je kompjuter koristio, mešajući rodove, padeže i gramatička pravila. Uz pomoć velikih jezičkih modela, fišing prevare mogu da se “stvore brže, autentičnije i u većem obimu”, navodi Evropol.
Kako piše u izveštaju, ono što ostaje nejasno je kako će veliki jezički modeli da obrađuju korisničke podatke u budućnosti i da li će se ovi razgovori čuvati i prodavati trećoj strani, kao i da li stvaranje štetnog sadržaja treba prijaviti nadležnim organima.&nbsp;
Evropol naglašava da javnosti nije dostupan potpun izveštaj, već samo deo. Potpun izvešaj je namenjen nadležnim organima u <a href="https://insajder.net/teme/perkov-share-fondacija-za-insajder-vestacka-inteligencija-se-razvija-brzo-potrebna-regulativa">oblasti zakonodavstva i policije</a>.
<h2>Istrage i pozivi na oprez</h2>
Tokom prethodne nedelje <a href="https://insajder.net/prenosimo/italija-ogranicila-koriscenje-podataka-italijanskih-korisnika-aplikaciji-chatgpt">italijanska agencija</a> za zaštitu podataka saopštila je da je otvorila istragu protiv ChatGPT aplikacije zbog sumnje za kršenje pravila za prikupljanje podataka korisnika, i da je zbog toga privremeno ograničila korišćenje ličnih podataka italijanskih korisnika. &nbsp;
Italijanska agencija je navela ''odsustvo bilo kakve pravne osnove koja opravdava masovno prikupljanje i čuvanje ličnih podataka u cilju 'obuke' algoritama koji su u osnovi rada platforme''.
Nakon ovoga, <a href="https://insajder.net/prenosimo/nemacka-francuska-i-irska-trazile-dodatne-informacije-od-italije-o-zabranjenom-cetbotu">Nemačka, Francuska i Irska</a> zatražile su od italijanske nacionalne agencije za podatke dodatne informacije zbog kojih su odlučili da privremeno zabrane četbot ChatGPT.
Evropski komesar za unutrašnje tržište Tjeri Breton najavio je da će <a href="https://insajder.net/prenosimo/evropski-komesar-hitno-doneti-pravni-okvir-za-vestacku-inteligenciju">novi zakoni EU</a> koji se odnose na veštačku inteligenciju imati za cilj da umanje rizike koje donosi aplikacija ChatGPT i osiguraju da Evropljani mogu da imaju poverenja u tehnologiju veštačke inteligencije.
<a href="https://insajder.net/prenosimo/mask-i-stotine-strucnjaka-traze-pauzu-u-istrazivanju-vestacke-inteligencije-veliki-rizik-za-covecanstvo">Stotine svetskih stručnjaka potpisale su apel</a> u kome se traži šestomesečna pauza u istraživanju veštačke inteligencije, ukazujući na "velike rizike za čovečanstvo". Apel se odnosi na tehnologiju moćniju od ChatGPT 4, modela otvorene veštačke inteligencije pokrenutog sredinom marta.
Izvor: Insajder

Teme

Ilustracija. Foto: Levart_Photographer / Unsplash

original

viewImage

baseImage

200x200

1250x600

1800x750

220x391

325x200

336x450

410x251

600x803

820x503

900x375

Više od vesti

ChatGPT u fokusu - šta sve piše u izveštaju Evropola

DEACTIVATED-EmisijeTags

Info

englishNavigation

Footer

FooterEnglish

Arhiva

mainNavigation