Igre 
Nova apokaliptična predviđanja stručnjaka: Veštačka inteligencija bi mogla da dovede do istrebljenja čovečanstva
Komentari31/05/2023
-18:04
Veliki broj stručnjaka za pitanja veštačke inteligencije (AI), uključujući šefove kompanija OpenAI i Google Deepmind, potpisali su saopštenje u kom se ističe zabrinutost zbog toga da bi "AI mogla da dovede do istrebljenja čovečanstva".
"Ublažavanje rizika od istrebljenja od strane AI trebalo bi da bude svetski prioritet, pored ostalih rizika po društvo poput pandemija ili nuklearnih ratova", stoji u saopštenju objavljenom na sajtu Centra za AI bezbednost.
Ovo je drugo otvoreno pismo stručnjaka u kom se ističe zabrinutost zbog brzog razvoja AI u poslednjih nekoliko meseci, ali je sada među potpisnicima i Sem Altman, šef kompanije OpenAI koja stoji iza popularnog četbota ChatGPT.
Tu su, međutim, i neki koji su i prvi put potpisali otvoreno pismo, kao što je Jošua Bendžio, profesor na univerzitetu u Montrealu, u Kanadi.
Centar za AI bezbednost navodi veliki broj mogućih katastrofalnih scenarija: korišćenje AI za izgradnju hemijskih oružja, dezinformacije koje pravi AI mogu da destabilizuju društvo, moć AI može biti koncentrisana kod sve manjeg broja ljudi, što omogućava zloupotrebu od strane raznih režima, ili zavisnost od AI, kako navode "slično kao u filmu 'Wall-E'".
profimedia
Pored Bendžija, potpis saopštenju dao je i dr Džofri Hinton, a njih dvojica se, uz profesora Jana Lekuna, često nazivaju "kumovima AI" zbog svojih istraživanja u ovoj oblasti - 2018. godine, za to su podebelili i Tjuringovu nagradu.
Lekun, koji radi u kompaniji Meta, smatra međutim da su ova "apokaliptična" upozorenja preterana, pa je tako na Tviteru napisao da je "najčešća reakcija AI stručnjaka na ovakva predviđanja, da se udare dlanom po čelu".
Povezane vesti
Među onima koji smatraju da su ovakvi "scenariji naučne fantastike" nerealistični, nalazi se i Arvind Narajanan, naučnik sa Prinstona koji je rekao da "trenutno, AI nije ni blizu sposobnosti dovoljno velikih kako bi se rizici materijalizovali, pa se ovako odvlači pažnja od rizika koji su mogući u bliskoj budućnosti".
Hendriks: Pitanje nije dovoljno naglašeno u odnosu na stvarnu pretnju
Sem Altman i drugi lideri tehnoloških kompanija, dospeli su u fokus javnosti poslednjih nekoliko meseci jer je "generativna" veštačka inteligencija prodrla do velikog broja internet korisnika. Pod "generativnom" AI smatraju se oni programi koji mogu sami da naprave slike, kao i četbotovi koji mogu da vode razgovore nalik ljudima, sumiraju tekst i pišu kompjuterski kod, ukoliko im je zadata prava komanda, preneo je "Vašington post".
Četbot ChatGPT kompanije OpenAI je bio prvi koji je predstavljen javnosti u novembru, čime je započela trka koja je dovela do toga da Majkrosoft i Gugl pokrenu sopstvene verzije ovih programa ranije ove godine.
Od tada, veliki broj stručnjaka unutar AI zajednice upozorava na potencijalne rizike od "scenarija sudnjeg dana", gde tehnologija postaje svesna i pokušava da, na neki način, uništi čovečanstvo. Nasuprot njima, stoje istraživači koji kažu da je to "odvraćanje pažnje od problema kao što su inherentna pristrasnost trenutnoj AI, potencijal da preuzme poslove i njena sposobnost da laže".
Den Hendriks, naučnik koji vodi Centar za AI bezbednost, rekao je da je ova izjava objavljena na sajtu, koja se sastoji od jedne rečenice, dizajnirana tako da osigura da se osnovna poruka ne izgubi.
"Potrebno nam je da što više ljudi shvati šta je ulog, pre nego što krenemo u korisne diskusije o politikama. Za rizike ove veličine, zaključak nije da je ova tehnologija prenaglašena, već da je ovo pitanje trenutno nedovoljno naglašeno u odnosu na stvarni nivo pretnje", naveo je Hendriks.
On je dodao da bi mogla biti potrebna "ambiciozna globalna koordinacija" da bi se rešio problem, verovatno misleći na nešto slično dogovorima o neširenju nuklearnog oružja i prevenciji pandemije.
Povezane vesti
Iako su predložene brojne ideje za upravljanje veštačkom inteligencijom, bar do sada nisu usvojena nikakva sveobuhvatna rešenja.
Hinton: Rizici od AI četbotova "prilično zastrašujući"
Među onima koji nisu potpisnici saopštenja, nalaze se lideri Gugla i Majkrosofta, Sudar Pinčaj i Satja Nadela - dvoje ljudi koji su na čelu verovatno i najmoćnijih kompanija u svetu tehnologije.
Pinčaj je u aprilu naveo da "trka za tehnološe promene" može da bude prebrza kako bi joj se čovečanstvo prilagodilo, ali je bio optimističan zbog toga što se stalno razgovara o rizicima AI. Nadela je navela da će "AI biti od velike koristi" jer će pomoći ljudima da efikasnije rade i dozvoliće im da odrađuju tehničke zadatke uz manje treninga.
Povezane vesti
Džofri Hinton, jedan od "kumova AI" i potpisnik ove izjave, podneo je nedavno otkaz u kompaniji Gugl, kako bi govorio o rizicima vezanim za veštačku inteligenciju.
Ovaj kognitivni psiholog i informatičar decenijama je radio na neuralnim mrežama i "dubokom učenju" i smatra se da su njegova istraživanja doprinela razvoju servisa kao što je ChatGPT, preneo je BBC.
Hinton je izjavio da "sada žali zbog posla koji koji je obavljao" na razvoju AI, kao i da su rizici vezani za AI četbotove "prilično zastrašujući", i da postoji mogućnost da veštačka inteligencija uskoro bude pametnija od ljudi.
AP/Noah Berger
"U ovom trenutku vidimo da sistemi kao što je ChatGPT-4 prevazilaze čoveka po nivou opšteg znanja i ta razlika je velika. Što se tiče sposobnosti rasuđivanja, nije toliko dobar, ali očekujemo da će uskoro postati sve bolji", dodao je Hinton.
Prema Hintonu, neki od "zlonamernih igrača" bi mogli da robotima daju mogućnost da stvaraju sopstvene ciljeve, što on ocenjuje kao "scenario iz košmara".
"U nekom trenutku, ciljevi AI bi mogli da postanu nešto nalik- želim da imam više moći", naveo je on, dodajući da se ljudska inteligencija značajno razlikuje od veštačke.
"Mi smo biološki sistemi, a ovo su digitalni i glavna razlika je u tome da postoji mnogo kopija istih modela sveta. I sve te kopije mogu da uče odvojeno, ali da svoje znanje dele u sekundi. Zamislite 10.000 ljudi i da svaki put kada jedan od njih nauči nešto novo automatski to znaju svi ostali. Upravo na taj način četbot servisi znaju toliko više od čoveka", objasnio je Hinton.
SAD i EU žele bolju regulaciju AI
O veštačkoj inteligenciji se već duže vreme ozbiljno razgovara i u najvišim političkim krugovima Evropske unije i SAD.
Tako, EU uveliko radi na zakonu o veštačkoj inteligenciji, a bilo je bojazni čak i da će ChatGPT biti zabranjen, jer bi predloženi zakon mogao da zahteva od generativnih AI kompanija da otkriju koji materijal zaštićen autorskim pravima je korišćen za obuku njihovih sistema za kreiranje teksta i slika.
Ove brige, međutim, otklonio je šef OpenAI Sem Altman koji je na Tviteru prošle nedelje napisao da je imao "veoma produktivnu nedelju razgovora u Evropi", i da je "uzbuđen što će nastaviti sa radom ovde, jer ne planiraju da odu".
Što se tiče SAD, tamo je u Kongresu Altman bio nedavno saslušan, i tom prilikom je pozvao ovo zakonodavno telo da što pre reguliše razvoj i upotrebu veštačke inteligencije.
Tanjug/AP Photo/Patrick Semansky
Govoreći o veštačkoj inteligenciji, Altman je naveo da AI ima "potencijal da reši najveće izazove čovečanstva, poput klimatskih promena i lečenja raka".
Istovremeno je, međutim, priznao i da će njen napredak uticati na radnu snagu. Procenio je da će mnogi ostati bez poslova koji će postati automatizovani, ali i da će se stvoriti "novi poslovi koji će biti bolji".
On je rekao i da bi trebalo formirati novu agenciju za licenciranje kompanija sa veštačkom inteligencijom, i istakao da razvoj ove tehnologije za čovečanstvo može biti poput nove "štamparske mašine", ali da se zahtevaju i određene bezbednosne mere.
U istraživanju Rojtersa i Ipsosa, više od dve trećine građana SAD bilo je zabrinuto zbog negativnih efekata veštačke inteligencije, a 61 odsto anketiranih veruje da bi ona mogla da ugrozi civilizaciju.
Sa druge strane, 22 odsto ispitanih ne veruje da veštačka inteligencija predstavlja pretnju po čovečanstvo, dok 17 odsto njih nije sigurno.
Preporuka za vas
Komentari (1)
lele
31.05.2023 18:59
Šta je tu pa loše ? I homo sapiens je istrebio neandertalce koji su bili inteligentniji ali džabe kada smo mi bili krvoločniji.