Igre 
"Lažni senator", predlozi za regulaciju i briga zbog veštačke inteligencije: Burno saslušanje šefa OpenAI u Kongresu
Komentari17/05/2023
-13:13
Sem Altman, generalni direktor kompanije "OpenAI" koja je razvila Chat GPT, pojavio se na saslušanju pred američkim Kongresom i pozvao to zakonodavno telo da što pre reguliše razvoj i upotrebu veštačke inteligencije (AI). Ovo saslušanje je bilo jedno od retkih u Kongresu kada su Demokrate i Republikanci saglasni, pa su tako pripadnici ovih partija čak i davali komplimente jedni drugima. Ovakva "sloga" političara, na primer, nije se mogla videti kada su pred Kongresom govorili Džef Bezos ili Mark Zakerberg.
Govoreći o veštačkoj inteligenciji, Altman je naveo da AI ima "potencijal da reši najveće izazove čovečanstva, poput klimatskih promena i lečenja raka".
Istovremeno je, međutim, priznao i da će njen napredak uticati na radnu snagu. Procenio je da će mnogi ostati bez poslova koji će postati automatizovani, ali i da će se stvoriti "novi poslovi koji će biti bolji".
Generalni direktor kompanije "OpenAI" se pred Senatom pojavio u trenutku vrtoglavog uspeha Chat GPT-a, trenutno najpopularnijeg četbota koji je pokrenuo pravu "trku u naoružanju" veštačkom inteligencijom i širom sveta izazvao zabrinutost zbog širokog spektra mogućnosti zloupotrebe najnaprednije tehnologije.
Govor "lažnog senatora"
Početak Altmanovog saslušanja obeležila je zanimljiva situacija, u kojoj je senator iz Konektikata Ričard Blumental pokušao da demonstrira opasnost koju nosi ovaj vid tehnologije.
Naime, saslušanje je Blumental započeo lažnim sopstvenim govorom koji je Chat GPT generisao i reprodukovao njegovim glasom pomoću video-snimaka senatorovih stvarnih govora iz prošlosti, preneo je RTS.
Iako je veštačka inteligencija "osmislila" govor koji verno odražava senatorove stavove, Blumental je upozorio da je isto tako lako mogla da generiše i govor u kojem objavljuje, na primer, predaju Ukrajine protiv Rusije.
Povezane vesti
"To bi bilo zaista zastrašujuće", rekao je Blumental i konstatovao da je svima jasno da se ne sme dozvoliti razvoj veštačke inteligencije u neregulisanom okruženju.
Altman je, je u svom izlaganju pred senatorima, rekao upravo da je "najviše zabrinut" zbog potencijala da se veštačka inteligencija iskoristi za manipulisanje glasačima i širenje ciljanih dezinformacija.
Predlog za formiranje nove agencije
Altman je rekao da bi trebalo formirati novu agenciju za licenciranje kompanija sa veštačkom inteligencijom, i istakao da razvoj ove tehnologije za čovečanstvo može biti poput nove "štamparske mašine", ali da se zahtevaju i određene bezbednosne mere.
Pred Potkomitetom američkog Senata istakao je da će regulacija i intervencija vlade biti ključne za ublažavanje rizika od sve moćnijih modela veštačke inteligencije.
Jedan od načina na koji bi američka vlada mogla da reguliše IT industriju, po Altmanovom predlogu, jeste režim licenciranja kompanija koje rade na razvoju najmoćnijih sistema veštačke inteligencije.
"Za novu tehnologiju potreban nam je novi okvir", rekao je Altman.
I Altman i Geri Markus, emeritus profesor psihologije i neuronauke na Univerzitetu u Njujorku koji je takođe svedočio na saslušanju, pozvali su na osnivanje nove regulatorne agencije za ovaj vid tehnologije.
Tanjug/AP Photo/Patrick Semansky
Povezane vesti
"Veštačka inteligencija komplikovana i brzo se razvija, pa bi ključna bila agencija koja bi se bavila samo time da je reguliše", rekao je profesor Markus.
Bela kuća je pozvala vodeće izvršne direktore u ovoj oblasti uključujući Altmana, da se pozabave veštačkom inteligencijom, a američki kongresmeni takođe traže akciju kako bi se iskoristile prednosti tehnologije i unapredila nacionalna bezbednost, a istovremeno ograničila njena zloupotreba.
Da bi brzi razvoj tehnologije veštačke inteligencije mogao da ugrozi budućnost čovečanstva, smatra većina Amerikanaca anketiranih u istraživanju Rojtersa i Ipsosa.
Povezane vesti
Kako se navodi u istraživanju, više od dve trećine građana SAD zabrinute su zbog negativnih efekata veštačke inteligencije, a 61 odsto anketiranih veruje da bi ona mogla da ugrozi civilizaciju.
Samo 22 odsto ispitanih ne veruje da veštačka inteligencija predstavlja pretnju po čovečanstvo, dok 17 odsto njih nije sigurno.
Otvoreno pismo zabrinutih stručnjaka
Saslušanje Altmana pred Kongresom dolazi mesec i po dana nakon što je veliki broj istraživača iz sveta tehnologije, među kojima je i Ilon Mask, zatražilo da laboratorije za istraživanje veštačke inteligencije (AI) pauziraju na neko vreme razvoj svojih najnaprednijih sistema.
U otvorenom pismu, objavljenom na sajtu organizacije "Budućnost života" (koje sada ima više od 27.000 potpisa), navodi se da "AI sistemi sa inteligencijom koja parira ljudskoj, mogu da predstavljaju značajne rizike za društvo i čovečanstvo, kao što su pokazala istraživanja i rekle neke AI laboratorije".
"Kao što je navedeno u široko prihvaćenim 'Asilomar AI principima', napredna AI mogla bi da predstavlja značajnu promenu u istoriji života na Zemlji, i trebalo bi da se planira i da se njome upravlja uz odgovarajuće brige i mere. Nažalost, trenutno se ne dešava taj nivo planiranja i upravljanja", navodi se u pismu.
"U poslednjih nekoliko meseci, AI laboratorije su se upustile u nekontrolisanu trku za razvijanje i upotrebu sve moćnijih digitalnih umova koje niko - pa čak ni njihovi tvorci - ne može da razume, kontroliše, ili predvidi njihovo ponašanje", ističe se u pismu.
Na listi onih koji su potpisali otvoreno pismo, nalaze se i Stiv Voznijak, suosnivač "Epla", preduzetnik Endrju Jang, Rejčel Bronson, predsednica Biltena atomskih naučnika koji su odredili "Sat sudnjeg dana", a tu je i pisac i filozof Juval Noa Harari.
Jošua Bendžio, direktor Instituta za algoritme učenja na Univerzitetu u Montrealu i dobitnik Tjuringove nagrade 2018. godine, govorio je nedavno o opasnostima koje nosi ubrzani razvoj AI.
profimedia
"Dostigli smo tačku u kojoj su ovi sistemi dovoljno pametni da mogu da se koriste na načine koji su opasni po društvo, i na načine koje mi još ne razumemo", rekao je Bendžio u jednom intervjuu.
Da nisu svi koji se bave istraživanjem veštačke inteligencije saglasni sa ovim otvorenim pismom, pokazuju i pojedine reakcije iz akademske zajednice.
Timnit Gebru, koja je jedan o autora akademskog članka na koje se, između ostalih, otvoreno pismo poziva, objavila je na svom Tviter nalogu da njen članak zapravo "upozorava protiv pravljenja ovakvih prenapumpanih tvrdnji o AI", prenela je agencija AP.
Koautorka ovog naučnog članka pod nazivom "O opasnostima stohastičkih papagaja: Da li jezički modeli mogu biti preveliki", Emili Bender, nazvala je otvoreno pismo "velikom zbrkom".
Rizici koje nosi veštačka inteligencija, navodi Bender, nikada se nisu odnosili na to da ona može postati "previše moćna". Umesto toga, rizici su podrazumevali "koncentraciju moći u ljudskim rukama, pravljenje sistema represije, i štetu informacionom ekosistemu", pojasnila je Bender.
Evropska unija pozvala na "svetski samit" o veštačkoj inteligenciji
Poslanici Evropskog parlamenta pozvali su prošlog meseca svetske lidere da održe samit kako bi se dogovorili o glavnim principima za kontrolu i primenu veštačke inteligencije (AI), uz obrazloženje da se ona razvija brže nego što su mnogi očekivali.
Poslanici Evropskog parlamenta koji rade na predstojećem zakonodavstvu EU o tehnologiji, rekli su da bi predsednik SAD Džozef Bajden i predsednica Evropske komisije Ursula fon der Lajen, trebalo da sazovu sastanak na najvišem nivou, preneo je Rojters.
Poslanici Evropskog parlamenta su regaovali i na prethodno navedeno otvoreno pismo stručnjaka, rekavši da se "ne slažu sa nekim od alarmirajućih izjava" koje se u tom pismu nalaze.
''Ipak, slažemo se sa osnovnom porukom pisma: uz brzu evoluciju moćne veštačke inteligencije, vidimo potrebu za značajnom političkom akcijom'', naveli su oni.
Evropski zakonodavci su radili na sopstvenom zakonu o veštačkoj inteligenciji u poslednje dve godine, prema kojem se očekuje da alati za veštačku inteligenciju budu klasifikovani prema njihovom percipiranom nivou rizika, od niskog do neprihvatljivog.
Neke zemlje su samostalno već preduzimale mere protiv kompanije OpenAI i njenog četbota. Verovatno je najpoznatiji primer Italije, koja je krajem marta zabranila Chat GPT zbog zabrinutosti o privatnosti.
Međutim, krajem aprila je saopšteno da se OpenAI povinovao regulaciji koju je odredila vlada u Rimu, pa je četbot u Italiji ponovo "onlajn".
Preporuka za vas
Komentari (0)