Igre 
Kalifornija na putu da usvoji zakon protiv globalne AI "apokalipse": Plan je da spreči "kritičnu štetu čovečanstvu"
Komentari17/08/2024
-22:10
Američka savezna država Kalifornija na putu je da usvoji "razvodnjenu" verziju zakona o sprečavanju katastrofa sa veštačkom inteligencijom, sa oznakom SB 1047, piše tehnološki portal TechCrunch.
Predlog zakona naišao je na snažno protivljenje mnogih moćnih igrača u Silicijumskoj dolini, koja je globalni centar razvoja AI tehnologije. Kalifornijski zakonodavci poklekli su tom pritisku, dodajući nekoliko amandmana koje je predložila AI firma "Antropik" i drugi protivnici zakona.
U četvrtak je zakon prošao kroz kalifornijski Komitet za aproprijacije, uz nekoliko ključnih izmena, rekli su za pomenuti portal iz kancelarije senatora Skota Vinera.
"Prihvatili smo niz veoma razumnih predloženih amandmana i verujem da smo se pozabavili suštinskim brigama koje su izrazili 'Antropik' i mnogi drugi u industriji. Ovi amandmani se zasnivaju na značajnim promenama SB 1047 koje sam prethodno načinio da bih zadovoljio jedinstvene potrebe 'open source' zajednice, što je važan izvor inovacija@, rekao je senator Viner.
SB 1047 i dalje ima za cilj da spreči velike sisteme veštačke inteligencije da ubiju veliki broj ljudi, izazovu "kritičnu štetu čovečanstvu" ili incidente u sferi sajber bezbednosti koji koštaju više od 500 miliona dolara, tako što će programere smatrati odgovornim. Međutim, zakon sada daje kalifornijskoj vladi manje ovlašćenja da AI laboratorije smatra odgovornim.
Najvažnije je da zakon više ne dozvoljava javnom tužiocu Kalifornije da tuži AI kompanije zbog nemarnih bezbednosnih praksi pre nego što se dogodi katastrofalni događaj. Ovo je bila sugestija "Antropika".
Umesto toga, tužilac može da traži zabranu, zahtevajući od kompanije da prekine određenu operaciju za koju smatra da je opasna, i još uvek može da tuži AI programera ako njegov model izazove katastrofalan događaj.
Povezane vesti
U nastavku, SB 1047 više ne zahteva stvaranje nove vladine agencije, što je ranije bilo uključeno u zakon. Međutim, u nacrtu zakona i dalje ostaje Odbor graničnih modela (BFM). Ovaj nadzorni odbor sada ima devet umesto pet članova. On će i dalje određivati tzv. pragove u razvoju modela i izdavati bezbednosne smernice i propise za revizore.
Viner je takođe izmenio SB 1047 tako da laboratorije za veštačku inteligenciju više ne moraju da podnose sertifikate o rezultatima bezbednosnih testova "pod kaznom za lažno svedočenje“. Sada se od ovih AI laboratorija jednostavno traži da podnesu javne "izjave“ u kojima se navode njihove bezbednosne prakse, ali zakon više ne nameće nikakvu krivičnu odgovornost.
SB 1047 takođe sada uključuje blaži jezik o tome kako programeri obezbeđuju da su AI modeli bezbedni. Sada, zakon zahteva od programera da obezbede "razumnu" brigu da modeli veštačke inteligencije ne predstavljaju značajan rizik od izazivanja katastrofe, umesto "razumnih garancija“ koje je predlog zakona zahtevao ranije.
Takođe, zakonodavci su dodali zaštitu za fino podešene open source modele, to jest one kojima je ostavljen otvoren pristup. Ako neko potroši manje od 10 miliona dolara na fino podešavanje takvog modela, SB 1047 ga izričito ne smatra programerom. Odgovornost će i dalje biti na originalnom, veliko programeru modela.
Dok se zakon suočio sa značajnim protivljenjem američkih kongresmena, renomiranih istraživača veštačke inteligencije, velikih tehnoloških kompanija i preduzetnika, zakon je relativno lako prošao kroz zakonodavstvo Kalifornije. Ovi amandmani će verovatno smiriti protivnike SB 1047 i predstaviti guverneru Gevinu Njusomu manje kontroverzan zakon koji može da potpiše bez gubitka podrške industrije veštačke inteligencije, navodi TechCrunch.
Anthropic kaže da analizira promene SB 1047 pre nego što zauzme konačnu poziciju, a Viner nije usvojio sve njihove predložene amandmane.
"Cilj SB 1047 je, i oduvek je bio, da unapredi bezbednost veštačke inteligencije, uz istovremeno omogućavanje inovacija u celom ekosistemu. Novi amandmani će podržati taj cilj“, rekao je Nejtan Kalvin, viši savetnik za politiku Akcionog fonda Centra za AI bezbednost.
Povezane vesti
Međutim, malo je verovatno da će ove promene umiriti uporne kritičare SB 1047. Iako je predlog zakona znatno slabiji nego pre ovih amandmana, SB 1047 i dalje smatra programere odgovornim za opasnosti njihovih AI modela. Ta suštinska činjenica o SB 1047 nije univerzalno podržana, a ovi amandmani malo doprinose njenom rešavanju.
Komentari (0)