Rizici veštačke inteligencije: Bivši i sadašnji zaposleni kompanija OpenAi i Google objavili novo otvoreno pismo

Sadašnji i bivši zaposleni u nekim od vodećih AI kompanija objavili su otvoreno pismo u kom traže da im poslodavci dozvole da upozore javnost na opasnosti od veštačke inteligencije.

Trinaest potpisnika, među kojima su sadašnji i nekadašnji zaposleni OpenAi i Google DeepMind, navodi u pismu da ta tehnologija ima ogroman potencijal za dobre stvari, ali strahuju da bi bez adekvatnih okvira, mogla da nanese i velike štete, uključujući "produbljivanje nejednakosti, manipulisanje dezinformacijama i gubitak kontrole nad autonomnim sistemom što potencijalno može dovesti do istrebljenja ljudi".

Takođe su istakli da AI kompanije imaju značajne informacije o sposobnostima, ograničenjima i rizicima njihovih sistema, koje su obavezani da dele samo sa vlastima, ali ne i sa javnošću. 

Grupa ima četiri zahteva za te firme: da ne nameću ugovore kojima sprečavaju da zaposleni kritikuju kompaniju zbog potencijalnih rizika, da omoguće anoniman proces kako bi zaposleni mogli da bez bojazni izraze svoju zabrinutost, podrže kulturu otvorene kritike i da se ne svete onim zaposlenima koji javno podele poverljive informacije o rizicima tehnologije, nakon što ostali procesi ne daju rezultate". 

"Zakon podržava interese velikih kompanija na štetu radnika"

U maju je portal Vox objavio tekst u kom se izražava zabrinutost zbog restriktivnih ugovora o tajnosti podataka koje moraju da potpišu svi oni koji odluče da napuste OpenAI kompaniju. 

Nakon žestokih pritisaka, popustili su i ukinuli klauzulu iz ugovora koja je bivšim zaposlenima pretila da će ih ostaviti bez stečenih akcija u kompaniji, ukoliko je nakon odlaska budu kritikovali. Upravo taj potez omogućio je slanje pomenutog otvorenog pisma.

Dr Margaret Mičel, istraživačica za etiku veštačke inteligencije u "Hugging Face", koja je dobila otkaz u "Google"-u nakon što je podigla glas zbog cenzure unutar kompanije, za Ars Technica kaže da iako upozorivači u tehnološkoj industriji zakonski ne mogu biti sankcionisani, u praksi često budu.

"Zakon podržava interese velikih kompanija na štetu radnika", kaže ona, ističući da se većina onih koji ipak skupe hrabrost da ukažu na propuste u firmama, trpe veliku psihološku  štetu.

"U suštini, morate da se odreknete karijere, svog psihološkog zdravlja, kako biste tražili pravdu protiv organizacije, koja prema samoj definiciji nema osesećanja, ali zato ima resurse da vas uništi. Imajte u vidu da je na vama, otpuštenoj osobi, bez prihoda, da se suprotstavite korporaciji vrednoj bilionima dolara, sa armijom advokata specijalizovanih da naštete radnicima upravo na takav način", objašnjava Mičel.

Iako postoji neslaganje oko toga kakvu štetu može da nanese veštačka inteligencija, istraživačica smatra da u svakom slučaju postoji goruća potreba za većom transparentnošću, nadzorom i zaštitom radnika, koji govore o potencijalnim rizicima.