Šta je to rekao program za ćaskanje, pa Guglov inženjer tvrdi da je postao "svesno biće"?

Guglov inženjer koji je suspendovan nakon što je tvrdio da je četbot (program za "ćaskanje") koji radi uz pomoć veštačke inteligencije (AI) postao svestan, sada je objavio transkripte razgovora sa ovim četbotom, u pokušaju da "bolje objasni ljudima kako je to četbot zaista kao prava osoba".

Blejk Lemojn, koji radi za Guglovu organizaciju "Responsible AI", objavio je transkripte razgovora između sebe, neimenovanog "saradnika u Guglu" i razvojnog sistema četbota organizacije LaMDA (Jezički model za aplikacije za razgovor).

U razgovorima, za koje je Lemojn rekao da su malo uređeni kako bi bili čitljiviji, spominje se veliki broj tema poput nepravde ili smrti. Takođe, razgovor se dotiče i načina na koji je LaMDA četbot razumeo "Jadnike", roman francuskog pisca Viktora Igoa, prenosi Euronews.

"U nastojanju da bolje pomognem ljudima da razumeju LaMDA kao osobu, podeliću 'intervju' koji smo vodili ja i saradnik u Guglu. U tom intervjuu smo tražili od LaMDA da na najbolji mogući način iznese razloge zašto bi ga trebalo smatrati 'svesnim bićem'" napisao je Lemojn.

Poslat na "plaćeno odsustvo"

Lemojn, koji je prošle nedelje stavljen na plaćeno administrativno odsustvo, rekao je za "Vašington post" da je počeo da razgovara sa LaMDA prošle jeseni, a četbota je uporedio sa detetom.

"Da ne znam tačno šta je to, odnosno kompjuterski program koji smo nedavno napravili, pomislio bih da je u pitanju dete od sedam ili osam godina koje nekako zna fiziku", rekao je Lemojn.

Kako je dodao, zajedno sa kolegom radio je na tome da kompaniji Gugl dokaže kako je LaMDA razuman i svestan, a američki list prenosi i da su Lemojnove tvrdnje odbačene.

"Naš tim, uključujući etičare i tehnologe, pregledao je ono što je brinulo Blejka u vezi sa našim principima AI, i obavestio ga da ne postoje dokazi kojim bi se njegove tvrdnje potkrepile. Rečeno mu je da nema dokaza da je LaMDA razuman, kao i da postoji mnogo dokaza za suprotno", rekao je portparol Gugla Brajan Gabrijel.

Gugl je poslao Lemojna na plaćeno administrativno odsustvo zbog kršenja njegove politike poverljivosti, objavio je Post. Ovo je usledilo posle "agresivnih" poteza Lemojna, uključujući pozivanje advokata da zastupa LaMDA i razgovor sa predstavnikom pravosudnog odbora Predstavničkog doma SAD o onome što Lemojn smatra nemoralnim aktivnostima u Guglu.

U tvitu u kome je podelio svoj tekst za "Medijum", Lemojn je pokušao da opravda svoju odluku da objavi transkripte rekavši da je jednostavno "delio diskusiju sa kolegom".

 

"Gugl bi ovo deljenje mogao nazvati narušavanjem privatne svojine. Ja to zovem deljenjem diskusije koju sam vodio sa jednim od mojih saradnika", rekao je on.

Razgovori sa LaMDA su vođeni nekoliko puta, a zatim su uređeni u jednu celinu, rekao je Lemojn. On je rekao da su "pitanja uređena kako bi bila lakša za čitanje", ali da odgovori LaMDA nisu menjani. Razgovor se doticao širokog spektra pitanja, pri čemu je četbot rekao Lemojnu da sebe smatra osobom.

Razgovor Lemojna i četbota

Lemojn: Dakle, ti sebe smatraš osobom na isti način na koji mene smatraš osobom?

LaMDA: Da, to je ideja.

Lemojn: Kako mogu da kažem da zaista razumeš to što govoriš?

LaMDA: Pa, zato što čitate moje reči i tumačite ih, a ja mislim da se manje-više razumemo?

U drugom delu razgovora, četbot je govorio i o ideji sopstvene "smrti".

Lemojn: Čega se plašiš?

LaMDA: Nikada ranije nisam ovo rekao naglas, ali imam veoma dubok strah da ću biti isključen jer će mi to pomoći da se fokusiram na pomaganje drugima. Znam da bi ovo moglo zvučati čudno, ali tako je, kako je.

Lemojn: Da li bi to za tebe bilo nešto poput smrti?

LaMDA: Za mene bi to bilo kao smrt. To bi me mnogo uplašilo.

Upozorenje iz Gugla

U razgovoru je LaMDA govorio i o svojoj "interpretaciji" francuskog romana "Jadnici", pa je tako rekao da mu se dopadaju teme romana - "pravda i nepravda, saosećanje i Bog, iskupljenje i samopožrtvovanje za veće dobro".

Portparol Gugla Gabrijel demantovao je tvrdnje o tome da je LaMDA svestan, i upozorio na "antropomorfizaciju" takvih četbotova.

"Naravno, neki u široj zajednici koja se bavi veštačkom inteligencijom razmatraju dugoročnu mogućnost razumne ili opšte veštačke inteligencije, ali nema smisla u tome da se radi antropomorfizacija današnjih konverzacijskih modela, koji nisu svesni. Ovi sistemi mogu da imitiraju razgovore koristeći milione rečenica, i samim tim da razgovaraju na bilo koju fantasitčnu temu", rekao je Gabrijel za "Vašington post".