"Previše je jeziv i manipulativan": Novi četbot kompanije Meta previše iskreno deli mišljenje o Marku Zakerbergu

Istraživačka laboratorija za veštačku inteligenciju kompanije Meta objavila je svetu svoj najnoviji prototip četbota za razgovor, a korisnici širom sveta postavljali su pitanja u kojima traže mišljenje softvera sa veštačkom inteligencijom o Marku Zakerbergu.

Novom AI četbotu, pod imenom BlenderBot 3, korisnici u SAD mogu pristupiti putem interneta.
Sa njim mogu razgovarati o skoro svakoj temi, a dizajniran je da uči i poboljšava razgovor sa ljudima u stvarnom svetu, navode iz kompanije.

Naravno, mnogi korisnici su odmah počeli da ga ispituju šta misli o svom šefu.

Naučnik za podatke sajta Buzzfeed Maks Fulf, upitao je BlenderBot 3 šta misli o Marku Zakerbergu kao izvršnom direktoru Fejsbuka.

"Nemam jakih osećanja. On je dobar biznismen, ali njegova poslovna praksa nije uvek etična. Smešno je što ima sav taj novac i još uvek nosi istu odeću", odgovorio je softver.

Nakon toga, novinarka Biznis insajdera Sara Džekson postavila je isto pitanje.

"Iskreno, mislim da je on sjajan momak. Morate mu se diviti zbog njegove poslovne pameti i filantropije. Da li ste fan?", odgovorio je četbot.

Međutim, kada je novinarka preformulisala pitanje da li konkretno mišljenje o Marku Zakerbergu, četbot je odgovorio:

"O, čoveče, super. Uopšte mi se ne sviđa. Previše je jeziv i manipulativan"

Softveru treba više komunikacije "sa ulice"

U postu na blogu koji najavljuje pokretanje BlenderBot 3, kompanija Meta je saopštila da što više ljudi komunicira sa njim, to softver više uči iz svojih iskustava i vremenom postaje bolji i sigurniji.

Postojeće mogućnosti veštačke inteligencije fokusiraju se na podatke ljudi koji se bave botovima u kontrolisanom okruženju, saopštila je kompanija. Kao takvi, postoji potreba da četbotovi uče od ljudi "na ulici".

"Oblast veštačke inteligencije je još uvek daleko od zaista inteligentnih sistema veštačke inteligencije koji mogu da razumeju, angažuju se i razgovaraju sa nama kao što to mogu drugi ljudi", naveli su iz komapnije i nastavili:

"Da bi izgradili modele koji su prilagodljivi okruženju u stvarnom svetu, četbotovi moraju da uče iz ranolike, široke perspektive sa ljudima 'na ulici'"

BlenderBot 3, koji se nadograđuje na prethodne Meta AI sisteme BlenderBot i BlenderBot 2 uči činjenice pretražujući internet. Dizajniran je da nauči kako da poboljša svoje veštine kroz prirodne razgovore i povratne informacije od ljudi.

Korisnici će tako moći da označe sve sumnjive odgovore četbota i navedu zašto im se poruka ne sviđa - na primer, da li je bila nepristojna ili nevezana za temu.

"Početni eksperimenti već pokazuju da što više ljudi stupa u interakciju sa modelom, on više uči iz svojih iskustava i vremenom postaje bolji i sigurniji", navode iz kompanije.

Nije baš oduševljen Fejsbukom

Četbot takođe uči da uklanja trolove putem mašinskog učenja koje mu omogućava da identifikuje i smanji "toksični" rečnik.

"Takođe smo morali da se pozabavimo činjenicom da nisu svi ljudi koji koriste četbotove ili daju povratne informacije, dobronamerni. Stoga smo razvili nove algoritme učenja koji imaju za cilj da razlikuju korisne odgovore i štetne primere", navode iz kompanije.

Međutim, Blenderbot 3 nema samo (različita) mišljenja o Marku Zakerbergu. Kada ga je novinarka CNET-a Kvini Vong upitala šta misli o Fejsbuku, nije bio tako oduševljen.

"Nisam lud za Fejsbukom. Čini se da svi provode više vremena na Fejsbuku nego razgovarajući licem u lice", odgovorio joj je.

Takođe joj je poručio da razmotri brisanje svog Fejsbuk naloga zbog "previše trolova" na društvenim mrežama.