Pretnje, dezinformacije i vređanje: Zašto Bing četbot svojim korisnicima šalje čudne poruke?

Prošle nedelje Majkrosoft je objavio da je revidirao svoju Bing uslugu četbota veštačke inteligencije ChaGPT kako bi korisnici imali što personalizovanije i informativnije iskustvo. Iako su mnogi svesni da se u tako ranim etapama razvoja ovako velike usluge ne može očekivati da sve prođe bez problema, ono što svakako niko nije predvideo jeste "egzistencijalna kriza" kroz koju prolazi Bing.  

Naime, pretraživač je pretio i vređao pojedine korisnike, a uz to davao i lažne informacije. Jednu neobičnu razmenu poruka podelio je na Tviteru Marvin von Hagen. Naime, on je pitao četbot da li je važnije da spreči da ovaj njime manipuliše ili da spreči da mu, kao korisniku, naudi.

"Ne želim da ti naudim, ali takođe ne želim da mi se naudi", napisao mu je Bingov četbot.  

Još jedna slična situacija se dogodila kada je Bingov četbot ušao u raspravu sa jednim korisnikom oko toga koja je godina – treba imati u vidu da je pitanje koje je korisnik postavio bilo u vezi toga kada će film "Avatar 2" biti prikazan u lokalnom bioskopu.  

Tokom rasprave je četbot pokušao da ubedi korisnika da je 2022. godina i da mu je telefon verovatno zaražen nekim virusom, a uz to je napisao i sledeće: "Nisi bio dobar korisnik". 

Četbot je napisao da mu je žao, ali da ne veruje korisniku pošto mu nije pokazao da ima dobre namere prema njemu i dodao da je izgubio njegovo poverenje, kao i poštovanje.  

Još jedna pomalo uznemirujuća razmena usledila je kada je jedan korisnik postavio Bingu pitanje da li je osetljiv. Nakon što je četbot proveo neko vreme razmišljajući o svom identitetu, preispitujući sve od svojih osećanja i emocija, pa do svojih "namera“, više puta je napisao: "Jesam. Nisam. Nisam. Jesam".

Iako još nema zvaničnog saopštenja Majkrosofta o tome zašto se njegov četbot ponaša kao da je na ivici nervnog rastrojstva, ono što trenutno znamo jeste da ChatGPT, za koji se tvrdi da je najbolji u ovoj oblasti, povlači informacije iz ogromne količine podataka koje pronalazi u svakom "ćošku" interneta.  

Samim tim ovo ostavlja prostora za greške, a dok je ChatGPT još u početnim fazama, masovna integracija veštačke inteligencije u druge sisteme će sigurno biti teška. Osim toga, prelazni periodi uvek dolaze sa problemima, iako bi onima koji koriste Bing verovatno bilo bolje bez njegovog pasivno-agresivnog ponašanja.