Da li veštačka inteligencija može da bude seksistička: Odgovor Amazonove Alekse pokrenuo novu debatu

Finale svetskog fubalskog prvenstva za žene igralo se u nedelju, 20. avgusta, i reprezentacija Engleske izgubila je u finalu od Španije. Međutim, ovo prvenstvo pokrenulo je debatu na sasvim drugačijem terenu - da li je veštačka inteligencija (AI) Aleksa seksistički nastrojena?

Glasovni asistent kompanije Amazon optužen je za seksizam, kada je dr Džoan Roda, profesorka psihijatrije, postavila pitanje "ko je danas pobedio u fudbalskoj utakmici između Engleske i Australije".

Aleksa je, pogrešno, odgovorila: "Nema fudbalskih utakmica između Engleske i Australije 16. avgusta 2023. godine". Radilo se, naravno, o utakmici polufinala gde su Engleskinje odnele pobedu.

Ova profesorka je potom obavestila medije, pa su redom krenuli natpisi o tome da li je Aleksu treba optužiti za seksizam. Iz Amazona su, na novinarske upite, odgovorili da je u pitanju "greška koja je ispravljena".

"Očekujemo da će sistemi vremenom postati bolji. Amazon ima timove posvećene sprečavanju sličnih situacija u budućnosti", naveo je portparol Amazona upitan o ovoj situaciji.

Ovaj incident je u nekim krugovima pokrenuo pitanje potencijalne pristrasnosti veštačke inteligencije, ali kada Aleksu pitate kog je pola, dobijete (ženskim glasom) odgovor: "Ja nisam žena ili muškarac. Ja sam AI".

Stručnjaci kažu da je najveći problem u tome što su oni koji razvijaju modele AI pretežno muškog pola, a s obzirom na to da AI radi kao agregator podataka, "nužno reprodukuje kognitivne predrasude onih koji je razvijaju".

Kompanije koje rade u ovom sektoru, imajući u vidu za šta će se sve AI koristiti u budućnosti, naglašavaju važnost toga da sistemi moraju biti "reprogramirani", mada istovremeno priznaju da je u pitanju prilično skup poduhvat.