Ogromna ušteda energije: Novi uređaj mogao bi da smanji potrošnju struje prilikom rada AI preko 2.000 puta

Istraživači su razvili novi tip memorijskog uređaja za računare za koji kažu da može drastično smanjiti energetske zahteve veštačke inteligencije.

Nazvan "računskom memorijom sa slučajnim pristupom" (computational random-access memory - CRAM), novi uređaj izvodi proračune direktno u svojim memorijskim ćelijama, što eliminiše potrebu za prenosom podataka između različitih delova računara. 

Kod tradicionalnih kompjutera, podaci se konstantno kreću između procesora (gde se obrađuju podaci) i memorije (gde se podaci čuvaju), što su kod većine računara RAM moduli. Proces je naročito energetski zahtevan prilikom primene veštačke inteligencije, koja obično uključuje kompleksne proračune i ogromne količine podataka.

Prema predviđanjima Međunarodne agencije za energetiku, svetska potrošnja struje zbog veštačke inteligencije mogla bi da se udvostruči sa 460 teravat sati (TWh) u 2022. na 1.000 TWh u 2026, piše Live Science.

Međutim, u recenziranoj studiji objavljenoj u časopisu "npj Unconventional Computing", istraživači su demonstrirali da CRAM može da izvodi ključne AI zadatke poput sabiranja skalarima i množenja matrica za 434 nanosekunde, koristeći samo 0,47 mikrodžula energije. To je čak 2.500 puta manje energije u poređenju sa konvencionalnim sistemima memorije koji razdvajaju logičke i memorijske komponente, navode istraživači.

Unsplash

Istraživanje, koje traje već 20 godina, dobilo je finansijsku podršku Agencije Ministarstva odbrane odgovorne za razvoj novih tehnologija za vojsku Sjedinjenih Američkih Država (DARPA), kao i Nacionalnog instituta za standarde i tehnologiju, Nacionalne naučne fondacije i tehnološke kompanije Cisco.

"Delovalo je kao ludost"

Đijen-Ping Vang, jedan od autora rada i profesor Univerziteta u Minesoti na odeljenju električnog i kompjuterskog inženjeringa rekao je da je predlog istraživača da koriste memorijske ćelije za računanje na početku delovalo kao "ludost".

"Od 2003. godine sa grupom studenata koja je evoluirala i pravim interdisciplinarnim timom na Univerzitetu u Minesoti - od fizike, nauke o materijalima i inženjeringu, kompjuterskih nauka i inženjeringa, do modelovanja i benčmarkinga i pravljenja hardvera - demonstrirali smo da je ovaj tip tehnologije ostvariv i spreman da se inkorporira", naveo je Vang u saopštenju.

Najefikasniji RAM uređaji obično koriste četiri do pet tranzistora da skladište samo jedan bit podataka (jedinicu ili nulu). 

Svoju efikasnost CRAM duguje "magnetnim čvorištima tunela" (MTJ), malim uređajima koji koriste spin elektrona da skladište podatke, umesto da se oslanjaju na električni napon, kao što je to slučaj sa tradicionalnom memorijom. To je čini bržom, energetski efikasnijom i otpornijom na habanje, u odnosu na konvencionalne čipove, poput RAM-a.

CRAM se takođe može prilagoditi različitim AI algoritmima, kažu istraživači. 

Sada su sve oči uprte u industriju, gde bi CRAM trebalo da se testira na široj skali.