Veštačka inteligencija (AI) je postala deo naše svakodnevice. Bilo da tražite recept za večeru, pišete poslovni mejl ili generišete sliku, odgovori stižu u sekundi. Međutim, ta „magija“ se ne dešava u oblaku napravljenom od vazduha, već u masivnim, fizičkim data centrima.
Svaki Vaš razgovor sa veštačkom inteligencijom ima svoju hardversku i energetsku cenu. U našem servisu računara sve češće dobijamo pitanja zašto cene određenih komponenti ponovo rastu. Odgovor leži upravo u nezasitoj gladi AI industrije za resursima.
Šta je prompt i šta se dešava „ispod haube“?
Pojam prompt predstavlja običnu tekstualnu komandu ili pitanje koje postavljate veštačkoj inteligenciji. To je Vaša instrukcija.
Kada ukucate pitanje i pritisnete „Enter“, Vaš računar ili telefon ne obrađuju taj zahtev. Vaš prompt se šalje hiljadama kilometara daleko, direktno u serverske farme kompanija poput OpenAI, Google-a ili Microsoft-a. Tamo ga preuzimaju hiljade umreženih procesora i grafičkih kartica, analiziraju ogromne baze podataka, sastavljaju smislen odgovor i šalju ga nazad na Vaš ekran. Sve to u deliću sekunde.
Iako Vama deluje jednostavno, hardver na drugoj strani radi pod maksimalnim opterećenjem.
Koliko resursa troše različiti zadaci?
Nije svaki prompt isti. Potrošnja hardverske moći drastično varira u zavisnosti od onoga što tražite:
-
Pitanje o fudbalskim rezultatima (Tekstualni upit): Ovo je „najlakši“ zadatak. Zahteva procesorsku snagu (CPU) i brzu radnu memoriju (RAM) da izvuče tačan podatak iz baze. Iako troši malo resursa po jednom upitu, pomnožite to sa stotinama miliona korisnika u istom trenutku i dobićete potrebu za serverima veličine fudbalskih stadiona.
-
Pisanje koda u Python-u: Programiranje zahteva logiku i razumevanje konteksta. AI mora da analizira sintaksu, predvidi greške i napiše funkcionalan kod. Ovo zahteva značajno veće angažovanje specijalizovanih AI čipova i ogromnu količinu VRAM-a (video memorije) kako bi model „zadržao“ ceo Vaš kod u memoriji dok radi.
-
Kreiranje slike: Ubedljivo najveći potrošač resursa. Generisanje samo jedne slike visoke rezolucije putem AI alata zahteva masivnu snagu grafičkih procesora (GPU). Zanimljiv podatak iz industrije kaže da generisanje jedne jedine slike potroši približno onoliko energije koliko je potrebno da se baterija Vašeg pametnog telefona napuni do 100%.
Zašto su SSD-ovi i memorije poskupeli?
Da bi veštačka inteligencija mogla brzo da misli, potreban joj je najbrži mogući hardver. Kompanije koje razvijaju AI kupuju grafičke kartice (posebno Nvidia modele dizajnirane za AI) u stotinama hiljada komada.
Pored grafika, neophodne su im enormne količine brze memorije. Ugradnja SSD NVMe diskova industrijske klase i najnovijih RAM modula vrši se u milionima primeraka kako bi podaci mogli da putuju bez uskog grla (bottleneck efekta, o kojem smo ranije pisali).
Kada giganti kupe celokupnu svetsku proizvodnju silicijuma i memorijskih čipova, fabrike ne mogu da postignu da proizvedu dovoljno za nas, obične korisnike. Pravilo ponude i potražnje je neumoljivo: kada nečega nema dovoljno na tržištu, cena mu raste. Upravo zato danas plaćate više za nadogradnju memorije ili novu grafičku karticu za Vaš kućni računar.
Veštačka inteligencija je izvanredan alat, ali njena fizička cena tek počinje da oblikuje svetsko IT tržište. Ako planirate nadogradnju računara, vredi razmisliti o tome ranije — tržište komponenti sve više zavisi od faktora na koje obični korisnici ne mogu da utiču.