Potražnja za podatkovnim CPU-ovima raste kako se AI agenti šire, a omjer CPU-a i GPU-a postaje važniji za hyperscalere

Iako je u fokusu posljednjih godina uglavnom bio GPU, Tom’s Hardware navodi da CPU-i i dalje zadržavaju svoju važnost i da im pažnja ponovno raste. Razlog je, prema citiranim sugovornicima, promjena načina na koji se AI sustavi koriste: od chatbotova prema agentima koji trebaju više stalne orkestracije, koordinacije alata i predvidljive izvedbe na razini cijelog racka.

Jason Beckett, glavni tehnološki direktor za Europu, Bliski istok i Afriku u Hitachi Vantara, rekao je za Tom’s Hardware Premium da je AI implementacija u velikom opsegu prisilila organizacije da pogledaju infrastrukturu ispod samog hypea. Prema njegovim riječima, GPU-i i dalje pokreću AI modele, ali CPU-i su ključni jer obavljaju „sve ostalo”. Beckett je dodao da sustavi s agentic AI-jem ne stvaraju kratke orkestracijske nalete oko GPU opterećenja, nego zahtijevaju CPU-e s velikim brojem jezgri koji rade pod kontinuiranim opterećenjem.

U ranijoj fazi generativne AI infrastruktura je, prema navodu u članku, bila snažno nagnuta u korist GPU-a. Za chatbot interakcije računalo se na omjer od četiri do osam GPU-a na jedan CPU, jer su takvi zahtjevi bili izrazito GPU-inferencijski. No s prelaskom na agente, zahtjevi su se promijenili: brza odgovorna vremena, koordinacija poziva alata i osjetljivost na latenciju postaju važniji, a povećanje broja CPU-a može pomoći da se izbjegnu problemi koji bi se mogli preliti na cijeli agentic stack.

AMD, jedan od velikih proizvođača CPU-a, navodno je već uočio tu promjenu. Tvrtka je ranije predviđala da će tržište CPU-a rasti oko 18 posto godišnje, ali sada tvrdi da je promjena zahtjeva tržište bitno izmijenila. AMD sada navodi da je stopa rasta udvostručena na 35 posto godišnje te da bi tržište do kraja desetljeća moglo dosegnuti 120 milijardi dolara. Roger Cummings, glavni izvršni direktor tvrtke PEAK:AIO, rekao je za Tom’s Hardware Premium da AMD-ovi i Armovi rezultati upućuju na strukturnu, a ne cikličku potrebu, pri čemu su dva strukturna pomaka rast potražnje: uspon agentic AI-ja i potreba za determinističkom, predvidljivom izvedbom na razini racka.

Jeff Moore, potpredsjednik za strateška partnerstva u Aegis Coolingu, rekao je da hyperscalerima CPU-i postaju sve važniji u izgradnji AI klastera. Prema njegovim riječima, CPU-i preuzimaju veće uloge u orkestraciji, upravljanju memorijom, umrežavanju, koordinaciji pohrane i obradi inferencije. Moore je također rekao da raste omjer CPU-a i GPU-a unutar AI implementacija, osobito zato što distribuirana AI opterećenja stvaraju veliku potražnju za općom računalnom snagom, propusnošću memorije i east-west prijenosom podataka. TrendForceova analiza, kako navodi članak, ističe i da CPU-i doprinose latenciji gotovo 91 posto ukupnog kašnjenja u odgovorima, što AI implementacije pokušavaju smanjiti.