XCENA prikupila 135 milijuna dolara na tezi da je glavno usko grlo AI-ja memorija, a ne računalna snaga

Startup XCENA, koji ima urede u Južnoj Koreji i Sjedinjenim Državama, prikupio je 135 milijuna dolara u rundi Series B uz valuaciju od 570 milijuna dolara. Ukupno je do sada prikupio 185 milijuna dolara. Tvrtka se kladi na to da u AI infrastrukturi najveći problem nije sama računalna snaga, nego kretanje podataka kroz sustav memorije i procesora.

XCENA je razvila čip MX1 koji se spaja na CPU putem CXL-a, odnosno Compute Express Linka, i obrađuje podatke bliže DRAM-u, brzoj kratkoročnoj memoriji koju procesor aktivno koristi. Cilj je da se dio rutinskih operacija obavlja unutar memorijskog modula, bez skupih prelazaka između CPU-a, GPU-a i memorije. Tvrtka tvrdi da bi ono za što je prije bilo potrebno 10 poslužitelja potencijalno moglo raditi na jednom.

Izvršni direktor Jin Kim, koji je startup osnovao 2022. s tehničkim direktorom Dohunom Kimom i direktorom proizvoda Harryjem Juhyunom Kimom, rekao je da su svi veterani Samsunga i SK Hynixa. U razgovoru za TechCrunch naveo je da su CPU-i i GPU-i kroz desetljeća postali pametniji, dok memorija nije, te da XCENA želi to promijeniti. Dodao je i da rast cijena memorije i povezanih dionica pokazuje širi pomak prema memorijski usmjerenim arhitekturama u AI infrastrukturi.

Kim kaže da XCENA svoju poslovnu tezu temelji na stavu da inference nije samo problem računalne snage, nego sve više i problem skaliranja memorije. MX1 prema opisu koristi CXL kao izravnu vezu između procesora i memorije te preuzima zadatke poput prethodne obrade podataka, upravljanja KV cacheom i podatkovnog cacheiranja. GPU-i ostaju snažni u matričnom množenju, ali XCENA cilja sloj ispod toga, koji je snažno ovisan o memoriji.

Tvrtka kaže da su razgovori s nekoliko globalnih dobavljača memorije u ranoj fazi, ali Kim nije naveo njihova imena. Kao idealne kupce vidi hyperscalere koji godišnje troše desetke milijardi dolara na AI infrastrukturu. I najmanji dobitak u učinkovitosti memorije, prema toj logici, mogao bi značiti velike uštede.

MX1 je još uvijek prototip. Serijski čipovi trebali bi izaći iz Samsungovih proizvodnih pogona do kraja 2026., a prihod se očekuje od 2027. XCENA pritom navodi da joj je najbliža konkurencija među tvrtkama Astera Labs i Marvell, koje rade na sljedećoj generaciji memorijske povezanosti. Kim tvrdi i da XCENA ima tisuće jezgri temeljenih na RISC-V-u, otvorenoj arhitekturi dizajna čipova, te da je riječ o manjim i učinkovitijim jezgrama optimiziranima za obradu podataka. Uz to, tvrtka dizajnira i vlastitu memorijsku hijerarhiju, interkonektni sabirnički sustav i DRAM kontroler, što je razina vertikalne integracije koju mnoge druge tvrtke obično prepuštaju vanjskim dobavljačima.