Oracle maakte op 27 oktober bekend dat het Google's AI-chips, de TPU's (Tensor Processing Unit), gaat aanbieden via zijn eigen cloudplatform Oracle Cloud Infrastructure (OCI). Google was in het tweede kwartaal van dit jaar al begonnen TPU's open te stellen voor externe datacenters, maar voor het eerst worden TPU's aangeboden bij een grote cloudaanbieder buiten Google Cloud.
Wat is er gebeurd?
Volgens Data Center Knowledge gaat Oracle Google's achtste generatie TPU-familie aanbieden: TPU 8t voor het trainen van modellen en TPU 8i voor het draaien van getrainde modellen. Deze chips zouden tot twee keer meer prestaties per watt leveren dan de vorige generatie; TPU 8t zou tot 2,7 keer en TPU 8i tot 80 procent betere prestaties per dollar bieden. De TPU's komen in 2027 beschikbaar op OCI.
In dezelfde periode voegde Oracle ook inferentiechips van Cerebras, SambaNova (met een aparte aankondiging), Positron AI en van OpenAI met Broadcom ontwikkelde chips toe aan zijn aanbod. Ook de samenwerking met Nvidia groeit: Vera Rubin NVL72-systemen en Vera-processors zijn algemeen beschikbaar op OCI.
Volgens CNBC maakt deze stap deel uit van Google's strategie om zijn chipbedrijf uit te breiden voorbij de eigen cloud. Anthropic heeft een deal van tientallen miljarden dollars gesloten om tot een miljoen TPU's te gebruiken; OpenAI zou ook van plan zijn TPU's van Google af te nemen. De schattingen van analisten lopen ver uiteen: voor 2027 verwacht TD Cowen 62,5 miljard dollar en Wells Fargo ongeveer 99 miljard dollar aan TPU-verkoop.
Waarom is dit belangrijk?
De markt voor AI-chips wordt al jaren door Nvidia gedomineerd. Doordat Google TPU's ook in andere clouds gaat verkopen, krijgen grote AI-bedrijven een serieus alternatief en kan de prijsconcurrentie toenemen. Ook cloudbedrijven bundelen nu verschillende chips onder één dak in plaats van aan één fabrikant gebonden te blijven. Het verhaal van de eerste processor die op één chip paste, vertelden we in ons artikel over de Intel 4004.