Sam Altmans chipambitioner kan vara galnare än befarat • The Register

By | February 10, 2024

Åsikt OpenAI VD Sam Altmans dröm om att etablera ett nätverk av chipfabriker för att driva AI-tillväxt kan vara mycket, mycket vildare än befarat.

Som rapporterades förra månaden ska Altman enligt uppgift söka miljarder dollar i finansiering från partners som Abu Dhabi-baserade G42, Japans SoftBank och Microsoft, för att bygga alla dessa neurala nätverksacceleratorfabriker.

Nu hävdar en rapport från Wall Street Journal, som citerar ännu mer anonyma källor, att det ambitiösa projektet kan innebära att samla in upp till 7 miljarder dollar.

Detta är en svindlande summa som ur denna gams synvinkel trotsar logiken.

För att sätta siffran i perspektiv är det nästan 14 gånger den totala intäkten för hela halvledarmarknaden förra året. Enligt Gartner kommer de globala halvintäkterna att överstiga 533 miljarder dollar 2023. Och trots all hype kring generativ AI förväntar sig analytiker att försäljningssiffran kommer att växa med 17 procent till 624 miljarder dollar i år.

Men låt oss säga, för argumentets skull, att Altman och hans partners verkligen är så modiga och på något sätt kan komma upp med en fjärdedel av USA:s bruttonationalprodukt till 2023 för att finansiera ansträngningen. Vad kostar 7 biljoner dollar för dig?

Det är tillräckligt med pengar för att helt och hållet sluka Nvidia, TSMC, Broadcom, ASML, Samsung, AMD, Intel, Qualcomm och alla andra stora chiptillverkare, designers, IP-ägare och utrustningsleverantörer, och fortfarande ha dem kvar, miljarder.

Även om det skulle vara kul att se Sam bränna en ofantlig summa pengar och starta vad som skulle bli århundradets största antitruststrid, men det han troligen har i åtanke för att öka chipproduktionen är att investera dessa pengar i chipfabriker och förpackningsprocessorer. I verkligheten kan vi komma på många bättre sätt att spendera den typen av pengar, men låt oss hålla oss till marker för ett ögonblick.

Det är många fantastiska.

Oavsett hur du skär upp det är 7 biljoner dollar fortfarande en enorm summa att spendera på fabriker, till och med ett nätverk av dem.

Kostnaden för en toppmodern chipfabrik ligger idag på mellan 10 miljarder och 30 miljarder dollar, beroende på platsens storlek och placering. Låt oss säga att Altmans planerade anläggningar slutar kosta runt 20 miljarder dollar i genomsnitt. I den takten genererar 7 biljoner dollar cirka 350 smältverksplatser.

Frågan är då: vem ska bygga dem? Dessa anläggningar är bland de största och mest komplexa verksamheterna i tillverkningsvärlden, och kräver komponenter och material från otaliga leverantörer och specialutbildad personal för att installera, underhålla och driva dem.

På grund av detta är det inte ovanligt att dessa anläggningar tar fyra eller fler år att komma online och potentiellt mycket längre för att få avkastningen till acceptabla nivåer. Det är inget snabbt med att bygga fabriker på rätt sätt.

I USA har vi sett en flod av investeringar i inhemsk halvledartillverkning och FoU, till stor del driven av en statlig subventionsfond på 53 miljarder dollar som gjorts tillgänglig genom CHIPS-finansieringsräkningen. Gjuterioperatörer har dock redan stött på allvarliga problem.

Som vi tidigare rapporterat har brist på kvalificerad arbetskraft redan försenat utvecklingen av TSMC:s fabrik i Arizona. TSMC har till och med gått så långt att de skickat tekniker från Taiwan till USA i ett försök att få igång anläggningarna igen.

Förra sommaren varnade Semiconductor Industry Association (SIA) och Storbritannien-baserade Oxford Economics för att den amerikanska halvledarindustrin står inför ett underskott på 67 000 tekniker, ingenjörer och datavetare år 2030. fabs , sätter den siffran mellan 70 000 och 90 000 under de kommande åren.

Och det är bara för en handfull fabriker under utveckling i USA. Det krävs inte mycket fantasi för att se hur ytterligare 350 webbplatser skulle vara problematiska i global skala.

Översvämmar marknaden

Som om det inte vore nog tenderar efterfrågan på halvledare att fluktuera cykliskt. Massiva inköp följs ofta av långa matsmältningscykler, och ökningar av PC-försäljningen tenderar att sammanfalla med operativsystem- eller mjukvarusläpp.

Vi antar för ett ögonblick att dessa hundratals fabriker inte bara kommer att betjäna OpenAI eller AI-världen i allmänhet, utan också allt som gränsar till den, även om det kan vara så att Altman egentligen bara vill ha en oändlig ström av maskininlärningsacceleratorer och relaterade applikationer . Beräkna.

Minnesmarknaden återhämtar sig först nu från ett överflöd av lager som drev de genomsnittliga försäljningspriserna till historiska låga nivåer. Samtidigt har Intel enligt uppgift skjutit tillbaka slutdatumet för sina fabriker i Ohio till slutet av 2026, och skyller på nuvarande svagheter på halvledarmarknaden och förseningar i att säkra finansieringen av CHIPS Act.

Naturligtvis har branschskvaller ännu inte detaljerat en tidslinje på vilken Altmans ryktade 7 biljoner dollar halvledarföretag kommer att utvecklas. Det är säkert att anta att det inte kommer att hända över en natt. Dessa typer av utvecklingar måste justeras för att undvika alltför aggressiv konstruktion och översvämma marknaden med för många marker.

Även om det sprids över de kommande 25 åren, talar vi fortfarande om en enorm summa pengar, tillräckligt för 14 fabriker om året till en kostnad av 280 miljarder dollar årligen. För att nå detta märke skulle TSMC, Samsung och Intel behöva ungefär tredubbla sina investeringar och styra allt till chipfabriker.

Visserligen låter det mindre långsökt, men med tanke på den teoretiska tidslinjen, varför skulle Altman eventuellt behöva samla in 7 miljarder dollar nu? Vanligtvis när du ser företag som Intel prata om sina färdplaner för gjuterier, tenderar de bara att finansiera det som är på gång.

Till exempel, när x86-jätten tillkännagav sin plan att investera 100 miljarder dollar under det kommande decenniet i en megafab i Ohio, åtog sig den faktiskt bara att bygga två platser till en uppskattad kostnad av 10 miljarder dollar vardera. Och, som vi nämnde tidigare, har även det blivit försenat.

Del av en större plan?

Så kanske detta projekt på 7 biljoner dollar verkligen är en bredare plan för att öka OpenAIs ambitioner. Alla dessa marker måste gå någonstans. Det betyder att du inte bara behöver fabriker för att tillverka chipsen, utan även datacenter för att använda dem och (förhoppningsvis) ren energi för att driva allt, och det kommer att kosta dig mycket pengar också.

Chipsen som används för att driva AI-modeller förbrukar mycket energi. En enda Nvidia H100-nod med åtta GPU är klassad till 10,2 kilowatt. Utöka det upp till 350 000 GPU:er (det är antalet som Meta säger att det kommer att distribuera i år) och du ser på en enorm mängd kraft.

Med en budget på 100 miljarder dollar, bara 1,4 procent av budgeten på 7 biljoner dollar, för GPU:er, kunde fem miljoner H100:or köpas till ett volympris av 20 000 $ vardera. För ordens skull är det mer än dubbelt så mycket som Nvidia förväntas leverera under hela 2024.

Onödigt att säga att makt kommer att vara ett problem. Så det vore vettigt att spara lite pengar för att möta den utmaningen.

Den goda nyheten här är att Altman har en lång historia av att stödja energistartups. Förra året tillkännagav Oklo, en startup för kärnklyvning med stöd av VD:n för OpenAI, planer på att bli börsnoterade.

Samtidigt, på den mer experimentella sidan av saken, har Altman stöttat Helion Energy, som arbetar med att kommersialisera ett modulärt helium-3-fusionskraftverk. Även om Helion ännu inte hade bevisat att dess reaktor faktiskt fungerar verkar Altmans engagemang ha räckt för att Microsoft skulle teckna ett kraftköpsavtal med startupen. Tekniken förväntas inte implementeras förrän åtminstone 2028, förutsatt att de någonsin lyckas få den att fungera.

I vilket fall som helst leder detta din ödmjuka pirat till slutsatsen att antingen är de 7 miljarder dollar som används för att beskriva omfattningen av Altmans ambitioner en stor överdrift eller en del av en större, mer holistisk plan. ®

Leave a Reply

Your email address will not be published. Required fields are marked *