enesptjazh-Hanszh-Hantfrdeitkoruarhiidtrnlplvithsvhemsukcselrohudafinobn
Satu gigawatt komputasi AI kini berharga $60 miliar, dan perancang chip menyimpan $40 miliar darinya
Dylan Patel mengatakan satu gigawatt berharga $60 miliar, atau $20 miliar tanpa margin desain chip. Chip OpenAI dan Maia 300 Microsoft ingin menutup celah itu.
Pada KTT CEO CASPA di Santa Clara pada 24 Oktober, Dylan Patel dari SemiAnalysis memberi harga pada pembangunan AI yang kebanyakan orang lewati. Satu gigawatt komputasi AI membutuhkan biaya sekitar $40 miliar untuk dibangun pada tahun 2024. Hari ini lebih dari $60 miliar. Jika margin rumah desain chip dihilangkan, ia memperkirakan angka tersebut mendekati $20 miliar. Celah itu, sekitar $40 miliar per gigawatt, adalah apa yang sekarang ingin dikembalikan oleh setiap pembeli komputasi. Pada minggu yang sama, seorang pendiri chip, pendiri mesin pencari, dan dua pengalokasi dana terbesar Wall Street masing-masing memberikan jawaban berbeda tentang siapa yang akhirnya menyimpannya.

Satu gigawatt sekarang biayanya setengah lebih mahal dari tahun 2024
Patel berada dalam panel bersama Stacy Rasgon dari Bernstein, dimoderatori oleh Austin Lyons dari Chipstrat. Poinnya adalah bahwa hampir semua orang dalam rantai telah menaikkan harga. Produsen memori beralih dari margin kotor negatif sekitar dua tahun lalu ke margin yang menurut Lyons mendekati 90%. TSMC naik dari sekitar 45% ke 60% dan, menurutnya, tidak pernah banyak menurunkan.
Jadi ketika Anda melihat pasar semacam ini, untuk membangun satu gigawatt, pada tahun 2024, biayanya kira-kira $40 miliar, mencakup chip, tanah, listrik, shell, semuanya. Sekarang lebih dari 60.
Dylan Patel, 24 Oktober 2026, KTT CEO CASPA 2026
Ia menambahkan bahwa Nvidia mempertahankan marginnya sendiri kira-kira datar sambil menyerap biaya memori, substrat, dan optik yang lebih tinggi, sehingga harga raknya melonjak pula. Rasgon memberikan angka referensi Nvidia sendiri dari panggung, sekitar $25 miliar per gigawatt untuk Blackwell dan $40 miliar untuk Rubin, dan berargumen bahwa itu baik selama kinerja naik lebih cepat daripada harga. Itulah kasus bullish dalam satu kalimat, dan itu bergantung pada Nvidia mempertahankan kecepatannya.
Pelanggan terbesar membangun chip mereka sendiri
Angka yang seharusnya mengkhawatirkan pemegang saham Nvidia muncul berikutnya. Dengan perhitungannya, margin perancang chip sekitar dua pertiga dari biaya satu gigawatt.
Jika Anda menghapus semua margin dari rumah desain chip, seperti Nvidia dan Broadcom, Marvell, dll., Anda sebenarnya mendekati $20 miliar per gigawatt.
Dylan Patel, 24 Oktober 2026, KTT CEO CASPA 2026
Kemudian ia menjelaskan apa yang perusahaannya lihat ketika menguji chip pertama OpenAI, bagian inferensi yang OpenAI dan Broadcom luncurkan pada 24 Juni dengan server yang akan online pada akhir tahun. Klaimnya adalah bahwa "kinerjanya lebih baik dari Blackwell" pada benchmark open-source InferenceX milik SemiAnalysis. Itu adalah uji satu laboratorium pada satu kelas model, dan saya ingin melihat angkanya. Tapi ini adalah chip generasi pertama, dan ia mengatakan Anthropic ingin membangun chipnya sendiri dalam setengah waktu. Microsoft mengumumkan Maia 300 pada 12 Oktober, menawarkan 40% lebih banyak token per megawatt dan penyebaran multi-gigawatt mulai 2027. Patel juga mengatakan pangsa Nvidia atas kapasitas pengemasan CoWoS TSMC dan pasokan HBM turun pada 2026 dan akan turun lagi tahun depan, meskipun pendapatannya terus berlipat ganda.
Poin paling tajamnya adalah tentang perangkat lunak. SemiAnalysis membutuhkan enam hingga sembilan bulan untuk menjalankan inferensi pada AMD dan sekitar satu setengah bulan pada chip OpenAI. Jika model AI membuat chip lebih mudah diprogram dan kemudian lebih mudah dirancang, margin desain adalah bagian dari $60 miliar yang bisa dikompetisikan.
Naveen Rao mengatakan margin tetap di perangkat keras pula
Naveen Rao, yang menjual MosaicML ke Databricks dan sekarang menjalankan startup chip Unconventional AI, mengatakan kepada 20VC bahwa komoditisasi akan datang untuk hampir semua lapisan lainnya. Model terbuka, katanya, akan membawa sekitar 80% token dalam tiga tahun, dengan pembelanjaan terbagi kira-kira 50/50 terhadap model frontier. Host inferensi akan melihat harga token turun dan margin menyusut. Dan ia tidak berpikir laboratorium akan memiliki tumpukan.
Saya sebenarnya tidak berpikir perusahaan model akan menjadi yang memiliki margin dari seluruh tumpukan. Bahkan hari ini tidak benar. Seperti Nvidia memiliki margin tumpukan hari ini, kan?
Naveen Rao, 20VC, diterbitkan 24 Oktober 2026, sumber
Tapi sisi perangkat kerasnya mungkin tidak akan runtuh. Saya pikir bagian itu masih akan memiliki keunggulan karena Anda masih bisa memeras lebih banyak, seperti, hei, saya mengubah energi menjadi kecerdasan lebih efisien.
Naveen Rao, 20VC, diterbitkan 24 Oktober 2026
Baca Rao di samping Patel dan mereka setuju lebih dari yang terlihat. Rao berarti perangkat keras dalam arti luas, chip, sistem, dan jaringan yang mengubah daya menjadi token, dan ia membangun chip yang bersaing dengan Nvidia. Kasusnya adalah bahwa siapa pun yang mengubah energi menjadi kecerdasan paling efisien akan mempertahankan margin. Kasus Patel adalah bahwa pengonversi efisien mungkin adalah pembeli itu sendiri. Rao juga mengatakan kepada pembawa acara bahwa "jika Anda investor perangkat lunak murni, Anda agak hancur" karena SaaS akan berhenti menghasilkan margin. Ia berbicara tentang bukunya sendiri, dan ia mengakui ia "cukup bullish AI."
Tidak ada yang di panggung meragukan permintaan
Semua ini tidak masalah jika token tidak terjual, dan bukti permintaan minggu itu datang dari tempat yang aneh. Parag Agrawal, mantan CEO Twitter yang sekarang menjalankan Parallel Web Systems, menjual pencarian web ke agen AI. Ia mengatakan ia pernah membayangkan agen menggunakan web seribu kali lebih banyak daripada manusia, dan sekarang berpikir itu terlalu rendah.
Tapi perkiraan terbaik saya sekarang tentang di mana kita berada adalah agen menggunakan web 10 hingga 20% dari manusia. Artinya, jika angka seribu kali saya benar, kita memiliki dari sini setidaknya 5.000 kali atau 10.000 kali pertumbuhan tersisa.
Parag Agrawal, Sourcery, 24 Oktober 2026, sumber
Aturan praktisnya adalah bahwa "untuk setiap 10 GPU yang dunia belanjakan untuk inferensi model, kita akan membelanjakan satu hingga dua untuk pencarian web." Ia juga mengatakan timnya telah melalui beberapa latihan kebakaran GPU dalam tiga bulan, dengan kapasitas ditawarkan melalui iMessage sebelum orang keuangan menandatangani dokumen. Perkiraan pertumbuhan 10.000 kali adalah angka pendiri. Perebutan GPU adalah fakta, dan itulah mengapa harga bertahan sejauh ini.
Pembiayaan menentukan siapa yang mampu membayar margin
Poin Patel lainnya adalah bahwa uang sekarang membatasi siapa yang bisa membangun. Cloud tanpa kontrak dari hyperscaler atau laboratorium top tidak bisa dibiayai. Ia mengatakan Volta membayar cluster Anthropic dengan utang dengan kupon sekitar 12% dijual pada 95 sen, sekitar 15% semua-in. Semafor melaporkan pada 13 Oktober bahwa kesepakatan utang $5 miliar Norwegia diperkirakan akan dihargai "setidaknya 11%," dengan pesanan jangkar $1,5 miliar dari Apollo. Nvidia mulai menjamin sewa cluster dengan imbalan bagi hasil pendapatan, yang membuat chipnya tetap bergerak dan memindahkan sebagian risiko tuan tanah ke Nvidia.
Bill Ackman menarik garis yang sama di CNBC pada 22 Oktober, memiliki Microsoft, Amazon, dan Meta dan menghindari neocloud.
Permainan neocloud agak seperti berinvestasi di pengembang real estate, dalam format yang sangat leverage. Dan jika Anda melakukannya dengan benar, pengembalian ekuitas leverage sangat besar. Jika Anda salah, Anda bisa hancur.
Bill Ackman, 22 Oktober 2026, CNBC
Stephen Schwarzman memiliki real estate. Di Bloomberg Leaders, diterbitkan 25 Oktober, ia mengatakan perusahaan pusat data yang Blackstone beli pada 2021 seharga $10 miliar sekarang 15 kali lebih besar.
Kami adalah pemilik pusat data terbesar di dunia. Itu membuat kami berhubungan dengan enam hyperscaler karena kami bekerja untuk mereka semua, jadi kami tahu apa yang terjadi hampir di mana-mana dalam ekosistem ini.
Stephen Schwarzman, 25 Oktober 2026, Bloomberg Leaders
Ia juga menyebut kepanikan tentang perusahaan perangkat lunak bangkrut "sangat berlebihan" dalam wawancara yang sama. Itu adalah penyeimbang yang berguna bagi Rao, dari seorang pria yang dana kredit swastanya meminjamkan ke perusahaan-perusahaan itu.

Nvidia sudah diperdagangkan seolah kalah argumen
Pasar memiliki pandangan. Kelipatan forward Nvidia turun menjadi sekitar 19 kali pada akhir September, dibandingkan rata-rata jangka panjang mendekati 32, yang Motley Fool mencatat sebagai terendah dalam satu dekade. Patel mengatakan Nvidia dan Broadcom diperdagangkan mendekati kelipatan terendah mereka karena investor takut Meta, Google, dan lainnya akan membawa desain ke dalam rumah. Pendapatan masih tumbuh 2x per tahun. Kelipatan itu memberi harga apa yang terjadi setelahnya.
Jadi siapa yang menyimpan $40 miliar?
Untuk dua tahun ke depan, pemasok apa pun yang paling langka. Patel mengurutkan substrat terlebih dahulu, lalu memori, lalu optik, dengan daya di belakangnya, dan Rasgon mengharapkan pasokan tetap ketat hingga 2028. Vendor-vendor itu menetapkan harga, dan Nvidia meneruskannya. Setelah itu margin desain terekspos. Jika chip pertama OpenAI benar-benar mengungguli Blackwell dan Anthropic membangunnya dalam setengah waktu, matematika Patel mengatakan bahwa laboratorium yang membangun dengan $20 miliar per gigawatt "bisa membayar 5 gigawatt dengan komputasi senilai 1 gigawatt untuk menjalankan inferensi." Pembacaan saya adalah bahwa Jensen Huang mempertahankan marginnya hanya selama setiap generasi memberikan jauh lebih banyak daripada biayanya. Tuan tanah dan pemberi pinjaman dibayar bagaimanapun juga, pada 11% hingga 15%, dan Schwarzman dan Ackman keduanya telah memilih kursi itu.