Arsitektur CPU, GPU dan TPU: Kenapa Tiga Chip Ini Mikirnya Beda Jauh

Lo pernah nggak sih ngeliat spek laptop atau server terus bingung, kenapa ada CPU, ada GPU, dan belakangan muncul lagi yang namanya TPU? Semua katanya buat "ngitung", tapi kok harus dipisah jadi tiga barang yang beda. Nah, satu tulisan di blog technophileholmes lumayan banget buat ngejelasin ini, dan gue rasa worth banget buat lo simak sampai habis.

Ide besarnya sederhana: nggak ada satu chip yang bisa jadi juara di semua hal. Tiap arsitektur lahir karena ada satu jenis kerjaan yang dia mau menangi. Si penulis nyebut ini kayak sorting hat-nya Harry Potter — topi yang nentuin tiap chip masuk ke "asrama" mana, alias peran apa yang paling cocok buat dia. Analogi itu milik si penulis aslinya, dan menurut gue dia kepake banget buat ngegambarin kenapa industri hardware belakangan ini bela-belain bikin chip yang makin spesialis, bukan makin serba bisa.

Satu ukuran nggak cocok buat semua

Kalau lo tarik ke belakang, mesin komputasi itu dulu mulai dari sirkuit yang cuma bisa ngerjain satu fungsi tetap. Lama-lama muncul kebutuhan buat mesin yang lebih fleksibel — bisa ngerjain banyak tugas berbeda — dan di situ general-purpose CPU jadi raja. Dari situ evolusinya jalan terus: CPU dulu dipasangkan sama GPU, terus makin spesialis dengan munculnya akselerator yang didesain cuma buat satu domain tertentu. Yang paling terkenal ya TPU-nya Google.

Logikanya, kalau lo mau ngerjain kerjaan khusus dengan energi dan biaya yang efisien, lo nggak bangun mesin serba bisa. Lo bangun mesin yang bentuknya persis nyesuain kerjaan itu. Trade-off-nya jelas: lo dapet efisiensi dan kecepatan, tapi lo korbangin fleksibilitas.

CPU, si generalis yang jago mikir berurutan

Chip pertama yang perlu lo paham adalah CPU. Ciri paling jelas dari CPU itu jumlah core-nya sedikit, tapi tiap core-nya "gemuk" dan pinter. Dia didesain buat kerjaan yang sifatnya serial dan penuh cabang logika.

Bayangin kerjaan yang nanya "kalau kondisi A terpenuhi, lakuin ini, kalau nggak, lakuin itu". CPU juara di situ. Dia punya logika kontrol yang rumit, manajemen cabang, cache berlapis, supaya keputusan gampang diambil sesuai perintah yang berurutan. Tugas kayak ngatur sistem operasi, nanganin file, atau njalanin satu baris kode yang butuh mikir langkah demi langkah, ya di situ kekuatan CPU.

Intinya si penulis bilang CPU itu paling jago buat latensi — memangkas waktu nunggu sebuah proses beres. Kita nyebutnya latensi, bukan "ngerjain banyak dalam waktu super singkat". Sebab itu banyak orang salah kaprah nyangka clock tinggi CPU artinya segalanya lebih cepat. Padahal dia mengorbit buat tipe kerjaan yang beda.

GPU, si pekerja borongan yang mikir ribuan sekaligus

Lompat ke GPU. Bedanya jauh. Kalau CPU punya sedikit core besar, GPU justru punya ribuan core kecil yang ngerjain hal sama barengan. Filsafat desainnya kebalikan CPU: dia dipakai buat throughput, bukan latensi.

Maksudnya, GPU nggak terlalu peduli kalau satu tugas selesai agak lambat, asal dia bisa ngerjain jutaan tugas secara paralel dan hasil totalnya banyak dalam waktu singkat. Awalnya dia lahir buat grafis — bayangin nutupin layar dengan jutaan piksel yang tiap piksel dihitung bebas dari piksel lainnya. Model kerja kayak itu nyaris sempurna buat GPU.

Belakangan GPU jadi primadona AI karena operasi neural network itu sangat paralel. Latihan model atau inferensi besar cocok banget dijalankan secara masif barengan. Kelemahannya? Kerjaan penuh cabang dan langkah berurutan bikin GPU boros dan nggak efisien, karena core-core kecilnya disuruh nunggu keputusan yang cuma satu jalur. Jadi GPU bukanlah versi "lebih cepat" dari CPU — dia justru beda tujuan.

TPU, si spesialis yang didesain buat satu hal aja

Nah, ini bagian yang menurut gue paling asyik. TPU adalah Tensor Processing Unit, chip buatan Google yang masuk kategori ASIC — Application-Specific Integrated Circuit. Disebut "specific" karena dia dibikin buat kategori operasi yang sempit tapi paling sering muncul di machine learning: perkalian matrix alias tensor math.

Di dalamnya, TPU punya struktur yang didedikasikan buat aliran data teratur dan operasi matematis padat, terutama perkalian matrix, yang jadi jantung neural network. Hasilnya, buat kerjaan yang memang cocok, TPU bisa sangat efisien dalam hal performa per watt dan biaya. Dia ngejar efisiensi maksimal dengan ngorbanin fleksibilitas — di luar operasi yang dia didesain buat ngerjain, dia jauh kalah luwes dibanding CPU atau GPU.

Si penulis nggambarinya sebagai roda gigi yang dipasang cuma buat satu jalur produksi tertentu. Selama jalur itu yang lo butuh, dia luar biasa. Begitu lo butuh mesinnya ganti tugas yang nggak dia antisipasi, dia kehilangan keunggulannya. Analogi ini juga dari penulis aslinya, dan gue rasa itu gambaran yang jujur soal trade-off ASIC.

Kenapa ramuan ini jadi arah semua perangkat

Kalau lo gabungin semuanya, polanya jadi masuk akal. Dunia komputasi udah nggak pake satu chip buat semua hal, tapi pakai kombinasi yang dijalankan bareng — si penulis nyebutnya arsitektur yang saling melengkapi. Ada bagian yang nanganin logika dan orkestrasi, ada yang ngerjain paralel borongan, dan ada yang ngeksekusi operasi spesialis super efisien.

Tren ini bakal makin kelihatan. Tiap jenis chip punya kekuatan dan batasnya sendiri, jadi pertarungan ke depan bukan soal "chip mana yang paling cepat", tapi "kombinasi mana yang paling pas buat beban kerja tertentu". Arahnya jelas: makin heterogen, makin tersusun dari banyak potongan yang tiap-tiapnya jago di satu bidang.

Buat gue, cara lihat kayak gini bikin obrolan soal spek gadget atau server jadi jauh lebih waras. Kalau lo ngerti bahwa CPU, GPU, dan TPU punya peran beda, lo bakal berhenti nanya "mana yang lebih kuat" dan mulai nanya "buat kerjaan apa". Pertanyaan kedua itu yang bikin lo nggak salah beli dan nggak salah janji soal performa.

Apa yang bisa lo ambil dari sini

Kalau harus diringkas jadi pesan simpel: engine-nya beda-beda karena tugasnya beda. CPU buat kerjaan berurutan dan penuh logika, GPU buat paralel borongan, TPU buat operasi matrix di machine learning yang didesain khusus. Analogi sorting hat dari si penulis itu bukan cuma lucu, tapi beneran ngebantu ngerti alasan di balik tiap keputusan desain.

Jadi lain kali lo ngeliat sebuah chip baru dipromosikan sebagai "monster", tahan dulu sikap euforianya. Tanya ke dirinya sendiri: kerjaan macam apa yang dia mau menangi. Sebab di dunia silicon ini, chip yang menang bukan yang paling serba bisa, tapi yang paling tepat nyesuain tugas yang dia emban.