Amazon Tingkatkan Kapasitas Komputasi untuk Mendukung AI Generatif

Amazon (AMZN) sedang melakukan peremajaan pada pusat data Amazon Web Services (AWS) yang sangat besar.

Perusahaan ini mengumumkan bahwa mereka meningkatkan efisiensi, ketersediaan, dan desain fasilitas komputasi yang sangat besar untuk menjaga agar fasilitas tersebut tetap beroperasi bagi para pelanggannya dan memberikan kekuatan pemrosesan yang mereka butuhkan untuk menjalankan aplikasi AI generatif yang baru.

“Kami telah melakukan banyak sekali peningkatan dalam hal penyederhanaan desain listrik dan mekanik kami yang akan lebih meningkatkan ketersediaan bagi pelanggan kami,” kata Prasad Kalyanaraman, Wakil Presiden Layanan Infrastruktur di AWS, kepada Yahoo Finance.

“AI Generatif membutuhkan daya yang cukup besar untuk rak dan chip ini. Dan kami juga telah berinovasi pada desain pengiriman daya ke server-server ini,” tambahnya.

AWS adalah unit bisnis Amazon yang paling menguntungkan. Segmen ini menghasilkan $90.7 miliar pada tahun 2023, lebih rendah dari pendapatan divisi retail yang mencapai $484 miliar.

Namun, pendapatan operasionalnya mencapai $24.6 miliar, melampaui pendapatan operasional ritel Amazon sebesar $12.2 miliar.

Setiap perubahan pada infrastruktur AWS pasti akan berdampak pada laba Perusahaan dari waktu ke waktu. AWS adalah penyedia layanan cloud terbesar di dunia, mengungguli Microsoft (MSFT) yang berada di posisi kedua dan Google (GOOG, GOOGL) yang berada di posisi ketiga.

Dan apa pun yang meningkatkan ketersediaan dan kinerja bisnis cloud berpotensi menarik lebih banyak pelanggan sambil memastikan pengguna yang ada tidak lari ke saingan Amazon.

Amazon mengatakan bahwa pembaruan terbaru termasuk desain listrik dan mekanik yang disederhanakan untuk pusat datanya, yang memastikan ketersediaan infrastruktur yang lebih baik dari 99%.

Dengan kata lain, Perusahaan ini merampingkan perangkat kerasnya untuk memastikan pusat datanya tetap aktif dan berjalan tanpa hambatan.

Raksasa teknologi ini mengatakan bahwa mereka juga sedang mempersiapkan diri untuk chip Blackwell Nvidia (NVDA) yang akan datang dengan melengkapi pusat datanya dengan kemampuan pendingin cair (liquid cooling).

Pusat data umumnya menggunakan server berpendingin udara yang membuang panas yang dihasilkan oleh chip dan server menggunakan kipas.

Namun menurut Kalyanaraman, server yang menjalankan chip Blackwell Nvidia atau chip Trainium 2 milik Amazon bekerja dengan sangat panas, sehingga satu-satunya cara untuk mendinginkannya adalah dengan menggunakan sistem pendingin cair.

Anda dapat menganggap sistem pendingin cair mirip dengan sistem radiator pada mobil. Umumnya, cairan pendingin bersirkulasi melalui serangkaian pipa ke blok yang terpasang ke chip server.

Panas yang dihasilkan oleh chip dipindahkan ke blok dan kemudian ke cairan pendingin, yang kemudian melewati radiator di mana ia didinginkan dan disirkulasikan kembali ke chip.

Panas adalah masalah besar bagi komponen komputer. Jika sebuah sistem menjadi terlalu panas, maka sistem akan melambat atau mati sepenuhnya untuk mencegah kerusakan serius.

Jadi, menjaga server AI baru tetap dingin adalah hal yang sangat penting bagi Perusahaan komputasi cloud.

“Kami memiliki ... lebih dari seratus ribu pelanggan yang menjalankan aplikasi AI generatif, mulai dari pelatihan, inferensi, hingga penyempurnaan di berbagai layanan seperti SageMaker dan Bedrock, serta layanan infrastruktur kami,” jelas Kalyanaraman.

“Jadi, inovasi ini memungkinkan para pelanggan untuk menjalankan lebih banyak komputasi di AWS. Hal ini memungkinkan kami untuk benar-benar menjalankannya secara efisien bagi pelanggan dan menjalankan layanan tersebut dengan cara yang sangat tersedia,” tambahnya.

Amazon mengatakan bahwa mereka juga meningkatkan efisiensi listrik secara keseluruhan untuk pusat datanya, yang berarti Perusahaan akan dapat memeras lebih banyak kinerja dari jumlah daya yang sama dengan yang selama ini digunakan.

“Efisiensi mekanis kami dengan peningkatan ini meningkat sebesar 46%, yang berarti Anda memiliki lebih banyak daya yang benar-benar tersedia untuk komputasi,” ujar Kalyanaraman.

Berkembangnya teknologi AI generatif berarti perusahaan pusat data menggunakan lebih banyak daya. Hal ini membuat perusahaan seperti Amazon, Microsoft, dan Google, di antaranya, mencari cara untuk meningkatkan efisiensi pusat data dan sumber daya baru, termasuk energi nuklir.

Siklus hype AI generatif masih relatif baru, dan penyedia layanan cloud akan terus membangun pusat data yang lebih kuat.

Namun, hal itu berarti harus memikirkan kembali bagaimana mereka membangun dan mengoperasikan fasilitas-fasilitas yang sangat besar ini.

Langkah Amazon hanyalah contoh terbaru dari kenyataan tersebut. Dan pasti akan ada lebih banyak lagi yang akan datang di masa depan.