Pengumuman Terbaru AWS: UltraCluster dengan Chip Trainium 2
Matt Garman, CEO Amazon Web Services, mengumumkan sejumlah pengumuman penting terkait AWS di konferensi re:Invent pada hari Selasa.
Keynote dua setengah jamnya membahas penawaran perangkat lunak dan perangkat keras saat ini dan pembaruan AWS, dengan testimonial dari klien termasuk Apple dan JPMorgan. Unit pemrosesan grafis (GPU), superkomputer, dan kemunculan mengejutkan dari Apple menjadi sorotan di antara informasi yang disajikan.
AWS Kembangkan Chip Trainium untuk Infrastruktur Kecerdasan Buatan
AWS, divisi komputasi awan Amazon, telah mengembangkan semikonduktor sendiri untuk melatih kecerdasan buatan. Pada hari Selasa, Garman mengatakan bahwa mereka menciptakan UltraServers – yang berisi 64 chip Trainium 2 miliknya – sehingga perusahaan dapat meningkatkan beban kerja GenAI mereka.
Selain itu, mereka juga sedang membangun superkomputer kecerdasan buatan, UltraCluster yang terdiri dari UltraServers, bekerja sama dengan startup kecerdasan buatan Anthropic. Diberi nama Proyek Rainier, ini akan menjadi “klaster komputasi kecerdasan buatan terbesar di dunia yang dilaporkan hingga saat ini yang tersedia untuk Anthropic membangun dan menerapkan model-model masa depannya” ketika selesai, menurut sebuah posting blog Amazon. Amazon telah menginvestasikan $8 miliar di Anthropic.
Trainium Chips AWS Bisa Bersaing dengan Nvidia
Nvidia saat ini mendominasi pasar chip kecerdasan buatan dengan GPU yang dicari dan mahal, tetapi Garman mendukung silikon buatan AWS selama keynote-nya pada hari Selasa. Tujuan perusahaannya adalah untuk mengurangi biaya kecerdasan buatan.
“Saar ini, sebenarnya hanya ada satu pilihan di sisi GPU, dan itu hanya Nvidia. Kami pikir pelanggan akan menghargai memiliki beberapa pilihan,” kata Garman kepada Wall Street Journal.
Kecerdasan buatan berkembang pesat, dan permintaan akan chip yang membuat teknologi tersebut mungkin siap tumbuh seiring dengan perkembangannya.
Perusahaan teknologi besar, seperti Google dan Microsoft, kini mulai merambah ke pembuatan chip untuk mencari alternatif dari Nvidia.
Garman mengatakan kepada The Journal bahwa ia tidak berharap Trainium akan menggantikan Nvidia “dalam waktu yang lama.”
“Namun, semoga Trainium dapat menciptakan niche yang baik di mana saya benar-benar percaya bahwa itu akan menjadi pilihan yang bagus untuk banyak beban kerja – meskipun tidak semua beban kerja,” katanya.
AWS juga memperkenalkan Trainium3, chip generasi terbarunya.
Superkomputer baru AWS bisa bersaing dengan xAI milik Elon Musk.
Menurut The Journal, klaster chip yang dikenal sebagai Proyek Rainier diharapkan akan tersedia pada tahun 2025. Begitu siap, Anthropic berencana menggunakannya untuk melatih model AI.
Dengan “ratusan ribu” chip Trainium, itu akan menantang Colossus xAI milik Elon Musk – superkomputer dengan 100.000 chip Hopper Nvidia.
Apple sedang mempertimbangkan Trainium 2 untuk pelatihan Apple Intelligence.
Garman mengatakan bahwa Apple adalah salah satu pelanggannya yang menggunakan chip AWS, seperti Amazon Graviton dan Inferentia, untuk layanan termasuk Siri.
Benoit Dupin, direktur senior AI dan machine learning di Apple, kemudian naik ke panggung di konferensi Las Vegas. Apple Bekerja Sama dengan AWS dalam Pengembangan Kecerdasan Buatan
Menurut Dupin, perusahaan bekerja sama dengan AWS untuk “hampir semua tahapan” siklus hidup kecerdasan buatan dan machine learning. “Salah satu elemen unik dari bisnis Apple adalah skala di mana kami beroperasi dan kecepatan dengan kami berinovasi,” ujar Dupin.
Apple Saat Ini Mengujicoba Chip Trainium 2
Dupin menambahkan, “AWS telah mampu menjaga kecepatan, dan kami telah menjadi pelanggan selama lebih dari satu dekade.” Saat ini, Apple sedang dalam tahap awal pengujian chip Trainium 2 untuk membantu melatih Apple Intelligence.
Perkenalkan Generasi Baru Model Foundational, Amazon Nova
Amazon mengumumkan beberapa model baru di GenAI block. Pelanggan AWS akan dapat menggunakan aplikasi GenAI yang didukung oleh Amazon Nova “untuk memahami video, grafik, dan dokumen, atau menghasilkan video dan konten multimedia lainnya,” kata Amazon. Ada berbagai model yang tersedia dengan berbagai biaya, kata Amazon.
“Amazon Nova Micro, Amazon Nova Lite, dan Amazon Nova Pro setidaknya 75% lebih murah dari model terbaik di kelas kecerdasan masing-masing di Amazon Bedrock,” kata Amazon.
