CEO Google DeepMind dan Anthropic Membahas Tanggung Jawab AI
Para CEO Google DeepMind dan Anthropic berbicara tentang beban tanggung jawab dalam wawancara terbaru.
Para eksekutif mendorong pembentukan lembaga regulasi untuk mengawasi proyek AI.
Kedua pemimpin AI setuju bahwa orang harus lebih memahami dan mempersiapkan diri terhadap risiko yang ditimbulkan oleh AI canggih.
Demis Hassabis dan Dario Amodei: Merasa Beban Tanggung Jawab
Ditanya apakah ia pernah khawatir “berakhir seperti Robert Oppenheimer,” CEO Google DeepMind, Demis Hassabis mengatakan bahwa ia kehilangan tidur karena ide tersebut.
“Saya khawatir tentang skenario semacam itu sepanjang waktu. Itu sebabnya saya tidak tidur banyak,” kata Hassabis dalam wawancara bersama CEO Anthropic, Dario Amodei dengan editor in chief The Economist, Zanny Minton Beddoes.
Potensi Merusak AI Canggih
Hassabis dan Amodei setuju bahwa AI canggih bisa memiliki potensi merusak ketika menjadi layak digunakan.
“Hampir setiap keputusan yang saya buat terasa seperti seimbang di tepi pisau – jika kita tidak membangun dengan cukup cepat, maka negara-negara otoriter bisa menang,” kata Amodei. “Jika kita membangun terlalu cepat, maka risiko yang dibicarakan Demis dan yang sudah kita tulis banyak, bisa terjadi.”
Perspektif Seimbang terhadap AI
Hassabis mengatakan bahwa meskipun AI tampak “terlalu dibesar-besarkan” dalam jangka pendek, ia khawatir bahwa konsekuensi jangka menengah hingga panjang masih kurang dihargai. Ia mempromosikan perspektif seimbang – untuk mengakui “peluang luar biasa” yang ditawarkan oleh AI, terutama dalam bidang ilmu pengetahuan dan kedokteran, sambil lebih sadar akan risiko yang menyertainya.
“Dua risiko besar yang saya bicarakan adalah pelaku buruk yang menggunakan ulang teknologi umum ini untuk tujuan yang merugikan – bagaimana kita memungkinkan pelaku baik dan membatasi akses pelaku buruk?” kata Hassabis. “Dan kedua, adalah risiko dari AGI, atau sistem agen itu sendiri, di luar kendali, atau tidak memiliki nilai atau tujuan yang tepat. Dan kedua hal itu sangat penting untuk diatur dengan benar, dan saya pikir seluruh dunia perlu fokus pada itu.”
Pleidoi untuk Badan Pengatur Proyek AI
Kedua Amodei dan Hassabis mendorong pembentukan badan pengatur untuk mengatur proyek AI, dengan Hassabis menunjuk pada Badan Energi Atom Internasional sebagai salah satu model potensial.
“Ideally it would be something like the UN, but given the geopolitical complexities, that doesn’t seem very possible,” Hassabis said.
Google DeepMind dan Anthropic CEO Mengekspresikan Kekhawatiran tentang Tekanan Kecerdasan Buatan pada 2025
CEO Google DeepMind, Demis Hassabis, dan CEO Anthropic, Dario Amodei, telah menyatakan kekhawatiran tentang tekanan yang mungkin ditimbulkan oleh perkembangan kecerdasan buatan (AI) pada tahun 2025. Keduanya percaya bahwa kerjasama internasional sangat penting dalam menghadapi tantangan ini.
Hassabis melihat kerjasama internasional sebagai sesuatu yang vital. Menurutnya, sebuah kolaborasi penelitian internasional seperti CERN untuk AGI bisa menjadi solusi untuk mengatasi langkah-langkah terakhir yang diperlukan dalam membangun AGI pertama.
Pentingnya Pemahaman Akan Kekuatan AI
Kedua pemimpin ini mendorong pemahaman yang lebih baik terhadap kekuatan perubahan yang diharapkan dari AI – dan mendorong masyarakat untuk mulai merencanakan tindakan yang sesuai.
Amodei menekankan bahwa kita berada di ambang sesuatu yang memiliki tantangan besar. Perubahan besar yang akan terjadi dapat merubah keseimbangan kekuatan di dunia. Jika seseorang menempatkan sebuah negara baru di dunia – dengan 10 juta orang yang lebih cerdas dari siapapun yang hidup hari ini – pertanyaan yang muncul adalah, ‘Apa tujuan mereka? Apa yang sebenarnya akan mereka lakukan di dunia, terutama jika mereka mampu bertindak secara otonom?’
Tidak Ada Tanggapan dari Anthropic dan Google DeepMind
Saat ini, Anthropic dan Google DeepMind belum memberikan tanggapan terhadap permintaan komentar dari Business Insider.
Amodei juga setuju dengan Hassabis bahwa ide struktur tata kelola di luar diri kita sendiri adalah hal yang penting. Menurutnya, keputusan-keputusan semacam ini terlalu besar untuk ditangani oleh satu orang saja.
