Riset Keselamatan Rosie Campbell Tinggalkan OpenAI
- Riset keselamatan Rosie Campbell mengumumkan dia meninggalkan OpenAI.
- Campbell mengatakan dia berhenti karena OpenAI membubarkan tim yang fokus pada keselamatan.
- IA adalah peneliti OpenAI terbaru yang fokus pada keselamatan yang meninggalkan perusahaan ini tahun ini.
Seorang peneliti keselamatan lainnya telah mengumumkan pengunduran dirinya dari OpenAI.
Rosie Campbell, seorang peneliti kebijakan di OpenAI, mengatakan dalam sebuah pos di Substack pada hari Sabtu bahwa dia telah menyelesaikan minggu terakhirnya di perusahaan tersebut.
Alasan Kepergian
Menurut Campbell, kepergiannya dipicu oleh pengunduran diri Miles Brundage pada bulan Oktober, seorang penasihat kebijakan senior yang memimpin tim AGI Readiness. Setelah kepergiannya, tim AGI Readiness dibubarkan, dan anggotanya tersebar di berbagai sektor perusahaan.
Tim AGI Readiness memberikan nasihat kepada perusahaan tentang kapasitas dunia untuk mengelola AGI dengan aman, sebuah versi teoritis kecerdasan buatan yang suatu hari bisa menyamai atau melampaui kecerdasan manusia.
Pesan Campbell
Dalam posnya, Campbell mengulangi alasan Brundage untuk pergi, dengan menyinggung keinginan untuk lebih bebas dalam menangani masalah yang memengaruhi seluruh industri.
OpenAI tetap menjadi ujung tombak riset – terutama riset keselamatan yang krusial.
Pergeseran dalam Perusahaan
Namun, selama setahun terakhir, ia mengatakan bahwa ia “diguncang oleh beberapa pergeseran” dalam arah perusahaan.
Pada bulan September, OpenAI mengumumkan bahwa mereka sedang mengubah struktur tata kelola dan beralih menjadi sebuah perusahaan berorientasi keuntungan, hampir satu dekade setelah diluncurkan sebagai organisasi nirlaba yang didedikasikan untuk menciptakan kecerdasan buatan umum.
Beberapa mantan karyawan mempertanyakan langkah tersebut karena dianggap mengorbankan misi perusahaan untuk mengembangkan teknologi dengan cara yang bermanfaat bagi umat manusia demi lebih agresif meluncurkan produk.
Sejak Juni, perusahaan telah meningkatkan staf penjualan sekitar 100 orang untuk memenangkan klien bisnis dan memanfaatkan “pergeseran paradigma” menuju kecerdasan buatan, kata kepala penjualan perusahaan kepada The Information.
Meningkatkan Staf Penjualan untuk Menghadapi Perubahan Pasar
Menurut CEO OpenAI, Sam Altman, perubahan ini akan membantu perusahaan memenangkan pendanaan yang diperlukan untuk mencapai tujuannya, termasuk mengembangkan kecerdasan buatan umum yang bermanfaat bagi kemanusiaan.
Altman mengungkapkan, “Hal yang sederhana adalah kami hanya membutuhkan modal yang jauh lebih besar daripada yang kami pikir bisa kami tarik – bukan bahwa kami berpikir, kami mencoba – daripada yang kami mampu tarik sebagai organisasi nirlaba,” dalam wawancara Harvard Business School pada bulan Mei.
Tanggung Jawab Membangun Standar Keselamatan AI
Belakangan ini, Altman juga menyatakan bahwa bukanlah tanggung jawab OpenAI semata untuk menetapkan standar industri untuk keselamatan kecerdasan buatan.
Dalam sebuah wawancara dengan Fox News Sunday bersama Shannon Bream yang disiarkan pada hari Minggu, Altman menyatakan, “Hal ini seharusnya menjadi pertanyaan bagi masyarakat. Bukanlah tugas OpenAI untuk memutuskan sendiri bagaimana ChatGPT, atau bagaimana teknologi secara umum, digunakan atau tidak digunakan.”
Sejak pemecatan singkat Altman tahun lalu, beberapa peneliti terkemuka telah meninggalkan OpenAI, termasuk rekan pendiri Ilya Sutskever, Jan Leike, dan John Schulman, yang semuanya mengungkapkan kekhawatiran tentang komitmennya terhadap keselamatan.
Hingga saat ini, OpenAI belum memberikan tanggapan atas permintaan komentar dari Business Insider.
