Elon Musk, pakar AI dan pemimpin industri telah menandatangani surat terbuka yang menyeru agar berhenti selama enam bulan pada pembangunan sistem kecerdasan buatan yang melebihi GPT-4 OpenAI kerana potensi risiko kepada masyarakat dan manusia secara keseluruhan.
Selain Musk, raksasa lain dalam dunia teknologi dan AI menambah tandatangan mereka pada surat itu. Ini termasuk Ketua Pegawai Eksekutif Stability AI Emad Mostaque, penyelidik DeepMind, dan perintis AI Stuart Russell dan Yoshua Bengio. Pengasas bersama Apple Steve Wozniak turut menambah tandatangannya pada surat terbuka itu. Bagaimanapun, Ketua Pegawai Eksekutif OpenAI Sam Altman belum menandatangani surat terbuka itu, menurut jurucakap Masa Depan Kehidupan.
Dokumen itu menyerlahkan potensi gangguan kepada politik dan ekonomi yang disebabkan oleh sistem AI yang bersaing dengan manusia. Ia juga memerlukan kerjasama antara pembangun, penggubal dasar dan pihak berkuasa kawal selia.
“Sistem AI yang berkuasa harus dibangunkan hanya setelah kami yakin bahawa kesannya akan positif dan risikonya akan terurus. Keyakinan ini mesti berasas dan meningkat dengan besarnya kesan potensi sistem.
“Kenyataan OpenAI baru-baru ini mengenai kecerdasan am buatan, menyatakan bahawa ‘Pada satu ketika, mungkin penting untuk mendapatkan semakan bebas sebelum mula melatih sistem masa depan, dan untuk usaha yang paling maju untuk bersetuju untuk mengehadkan kadar pertumbuhan pengiraan yang digunakan untuk mencipta model baru.’ Kami bersetuju. Perkara itu sekarang.
“Oleh itu, kami menyeru semua makmal AI untuk segera menjeda sekurang-kurangnya 6 bulan latihan sistem AI yang lebih berkuasa daripada GPT-4. Jeda ini hendaklah terbuka dan boleh disahkan, serta merangkumi semua pelakon utama. Jika jeda sedemikian tidak dapat digubal dengan cepat, kerajaan harus mengambil langkah dan memulakan moratorium.
“Makmal AI dan pakar bebas harus menggunakan jeda ini untuk bersama-sama membangunkan dan melaksanakan satu set protokol keselamatan dikongsi untuk reka bentuk dan pembangunan AI lanjutan yang diaudit dan diawasi dengan teliti oleh pakar luar bebas. Protokol ini harus memastikan bahawa sistem yang mematuhinya adalah selamat tanpa keraguan yang munasabah. Ini tidak bermakna berhenti seketika pada pembangunan AI secara umum, semata-mata berundur daripada perlumbaan berbahaya kepada model kotak hitam yang tidak dapat diramalkan yang lebih besar dengan keupayaan yang muncul,” bunyi surat itu.
Profesor Universiti New York, Gary Marcus, yang menandatangani surat itu, berkongsi sentimennya tentang perkara itu.
“Surat itu tidak sempurna, tetapi semangatnya betul: kita perlu perlahan sehingga kita lebih memahami kesannya. Mereka boleh menyebabkan kemudaratan yang serius… pemain besar menjadi semakin berahsia tentang apa yang mereka lakukan, yang menyukarkan masyarakat untuk mempertahankan diri daripada sebarang bahaya yang mungkin berlaku,” katanya.
Pautan ke surat terbuka boleh diakses di sini.
Jangan teragak-agak untuk menghubungi kami dengan petua berita. Hanya hantar mesej kepada simon
Elon Musk menyertai gergasi teknologi lain untuk meminta jeda pada latihan AI yang melebihi GPT-4
