OpenAI, bekerja sama dengan Anthropic, Google, DeepMind, dan Microsoft, mengumumkan pembentukan Frontier Model Forum pada 26 Juli 2023. Badan industri baru ini bertujuan untuk memastikan pengembangan model AI hyperscale masa depan yang aman dan bertanggung jawab.
Forum Model Perbatasan adalah tanggapan terhadap pemahaman bersama di antara pemerintah dan industri bahwa, sementara AI memegang janji luar biasa untuk manfaat global, AI juga memerlukan perlindungan yang tepat untuk mengurangi potensi risiko. Inisiatif ini dibangun di atas upaya yang telah dilakukan oleh pemerintah AS dan Inggris, Uni Eropa, OECD, dan G7 melalui proses AI Hiroshima, antara lain.
Forum ini akan fokus pada tiga bidang utama selama tahun mendatang:
- Mengidentifikasi praktik terbaik: Forum ini bertujuan untuk mempromosikan berbagi pengetahuan dan praktik terbaik di antara industri, pemerintah, masyarakat sipil, dan akademisi, terutama berfokus pada standar dan praktik keselamatan untuk mengurangi berbagai potensi risiko AI.
- Memajukan penelitian keamanan AI: Forum ini akan mendukung ekosistem keamanan AI dengan mengidentifikasi pertanyaan penelitian terbuka yang penting tentang keamanan AI. Ini akan mengoordinasikan penelitian untuk memajukan upaya di bidang-bidang seperti ketahanan permusuhan, interpretabilitas mekanistik, pengawasan terukur, akses penelitian independen, perilaku yang muncul, dan deteksi anomali. Fokus awal adalah mengembangkan dan berbagi perpustakaan umum evaluasi teknis dan tolok ukur untuk model AI perbatasan.
- Memfasilitasi berbagi informasi antara perusahaan dan pemerintah: Forum ini berencana untuk membangun mekanisme tepercaya dan aman untuk berbagi informasi di antara perusahaan, pemerintah, dan pemangku kepentingan terkait mengenai keamanan dan risiko AI, mengikuti praktik terbaik dalam pengungkapan yang bertanggung jawab dari berbagai bidang seperti keamanan siber.
Kent Walker, Presiden Urusan Global di Google & Alphabet, menyatakan kegembiraannya bekerja sama dengan perusahaan terkemuka lainnya, berbagi keahlian teknis untuk mempromosikan inovasi AI yang bertanggung jawab.
Brad Smith, Wakil Ketua &; Presiden di Microsoft, menekankan bahwa perusahaan yang menciptakan teknologi AI memiliki tanggung jawab untuk memastikan bahwa itu aman, terlindungi, dan tetap di bawah kendali manusia.
Anna Makanju, Wakil Presiden Urusan Global di OpenAI, menekankan pentingnya pengawasan dan tata kelola dalam pengembangan AI.
Dario Amodei, CEO di Anthropic, menyoroti potensi AI untuk secara mendasar mengubah cara dunia bekerja dan peran penting Forum Model Perbatasan dalam mengoordinasikan praktik terbaik dan berbagi penelitian tentang keamanan AI perbatasan.
Frontier Model Forum merupakan langkah signifikan dalam upaya kolektif sektor teknologi untuk memajukan AI secara bertanggung jawab, mengatasi tantangan sehingga AI bermanfaat bagi seluruh umat manusia.
