Startup baru Mozilla akan membangun AI “tepercaya” yang bermanfaat bagi umat manusia. Jika itu terdengar akrab, itu adalah misi pendirian OpenAI.
Startup, Mozilla.ai, bertujuan untuk menciptakan ekosistem AI independen dan open-source yang membahas kekhawatiran masyarakat yang paling mendesak tentang teknologi yang berkembang pesat.
Mark Surman, Presiden Mozilla Foundation, menulis dalam sebuah posting blog:
“Gelombang baru AI ini telah menghasilkan kegembiraan, tetapi juga kekhawatiran yang signifikan. Kami tidak hanya bertanya-tanya ‘Apa yang mungkin?’ dan ‘Bagaimana orang bisa mendapat manfaat?’ Kami juga bertanya-tanya ‘Apa yang bisa salah?’ dan ‘Bagaimana kami bisa mengatasinya?’ Dua dekade media sosial, smartphone dan konsekuensinya telah membuat kita curiga.
Mozilla telah mengajukan pertanyaan-pertanyaan ini tentang AI untuk sementara waktu sekarang – membuat sketsa visi untuk AI yang dapat dipercaya, memobilisasi komunitas kami untuk mendokumentasikan apa yang rusak dan berinvestasi dalam startup yang mencoba menciptakan AI yang lebih bertanggung jawab. “
Terburu-buru untuk mendapatkan solusi AI ke pasar telah disamakan dengan “perlombaan senjata” baru, mengacu pada periode berbahaya ketika AS, Uni Soviet, dan sekutu masing-masing berlomba untuk mencapai supremasi nuklir.
OpenAI didirikan sebagai organisasi nirlaba dengan misi negara untuk memastikan bahwa penelitiannya memberikan kontribusi positif jangka panjang bagi kemanusiaan. Banyak yang percaya perusahaan telah menyimpang dari misi ini.
Baru hari ini, kesalahan ChatGPT membocorkan riwayat percakapan pengguna. Kepala eksekutif OpenAI tweeted bahwa akan ada “postmortem teknis” segera.
Mike Kiser, Direktur Strategi dan Standar di SailPoint, berkomentar:
“Berbagi informasi dengan ChatGPT tidak seperti berbicara dengan orang dewasa lain, itu lebih seperti berbagi detail sensitif dengan anak berusia tiga tahun yang terlalu cerewet. Jika Anda tidak ingin rahasia organisasi Anda digunakan untuk melatih platform dan kemudian digunakan kembali oleh ChatGPT, disarankan untuk berhati-hati.
Selain itu, ChatGPT menghasilkan konten, tetapi sulit untuk membuktikan kebenarannya. Bahkan ketika referensi digunakan atau dikutip, ChatGPT belajar dari tautan ini dan menganggap informasi itu benar. Kemudian menggunakan bahasa dan format yang ditulis dengan baik untuk memberi bobot pada “fakta” tersebut. Kepercayaan pada kata-kata tertulis ini mungkin memiliki implikasi untuk disinformasi atau serangan terkait phishing lainnya. “
Microsoft telah menginvestasikan puluhan miliar di OpenAI dan telah meluncurkan integrasi dengan produk-produk populernya dengan cepat. Kemitraan itu tampaknya telah menyebabkan OpenAI mengambil lebih banyak risiko dan perusahaan sekarang dengan tegas mencari keuntungan (dibatasi 100 kali investasi apa pun.)
Elon Musk adalah salah satu pendiri OpenAI teta
