Siap-siap, Peneliti OpenAI Sudah Rancang Alat Deteksi Potensi Ancaman Model AI Canggih

RBG.ID — Tim ilmuwan OpenAI merancang alat uji baru bernama MLE-bench.

Yaitu, perangkat tes yang bertujuan mengukur kemampuan model kecerdasan buatan (AI) di masa depan.

Sehingga, mampu menilai apakah model AI tersebut bisa memodifikasi kode mereka sendiri dan meningkatkan kemampuannya tanpa bantuan manusia.

Baca Juga: Keren Banget, Pasca Menang Nobel Sastra, Karya Han Kang Terjual hingga 1 Juta Eksemplar Lho

Selain itu, alat itu mampu mendeteksi potensi ancaman bahaya besar yang mungkin ditimbulkan oleh model AI canggih.

MLE-bench terdiri dari 75 tes yang sebagian besar diambil dari kompetisi Kaggle, platform machine learning.

Tes-tes itu menguji kemampuan teknis AI dalam menyelesaikan tugas-tugas rekayasa pembelajaran mesin.

Baca Juga: Ayo Pasti Bisa, Timnas Indonesia U-17 Incar Juara Grup G

Seperti, melatih model, mempersiapkan data, dan menjalankan eksperimen ilmiah.

Dalam makalah yang diterbitkan pada 9 Oktober di arXiv, ilmuwan OpenAI menjelaskan bahwa model AI yang mampu menyelesaikan sebagian besar dari 75 tes ini bisa dikategorikan sebagai artificial general intelligence (AGI).

AGI merujuk pada jenis AI yang jauh lebih cerdas dari manusia dan dapat melakukan berbagai tugas tanpa batasan spesifik.

Baca Juga: Sederet Kepala Negara yang Hadir di Pelantikan Prabowo-Gibran, Ini Daftarnya

Setiap tes dalam MLE-bench memiliki manfaat praktis di dunia nyata.

Misalnya, OpenVaccine. Sistem itu fokus pada pencarian vaksin mRNA untuk covid-19, serta vesuvius challenge yang bertujuan mengungkap teks dari gulungan kuno yang terkubur.