Lapisan Kepercayaan AI: Bagaimana Jaringan Mira Mengatasi Masalah Bias dan Ilusi AI

Baru-baru ini, sebuah versi uji publik jaringan bernama Mira diluncurkan, yang memicu perhatian dalam industri terhadap masalah kepercayaan AI. Tujuan jaringan Mira adalah membangun lapisan kepercayaan untuk AI, mengatasi masalah bias dan "ilusi" yang mungkin muncul selama penggunaan AI. Jadi, mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?

Dalam membahas AI, orang sering kali lebih fokus pada kemampuannya yang luar biasa. Namun, masalah "ilusi" atau bias yang ada pada AI sering kali diabaikan. Apa yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang dapat "mengarang" atau berbicara omong kosong dengan serius. Misalnya, ketika ditanya mengapa bulan berwarna merah muda, AI mungkin memberikan penjelasan yang tampak masuk akal tetapi sepenuhnya fiktif.

Kemunculan "ilusi" atau bias AI terkait dengan beberapa jalur teknologi AI saat ini. AI generatif mencapai koherensi dan kecukupan dengan memprediksi konten yang "paling mungkin", tetapi terkadang tidak dapat memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang semuanya dapat memengaruhi keluaran AI. Dengan kata lain, AI belajar pola bahasa manusia dan bukan fakta itu sendiri.

Mekanisme generasi probabilitas saat ini dan pola berbasis data hampir tidak dapat dihindari akan menyebabkan munculnya ilusi AI. Meskipun dalam bidang pengetahuan umum atau konten hiburan, keluaran yang terdistorsi atau ilusi ini mungkin untuk sementara tidak menyebabkan konsekuensi langsung, di bidang-bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, hal ini dapat memiliki dampak serius. Oleh karena itu, mengatasi ilusi dan bias AI menjadi salah satu masalah inti dalam proses pengembangan AI.

Proyek Mira berfokus pada mengatasi masalah bias dan halusinasi AI, membangun lapisan kepercayaan untuk AI, dan meningkatkan keandalan AI. Lalu, bagaimana Mira mencapai tujuan ini?

Metode inti Mira adalah memverifikasi output AI melalui konsensus dari beberapa model AI. Mira pada dasarnya adalah jaringan verifikasi, yang memastikan keandalan output AI melalui verifikasi konsensus terdesentralisasi. Pendekatan ini menggabungkan keunggulan verifikasi konsensus terdesentralisasi yang dikuasai oleh bidang kripto dan kolaborasi multi-model, dengan model verifikasi kolektif untuk mengurangi bias dan ilusi.

Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan verifikasi independen. Operator node berpartisipasi dalam memverifikasi pernyataan ini dan memastikan integritas operator node melalui mekanisme insentif/hukuman ekonomi kripto. Berbagai model AI dan operator node terdesentralisasi berkolaborasi untuk menjamin keandalan hasil verifikasi.

Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Pertama, sistem memecah konten kandidat yang diajukan oleh klien menjadi berbagai pernyataan yang dapat diverifikasi, dan mendistribusikannya ke node untuk diverifikasi. Setelah node menentukan validitas pernyataan, sistem mengumpulkan hasil untuk mencapai konsensus dan mengembalikan hasilnya kepada klien. Untuk melindungi privasi klien, pernyataan akan didistribusikan ke node yang berbeda dengan cara pemecahan acak.

Operator node mendapatkan keuntungan dengan menjalankan model validator, memproses pernyataan, dan mengirimkan hasil validasi. Keuntungan ini berasal dari nilai yang diciptakan untuk klien, yaitu mengurangi tingkat kesalahan AI di berbagai bidang. Untuk mencegah node merespons secara acak, node yang terus-menerus menyimpang dari konsensus akan mengurangi token yang dipertaruhkan.

Secara keseluruhan, Mira menawarkan pendekatan baru untuk mencapai keandalan AI. Dengan membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan banyak model AI, Mira bertujuan untuk memberikan layanan AI yang lebih andal bagi pelanggan, mengurangi bias dan ilusi AI, serta memenuhi kebutuhan akan akurasi dan presisi yang lebih tinggi. Pendekatan ini tidak hanya memberikan nilai kepada pelanggan, tetapi juga membawa keuntungan bagi peserta jaringan Mira, dan diharapkan dapat mendorong perkembangan aplikasi AI yang lebih mendalam.

Saat ini, pengguna dapat berpartisipasi dalam jaringan uji publik Mira melalui Klok (aplikasi obrolan LLM berbasis Mira), merasakan keluaran AI yang telah diverifikasi, dan memiliki kesempatan untuk mendapatkan poin Mira. Meskipun penggunaan poin di masa depan belum diumumkan, ini jelas memberikan pengguna kesempatan untuk merasakan lapisan kepercayaan AI secara langsung.