Довіра до ШІ: як мережа Mira вирішує проблеми упередженості та ілюзій в ШІ

Нещодавно було запущено суспільну бета-версію мережі під назвою Mira, що викликало занепокоєння в галузі щодо проблеми довіри до ШІ. Мета мережі Mira – створити рівень довіри до ШІ, вирішуючи проблеми упередженості та "галюцинацій", які можуть виникнути під час використання ШІ. То чому ШІ потребує довіри? Як Mira вирішує цю проблему?

Коли йдеться про ШІ, люди зазвичай більше звертають увагу на його потужні можливості. Проте проблему "ілюзій" чи упереджень, пов'язаних з ШІ, часто ігнорують. Так звані "ілюзії" ШІ, простими словами, полягають у тому, що іноді ШІ може "вигадувати" і серйозно заявляти про нісенітницю. Наприклад, коли його запитують, чому місяць рожевий, ШІ може надати на перший погляд розумне, але абсолютно вигадане пояснення.

З'явлення "галюцинацій" або упереджень у ШІ пов'язане з деякими поточними технологічними шляхами ШІ. Генеративний ШІ досягає узгодженості та раціональності, передбачаючи "найімовірніше" вміст, але іноді не може перевірити правдивість. Крім того, дані для навчання самі по собі можуть містити помилки, упередження або навіть вигадані матеріали, що впливають на результати ШІ. Іншими словами, ШІ вчиться мовним моделям людей, а не самим фактам.

Нинішній механізм генерації ймовірностей та дані, що їх використовують, майже неминуче призводять до появи ілюзій ШІ. Хоча в галузі загальних знань або розважального контенту такі упереджені чи ілюзорні результати можуть тимчасово не мати прямих наслідків, у таких суворо регульованих сферах, як медицина, право, авіація та фінанси, це може мати серйозні наслідки. Тому вирішення проблеми ілюзій та упереджень в ШІ стає одним із ключових питань у процесі розвитку ШІ.

Проект Mira саме спрямований на вирішення проблем упередженості та ілюзій в штучному інтелекті, створення шару довіри до ШІ та підвищення його надійності. Отже, як Mira досягає цієї мети?

Основний метод Mira полягає в перевірці виходу AI через консенсус кількох AI моделей. Mira за своєю суттю є мережею перевірки, яка забезпечує надійність виходу AI через децентралізовану перевірку консенсусу. Цей метод поєднує переваги децентралізованої перевірки консенсусу, в якій спеціалізується криптовалютна сфера, та співпраці кількох моделей, зменшуючи упередження та ілюзії через колективний режим перевірки.

У контексті перевірки архітектури протокол Mira підтримує перетворення складного контенту на незалежні заяви про перевірку. Оператори вузлів беруть участь у перевірці цих заяв і забезпечують чесність операторів вузлів через механізми економічних стимулів/покарань. Різні моделі ШІ та децентралізовані оператори вузлів беруть участь разом, щоб забезпечити надійність результатів перевірки.

Мережна архітектура Mira включає в себе перетворення контенту, розподілену верифікацію та механізм консенсусу. По-перше, система розбиває кандидатний контент, поданий клієнтом, на різні верифіковані заяви та розподіляє їх між вузлами для верифікації. Після того, як вузли визначать дійсність заяв, система підсумовує результати для досягнення консенсусу та повертає результати клієнту. Для захисту конфіденційності клієнта, заяви будуть розподілені між різними вузлами випадковими фрагментами.

Оператори вузлів отримують прибуток, працюючи з моделями перевірки, обробляючи заяви та подаючи результати перевірки. Ці доходи походять від створеної для клієнтів вартості, а саме зниження помилок ШІ в різних сферах. Щоб запобігти випадковим відповідям вузлів, вузли, які постійно відхиляються від консенсусу, будуть зменшувати свої стейкінг токени.

В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ. Створюючи децентралізовану мережу верифікації консенсусу на основі декількох моделей ШІ, Mira має на меті забезпечити вищу надійність для ШІ-сервісів клієнтів, зменшити упередженість та ілюзії ШІ, задовольнити вимоги до більшої точності та точності. Цей підхід не лише приносить цінність клієнтам, але й приносить вигоду учасникам мережі Mira, що обіцяє сприяти глибшому розвитку застосувань ШІ.

Наразі користувачі можуть взяти участь у публічній тестовій мережі Mira через Klok (додаток для чату на основі LLM), випробувати перевірені виходи штучного інтелекту та отримати можливість заробити бали Mira. Хоча майбутнє використання балів ще не оголошено, це безсумнівно надає користувачам можливість особисто відчути рівень довіри штучного інтелекту.