OPML: Оптимізація машинного навчання в у блокчейні

OPML(Оптимістичне машинне навчання) є новою технологією, яка дозволяє виконувати інференцію та навчання AI моделей у блокчейн системах. На відміну від ZKML, OPML має переваги у вигляді низьких витрат і високої ефективності. Варто зазначити, що поріг входу для OPML дуже низький - навіть звичайний ПК може запускати великі мовні моделі, такі як 26GB розміром 7B-LLaMA модель.

OPML використовує механізм верифікації ігор для забезпечення децентралізації та верифікації сервісу ML. Його робочий процес такий:

1. Користувач ініціює запит на послугу ML
2. Сервіс виконує завдання та подає результати у блокчейн
3. Валідатори перевіряють результати, у разі незгоди запускають гру верифікації
4. Точне визначення спірних етапів за допомогою двійкового протоколу
5. Нарешті, здійсніть покроковий арбітраж на смарт-контракті

Гра з одноетапною верифікацією OPML схожа на обчислення делегування (RDoC). Вона включає в себе такі ключові моменти:

• Побудова віртуальної машини для виконання поза блокчейном і арбітражу у блокчейні(VM)
• Реалізувати спеціалізовану легковагову бібліотеку DNN для підвищення ефективності
• Використання технології крос-компіляції для компіляції коду AI в інструкції VM
• Використання дерева Меркла для управління VM-образами, лише корінь завантажується у блокчейн

Проте, в одностадійному верифікаційному грі існує одне суттєве обмеження: всі обчислення повинні виконуватися у VM, що не дозволяє повністю використовувати прискорення GPU/TPU. Для цього OPML запропонувала розширену схему багатостадійної верифікаційної гри.

Основна ідея багатоступеневої OPML полягає в тому, що:

• Обчислювати тільки на останньому етапі у VM
• Інші етапи можуть виконуватись у локальному середовищі, повністю використовуючи апаратні ресурси
• Використання дерева Меркла для забезпечення цілісності та безпеки переходів між етапами

В якості прикладу моделі LLaMA, робочий процес двохетапного OPML є:

1. Другий етап: проведення валідаційної гри на обчислювальному графіку, використовуючи багатопоточний ЦП або ГП.
2. Перший етап: перетворення обчислень одного вузла на команди VM

Багатоступеневий OPML має суттєві переваги в порівнянні з одностадійними схемами:

• Прискорення обчислень в α разів ( α для GPU/паралельного прискорення )
• Розмір дерева Меркла зменшився з O(mn) до O(m+n)

Щоб забезпечити узгодженість результатів ML, OPML використовує дві ключові технології:

1. Фіксований алгоритм ( кількісна технологія ): використання фіксованої точності замість плаваючої точки
2. Бібліотека плаваючої коми на основі програмного забезпечення: забезпечення крос-платформної узгодженості

В цілому, OPML пропонує ефективне, недороге та децентралізоване рішення для машинного навчання у блокчейні. Хоча наразі основна увага зосереджена на інференції моделей, ця структура також підтримує процес навчання, що має потенціал стати універсальною платформою для машинного навчання.