OPML: Оптимизация машинного обучения в Блокчейне

OPML(Оптимистическое машинное обучение) - это новая технология, которая позволяет выполнять выводы и обучение AI моделей в блокчейн системах. В отличие от ZKML, OPML имеет преимущества в низкой стоимости и высокой эффективности. Стоит отметить, что порог участия в OPML очень низок - даже обычный ПК может запускать большие языковые модели, такие как модель 7B-LLaMA размером 26 ГБ.

! OPML: Машинное обучение с оптимистичным свертыванием

OPML использует механизм верификации игр для обеспечения децентрализованности и верифицируемости ML-сервисов. Его рабочий процесс следующий:

1. Пользователь инициирует запрос на услуги ML
2. Сервер завершает задание и отправляет результат в блокчейн
3. Валидатор проверяет результаты, в случае разногласий запускается игра проверки
4. Точное определение спорных шагов с помощью двоичного протокола
5. В конце провести поэтапный арбитраж на смарт-контракте

! OPML: Машинное обучение с оптимистичной системой свертывания

Игра с одноэтапной проверкой OPML аналогична вычислительной делегации (RDoC). Она включает в себя следующие ключевые моменты:

• Построение виртуальной машины для выполнения вне блокчейна и арбитража в блокчейне (VM)
• Реализовать специализированную легковесную библиотеку DNN для повышения эффективности
• Используйте технологию кросс-компиляции для компиляции кода вывода ИИ в инструкции VM
• Использование дерева Меркла для управления образами VM, только корень загружается в блокчейн

Однако у одностадийной проверки игр есть одно главное ограничение: все вычисления должны выполняться внутри VM, и не могут в полной мере использовать ускорение GPU/TPU. Для этого OPML предложила расширение для многосетевой проверки игр.

Основная идея многослойного OPML заключается в том, что:

• Только на последнем этапе вычисления в VM
• Другие этапы могут выполняться в локальной среде, чтобы в полной мере использовать аппаратные ресурсы
• Использование дерева Меркла для обеспечения целостности и безопасности перехода между этапами

На примере модели LLaMA рабочий процесс двухфазного OPML следующий:

1. Второй этап: верификация игры на графе вычислений с использованием многоядерного ЦПУ или ГПУ
2. Первый этап: преобразование вычислений одного узла в инструкции VM

! OPML: Машинное обучение с оптимистичным свертыванием

Многоступенчатый OPML имеет значительные преимущества по сравнению с одноступенчатым решением:

• Увеличение скорости вычислений в α раз ( α для GPU/параллельного ускорения )
• Размер дерева Меркла уменьшился с O(mn) до O(m+n)

Чтобы обеспечить согласованность результатов ML, OPML использует две ключевые технологии:

1. Фиксированный алгоритм ( количественной техники ): использование фиксированной точности вместо плавающей запятой
2. Библиотека плавающей запятой на основе программного обеспечения: обеспечить согласованность между платформами

! OPML: Машинное обучение с оптимистичной системой свертывания

В общем, OPML предлагает эффективное, низкозатратное и децентрализованное решение для машинного обучения в блокчейне. Хотя в настоящее время основное внимание уделяется выводу моделей, этот фреймворк также поддерживает процесс обучения и имеет потенциал стать универсальной платформой для машинного обучения.