OPML:ブロックチェーン上の機械学習の最適化

OPML(楽観的機械学習)は、新興技術であり、ブロックチェーンシステム上でAIモデルの推論とトレーニングを行うことができます。ZKMLと比較して、OPMLはコストが低く、効率が高いという利点があります。特筆すべきは、OPMLの参加のハードルが非常に低いことであり、通常のPCでも26GBのサイズの7B-LLaMAモデルのような大規模言語モデルを実行できる点です。

! OPML:楽観的ロールアップによる機械学習

OPMLは、MLサービスの非中央集権性と検証可能性を確保するために、検証ゲームメカニズムを採用しています。そのワークフローは次のとおりです:

1. ユーザーがMLサービスリクエストを開始します
2. サーバーはタスクを完了し、結果をオンチェーンに提出します。
3. バリデーターは結果を検証し、異議がある場合は検証ゲームを開始します。
4. 二分協定による論争のあるステップの正確な特定
5. 最後にスマートコントラクト上でステップごとの仲裁を行います

! OPML:楽観的ロールアップシステムによる機械学習

OPMLの単段階検証ゲームは、計算委任(RDoC)に似ています。以下の重要なポイントが含まれています:

• オンチェーン仲裁のためのオフチェーン実行を構築する(VM)
• 効率を向上させるために特化した軽量DNNライブラリを実現
• クロスコンパイル技術を使用してAI推論コードをVM命令にコンパイルする
• メルクルツリーを使用してVMイメージを管理し、ルートのみをオンチェーンにアップロードします。

しかし、単一段階の検証ゲームには主な制限があります:すべての計算はVM内で実行され、GPU/TPUアクセラレーションを十分に活用できません。そのため、OPMLは多段階の検証ゲームの拡張ソリューションを提案しました。

! OPML:楽観的ロールアップによる機械学習

マルチステージOPMLの主な考え方は次のとおりです。

• 最後の段階でVM内で計算するのみ
• 他の段階はローカル環境で実行でき、ハードウェアリソースを十分に活用します
• メルクルツリーを使用して、フェーズ間の移行の完全性と安全性を確保します。

LLaMAモデルを例にとると、二段階OPMLの作業フローは次のとおりです:

1. 第2段階:計算グラフ上で検証ゲームを行い、マルチスレッドCPUまたはGPUを利用する
2. フェーズ 1: 1 つのノードを VM 命令に変換する

! OPML:楽観的ロールアップによる機械学習

多段階OPMLは単一段階のソリューションに比べて顕著な利点があります:

• GPU/並列アクセラレーション比(α ) α倍高速な計算速度
• メルクルツリーのサイズはO(mn)からO(m+n)に減少しました

ML結果の一貫性を確保するために、OPMLは2つの重要な技術を採用しました:

1. 定点アルゴリズム(量子技術): 固定精度を浮動小数点の代わりに使用する
2. ソフトウェアベースの浮動小数点ライブラリ: クロスプラットフォームの一貫性を確保する

! OPML:楽観的ロールアップシステムによる機械学習

全体的に言えば、OPMLはブロックチェーン上の機械学習に対して効率的で低コストかつ分散型のソリューションを提供します。現在は主にモデル推論に焦点を当てていますが、このフレームワークはトレーニングプロセスもサポートしており、汎用の機械学習プラットフォームになることが期待されています。