OPML: Tối ưu hóa việc áp dụng machine learning trên Blockchain

OPML(Học máy lạc quan) là một công nghệ mới nổi, có thể thực hiện suy diễn và đào tạo mô hình AI trên hệ thống Blockchain. So với ZKML, OPML có lợi thế về chi phí thấp và hiệu quả cao. Đáng chú ý là, rào cản tham gia của OPML rất thấp - ngay cả một PC thông thường cũng có thể chạy các mô hình ngôn ngữ lớn, như mô hình 7B-LLaMA kích thước 26GB.

OPML áp dụng cơ chế trò chơi xác thực để đảm bảo tính phi tập trung và khả năng xác minh của dịch vụ ML. Quy trình làm việc của nó như sau:

1. Người dùng khởi xướng yêu cầu dịch vụ ML
2. Máy chủ hoàn thành nhiệm vụ và gửi kết quả lên chuỗi
3. Các xác thực viên xác minh kết quả, nếu có tranh chấp thì khởi động trò chơi xác minh
4. Xác định chính xác các bước có tranh chấp thông qua giao thức phân đoạn
5. Cuối cùng, thực hiện trọng tài từng bước trên hợp đồng thông minh

Trò chơi xác minh một giai đoạn của OPML tương tự như tính toán ủy quyền (RDoC). Nó bao gồm các điểm chính sau:

• Xây dựng máy ảo thực thi off-chain và trọng tài on-chain (VM)
• Triển khai thư viện DNN nhẹ chuyên dụng để cải thiện hiệu suất
• Sử dụng công nghệ biên dịch chéo để biên dịch mã suy diễn AI thành lệnh VM
• Sử dụng cây Merkle để quản lý hình ảnh VM, chỉ tải lên gốc lên blockchain.

Tuy nhiên, trò chơi xác thực một giai đoạn có một hạn chế chính: tất cả các phép tính phải được thực hiện trong VM, không thể tận dụng tối đa sự tăng tốc của GPU/TPU. Để giải quyết vấn đề này, OPML đã đề xuất một giải pháp mở rộng cho trò chơi xác thực nhiều giai đoạn.

Ý tưởng cốt lõi của OPML đa giai đoạn là:

• Chỉ tính toán trong VM ở giai đoạn cuối
• Các giai đoạn khác có thể được thực hiện trong môi trường địa phương, tận dụng tối đa tài nguyên phần cứng
• Sử dụng cây Merkle để đảm bảo tính toàn vẹn và an toàn trong quá trình chuyển giao giữa các giai đoạn

Lấy mô hình LLaMA làm ví dụ, quy trình làm việc của OPML hai giai đoạn là:

1. Giai đoạn thứ hai: Thực hiện trò chơi xác minh trên đồ thị tính toán, sử dụng CPU hoặc GPU đa luồng
2. Giai đoạn đầu tiên: Chuyển đổi tính toán của nút đơn thành lệnh VM

Nhiều giai đoạn OPML có ưu điểm vượt trội so với phương án đơn giai đoạn:

• Tăng tốc độ tính toán α lần ( α là tỷ lệ gia tốc GPU/ song song )
• Kích thước cây Merkle giảm từ O(mn) xuống O(m+n)

Để đảm bảo tính nhất quán của kết quả ML, OPML đã áp dụng hai công nghệ chính:

1. Thuật toán định điểm ( công nghệ định lượng ): sử dụng độ chính xác cố định thay thế cho số thực
2. Thư viện số thực dựa trên phần mềm: đảm bảo tính nhất quán đa nền tảng

Tổng thể, OPML cung cấp một giải pháp hiệu quả, chi phí thấp và phi tập trung cho học máy trên Blockchain. Mặc dù hiện tại chủ yếu tập trung vào suy luận mô hình, nhưng khung này cũng hỗ trợ quá trình huấn luyện, có khả năng trở thành nền tảng học máy phổ quát.