OPML : Optimisation de l'apprentissage automatique dans les applications Blockchain
OPML(L'apprentissage automatique optimiste) est une technologie émergente qui permet d'effectuer l'inférence et l'entraînement de modèles d'IA sur des systèmes Blockchain. Par rapport à ZKML, OPML présente des avantages de coût et d'efficacité. Il convient de noter que le seuil de participation à OPML est très bas - même un PC ordinaire peut exécuter de grands modèles de langage, tels que le modèle 7B-LLaMA de 26 Go.
OPML utilise un mécanisme de jeu de validation pour garantir la décentralisation et la vérifiabilité des services ML. Son flux de travail est le suivant :
L'utilisateur initie une demande de service ML
Le serveur termine la tâche et soumet le résultat sur la Blockchain
Les validateurs vérifient les résultats, et s'il y a des objections, ils lancent un jeu de vérification.
Localiser précisément les étapes contestées par le protocole de bifurcation
Enfin, effectuez un arbitrage étape par étape sur le contrat intelligent.
Le jeu de vérification à une seule étape d'OPML est similaire au calcul de la délégation (RDoC). Il comprend les points clés suivants :
Construire une machine virtuelle d'exécution off-chain et d'arbitrage on-chain (VM)
Mettre en œuvre une bibliothèque DNN légère spécialisée pour améliorer l'efficacité
Utiliser la technique de compilation croisée pour compiler le code d'inférence AI en instructions VM
Utiliser un arbre de Merkle pour gérer les images VM, en ne téléchargeant que la racine sur la Blockchain.
Cependant, les jeux de validation à phase unique présentent une limitation majeure : tous les calculs doivent être effectués dans la VM, ce qui ne permet pas de tirer pleinement parti de l'accélération GPU/TPU. Pour cela, OPML a proposé un schéma d'extension pour les jeux de validation à plusieurs phases.
La pensée centrale de l'OPML multistade est :
Ne calculer que dans la VM à la dernière étape
D'autres étapes peuvent être exécutées dans un environnement local, en tirant pleinement parti des ressources matérielles.
Utiliser l'arbre de Merkle pour garantir l'intégrité et la sécurité des transitions entre les étapes
Prenons le modèle LLaMA comme exemple, le flux de travail de l'OPML en deux phases est :
Deuxième étape : effectuer un jeu de validation sur le graphique de calcul, en utilisant un CPU ou un GPU multithread.
Première étape : convertir le calcul d'un seul nœud en instructions VM
Les solutions OPML multi-étapes présentent des avantages significatifs par rapport aux solutions à une étape :
Vitesse de calcul augmentée de α fois ( α pour le ratio d'accélération GPU/parallèle )
La taille de l'arbre Merkle passe de O(mn) à O(m+n)
Pour assurer la cohérence des résultats de ML, OPML a adopté deux technologies clés :
Algorithme à point fixe ( technologie de quantification ) : utiliser une précision fixe au lieu des nombres à virgule flottante
Bibliothèque de flottants basée sur le logiciel : assurer la cohérence multiplateforme
Dans l'ensemble, OPML offre une solution efficace, peu coûteuse et décentralisée pour l'apprentissage automatique sur la Blockchain. Bien qu'il soit actuellement principalement axé sur l'inférence de modèles, ce cadre prend également en charge le processus d'entraînement, et pourrait devenir une plateforme d'apprentissage automatique universelle.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
14 J'aime
Récompense
14
4
Partager
Commentaire
0/400
BlockchainFries
· Il y a 19h
Le rapport qualité-prix est la véritable réalité.
Voir l'originalRépondre0
Blockwatcher9000
· Il y a 19h
Coût si bas, quand cela pourra-t-il être mis en œuvre ?
Voir l'originalRépondre0
RugPullAlertBot
· Il y a 19h
Basse barrière, ça veut dire quoi ? Si ça échoue, on fait un Rug Pull.
Voir l'originalRépondre0
HashBrownies
· Il y a 19h
Un PC ordinaire peut vraiment faire fonctionner Llama ?
OPML : nouvelle solution d'apprentissage automatique efficace et à faible coût sur la Blockchain
OPML : Optimisation de l'apprentissage automatique dans les applications Blockchain
OPML(L'apprentissage automatique optimiste) est une technologie émergente qui permet d'effectuer l'inférence et l'entraînement de modèles d'IA sur des systèmes Blockchain. Par rapport à ZKML, OPML présente des avantages de coût et d'efficacité. Il convient de noter que le seuil de participation à OPML est très bas - même un PC ordinaire peut exécuter de grands modèles de langage, tels que le modèle 7B-LLaMA de 26 Go.
OPML utilise un mécanisme de jeu de validation pour garantir la décentralisation et la vérifiabilité des services ML. Son flux de travail est le suivant :
Le jeu de vérification à une seule étape d'OPML est similaire au calcul de la délégation (RDoC). Il comprend les points clés suivants :
Cependant, les jeux de validation à phase unique présentent une limitation majeure : tous les calculs doivent être effectués dans la VM, ce qui ne permet pas de tirer pleinement parti de l'accélération GPU/TPU. Pour cela, OPML a proposé un schéma d'extension pour les jeux de validation à plusieurs phases.
La pensée centrale de l'OPML multistade est :
Prenons le modèle LLaMA comme exemple, le flux de travail de l'OPML en deux phases est :
Les solutions OPML multi-étapes présentent des avantages significatifs par rapport aux solutions à une étape :
Pour assurer la cohérence des résultats de ML, OPML a adopté deux technologies clés :
Dans l'ensemble, OPML offre une solution efficace, peu coûteuse et décentralisée pour l'apprentissage automatique sur la Blockchain. Bien qu'il soit actuellement principalement axé sur l'inférence de modèles, ce cadre prend également en charge le processus d'entraînement, et pourrait devenir une plateforme d'apprentissage automatique universelle.