Imaginez io.net comme un magicien du cloud informatique, mais sans la cape scintillante. Il s’agit en fait d’un réseau informatique décentralisé qui donne aux ingénieurs en machine learning le superpouvoir d’accéder à des grappes (réseaux) de cloud distribuées, et tout ça sans avoir à vendre un rein pour payer.
Le projet tourne sur la blockchain Solana. D’ailleurs tout a vraiment commencé lors du Solana Hackathon de février 2023 et à la Solana Austin Hacker House.
Que propose IO.net ?
Dans le monde complexe des modèles d’apprentissage automatique (LLM & co), les machines modernes aiment faire la fête en groupe, genre une sorte de Woodstock du calcul parallèle et distribué. On parle de plusieurs milliers de cœurs sur plusieurs systèmes d’exploitation différents (Windows, Linux, macOS …) qui travaillent ensemble pour optimiser la performance ou gérer des ensembles de données et des modèles plus gros.
Le hic, c’est que dans le royaume des services cloud comme AWS ou Azure, obtenir l’accès à des ressources informatiques distribuées, surtout des GPU, c’est un peu comme essayer de trouver une aiguille dans une botte de foin. C’est long, limité, et ça peut coûter un bras et une jambe.
Et pour parler de prix, le projet annonce quelque chose comme 1.6$ de l’heure, soit 2 ou 3 fois moins cher qu’Amazon ou Google Cloud. A titre d’exemple, si vous voulez un exemple concret et pour un prix similaire de 1$, le projet serait capable de générer plus de 28 000 images sur Stable Diffusion … alors qu’AWS n’en génère que 1000.
IO.net débarque comme le sauveur du jour en rassemblant des GPU qui sont planquées dans des centres de données indépendants, chez des mineurs de cryptos, et même dans des projets crypto cool comme Filecoin et Render Token. Tout ça, est regroupé dans ce qu’ils appellent un Réseau d’Infrastructure Physique Décentralisée (DePIN). C’est un peu comme un buffet à volonté de puissance de calcul : accessible, personnalisable, économique, et super simple à utiliser ou à mettre en place (en quelques clics).
La puissance GPU au service de l’IA
Avec io.net, les équipes peuvent faire grandir leurs projets en utilisant tout ce pouvoir de calcul sans se prendre la tête. Le système gère tout, de la coordination à l’organisation, de la tolérance aux pannes à la mise à l’échelle. Il prend en charge toutes sortes de tâches, du prétraitement à l’entraînement distribué, en passant par l’ajustement d’hyperparamètres, l’apprentissage par renforcement, etc. Bref, c’est un peu comme le couteau suisse de l’apprentissage automatique.
IO.net a été conçu pour faire quatre choses :
1. Inférence de Batch et Service de Modèles : C’est comme servir des plats de données par lots, mais en parallèle. IO.net permet aux équipes de construire des flux de travail d’inférence et de service de modèles sur un réseau distribué de GPU.
2. Entraînement Parallèle : Les limitations de mémoire et le traitement séquentiel sont des freins majeurs pour entraîner des modèles sur une seule machine. IO.net utilise des bibliothèques de calcul distribué pour orchestrer et entraîner en lots des travaux qui peuvent être parallélisés sur de nombreux dispositifs distribués.
3. Ajustement Parallèle d’Hyperparamètres : Les expériences de réglages d’hyperparamètres sont naturellement parallèles, et io.net les rend plus efficaces en optimisant l’organisation et en spécifiant des modèles de recherche simplement.
4. Apprentissage par Renforcement : io.net utilise une bibliothèque open source pour l’apprentissage par renforcement. Ce qui permet de gérer des charges de travail RL hautement distribuées aux côtés d’un ensemble d’API.
Conclusion
Le plus beau dans tout cela ? C’est que le produit est déjà fonctionnel et peut s’installer sur Windows, macOS, HiveOS ou Ubuntu (Linux). Le token $IO sera lancé au second trimestre de cette année. Il servira de pièce centrale de l’écosystème, pour faire tourner son GPU, acheter des crédits, le staking, etc.
Il s’agit donc d’un projet en phase de construction, encore tôt dans le processus. Mais il combine plusieurs narratifs qui devraient très bien fonctionner cette année : écosystème Solana + AI + GPU + DePIN. En tous cas un fort potentiel, je dois encore creuser pas mal le sujet, mais voilà déjà pour une introduction 😉
