Modal
Plateforme cloud serverless pour exécuter sur GPU de l’inférence d’IA, de l’entraînement, des sandboxes et des traitements par lots.
Modal est une plateforme cloud serverless pour les charges de travail d’IA. Modal s’utilise en écrivant du code Python que la plateforme exécute dans des conteneurs à mise à l’échelle automatique sur CPU et GPU, pour l’inférence de modèles, le fine-tuning, les sandboxes d’agents et les traitements par lots. Les ressources redescendent à zéro à l’inactivité et sont facturées à la seconde.
Idéal pour Les équipes d’ingénierie qui veulent de la puissance GPU à la demande pour l’inférence, l’entraînement ou les sandboxes d’agents, sans provisionner ni gérer leurs propres clusters.
- Plateformes
- Web, API
- Modèle tarifaire
- Freemium
- Formule gratuite
- Oui
- API
- Oui
- Éditeur
- Modal
- Ajouté le
Dernière vérification : . Informations issues de modal.com.
Qu’est-ce que Modal ?
Modal est une plateforme cloud serverless pour les équipes qui construisent, entraînent et servent des applications d’IA. Les développeurs écrivent du Python, et Modal exécute le code dans des conteneurs qui démarrent en quelques secondes et redescendent à zéro à l’inactivité. La plateforme s’organise autour de quelques produits : Inference pour servir des modèles de langage, d’image, de vidéo et d’audio ; Training pour le fine-tuning et l’apprentissage par renforcement sur GPU à un ou plusieurs nœuds ; Sandboxes pour exécuter en isolation des agents de code et du code non fiable ; et Functions, Notebooks et traitements par lots pour le calcul général. En dessous se trouvent un environnement d’exécution de conteneurs sur mesure, un système de fichiers distribué pour les poids de modèles et les jeux de données, et un parc de capacité tiré de plus de vingt clouds dans de nombreuses régions. L’usage est mesuré à la seconde pour le GPU, le CPU et la mémoire. Les fonctionnalités entreprise comprennent l’accès par rôles, les journaux d’audit, les contrôles de localisation des données, la conformité SOC 2 Type II et la préparation à HIPAA.
Fonctionnalités clés
Inférence de modèles
Sert des LLM et des modèles multimédias via des endpoints, dont des endpoints compatibles OpenAI, pour un trafic en temps réel ou par lots.
Sandboxes
Crée des environnements isolés pour les agents et le code non fiable, avec instantanés et restauration pour des démarrages rapides.
Entraînement et fine-tuning
Exécute des fine-tunings LoRA, supervisés ou complets, ou des tâches d’apprentissage par renforcement, sur de la capacité GPU à un ou plusieurs nœuds.
Fonctions à mise à l’échelle automatique
Répartit des fonctions Python sur de nombreux conteneurs et les expose comme endpoints HTTPS qui restent à zéro à l’inactivité.
Stockage pour les modèles
Fournit un système de fichiers distribué qui charge images, poids et jeux de données là où les fonctions s’exécutent.
Observabilité
Affiche les journaux et les métriques par fonction et par conteneur, avec export vers des fournisseurs OpenTelemetry.
Captures d’écran
Cas d’usage
- Servir un LLM ouvert
- Une équipe déploie un modèle ouvert derrière un endpoint qui s’adapte au volume de requêtes.
- Exécuter des agents de code
- Un produit d’agents exécute le code généré dans des sandboxes plutôt que sur ses propres serveurs.
- Transcription par lots
- Une équipe data traite un arriéré de fichiers audio en parallèle sur plusieurs GPU.
- Génération d’images et de vidéos
- Le back-end d’une application appelle, pour chaque requête d’utilisateur, des modèles multimédias hébergés sur Modal.
- Fine-tuning pour la recherche
- Des chercheurs lancent des fine-tunings ou des exécutions d’apprentissage par renforcement sans réserver de cluster à l’avance.
À savoir
- Le temps d’inactivité peut être facturé
- Par défaut, les conteneurs restent actifs 60 secondes après la dernière entrée, et cette fenêtre est facturée tant que vous ne la raccourcissez pas.
- Taille minimale des conteneurs
- Chaque conteneur demande au moins 0,125 cœur de CPU et 128 Mio de mémoire, et la facturation suit la valeur la plus élevée, demandée ou utilisée.
- Les espaces de travail Starter accueillent trois personnes
- La formule Starter autorise jusqu’à trois postes ; la formule Team supprime la limite de postes.
- Des programmes de crédits existent
- Les startups et les chercheurs universitaires peuvent demander des crédits de calcul gratuits.
Questions fréquentes
Qu’est-ce que Modal ?
Modal est une plateforme cloud serverless qui exécute de l’inférence d’IA, de l’entraînement, des sandboxes et d’autres charges Python gourmandes en calcul sur des conteneurs CPU et GPU à mise à l’échelle automatique.
À quoi sert Modal ?
Modal sert à servir des modèles, à les fine-tuner, à exécuter des agents de code dans des sandboxes et à traiter des tâches par lots sans gérer de serveurs ni de clusters.
Modal est-il gratuit ?
Modal s’utilise sans frais de base avec sa formule Starter, qui inclut un quota mensuel de crédits de calcul gratuits ; au-delà, l’usage est facturé à la consommation.
Combien coûte Modal ?
Modal facture à la seconde le GPU, le CPU et la mémoire utilisés, en plus des formules Starter, Team ou Enterprise. Consultez la page officielle des tarifs pour les montants en vigueur.
Comment Modal facture-t-il l’usage ?
Modal facture pendant le chargement d’une application et pendant que les conteneurs traitent des entrées, plus une fenêtre d’inactivité configurable de 60 secondes par défaut. Rien n’est facturé quand une application redescend à zéro conteneur.
Que peut-on déployer sur Modal ?
Modal indique pouvoir exécuter toute application conteneurisable écrite en Python, par exemple de l’inférence de machine learning, de l’entraînement, des pipelines de données et des files de tâches.
Modal convient-il aux charges de travail réglementées ?
Modal affirme être conforme à SOC 2 Type II et se dit prêt pour les charges de travail HIPAA, avec journaux d’audit, RBAC et contrôles de localisation des données.
Peut-on utiliser des crédits AWS ou GCP sur Modal ?
Pas directement. Modal indique que les crédits cloud ne peuvent pas être appliqués, mais que des engagements de dépenses peuvent être utilisés via les places de marché d’AWS et de GCP.
Pour qui
- Ingénieurs en machine learning
- Startups d’IA
- Équipes plateforme
- Chercheurs
- Développeurs d’agents
Commentaires
Aucun commentaire pour l’instant. Vous avez utilisé Modal ? Racontez aux autres lecteurs comment cela s’est passé.
Alternatives à Modal
| Outil | Formule gratuite | Prix de départ | API |
|---|---|---|---|
 LangChainFrameworks open source pour agents et plateforme LangSmith pour tracer, évaluer et déployer des agents d’IA. |
Oui | — | Oui |
 VercelPlateforme cloud pour déployer des applications web et des agents d’IA, avec passerelle d’IA, sandboxes, workflows et CDN mondial. |
Oui | 20 $/mois | Oui |
 AtomPlace de marché de domaines et registraire, avec des outils d’IA pour générer, tester et mettre en concurrence des noms d’entreprise. |
— | — | Oui |
 BannerbearAPI qui génère automatiquement images, PDF, animations et vidéos à partir de modèles de design réutilisables. |
— | 49 $/mois | Oui |
 BigjpgAgrandisseur d’images par IA qui agrandit illustrations et photos jusqu’à 16× tout en réduisant le bruit et les contours crénelés. |
Oui | 6 $ | Oui |
Dans les mêmes catégories que Modal. Un prix de départ n’apparaît que si nous l’avons vérifié sur la page des tarifs de l’éditeur ; un tiret signifie qu’il n’a pas été vérifié ou n’est pas publié. Tous les outils : DevOps et supervision