Modal
Plataforma en la nube sin servidor para ejecutar inferencia de IA, entrenamiento, sandboxes y trabajos por lotes en GPU.
Modal es una plataforma en la nube sin servidor para cargas de trabajo de IA. Se usa escribiendo código Python que la plataforma ejecuta en contenedores con escalado automático en CPU y GPU, para inferencia de modelos, ajuste fino, sandboxes para agentes y trabajos por lotes. Los recursos escalan a cero cuando están inactivos y se facturan por segundo.
Ideal para Equipos de ingeniería que quieren cómputo en GPU bajo demanda para inferencia, entrenamiento o sandboxes de agentes, sin aprovisionar ni gestionar sus propios clústeres.
- Plataformas
- Web, API
- Modelo de precios
- Freemium
- Plan gratuito
- Sí
- API
- Sí
- Desarrollada por
- Modal
- Añadida
Última verificación: . Información obtenida de modal.com.
¿Qué es Modal?
Modal es una plataforma en la nube sin servidor para equipos que construyen, entrenan y sirven aplicaciones de IA. Los desarrolladores escriben Python, y Modal ejecuta el código en contenedores que arrancan en segundos y escalan a cero cuando están inactivos. La plataforma se organiza en torno a unos pocos productos: Inference, para servir modelos de lenguaje, imagen, video y audio; Training, para el ajuste fino y el aprendizaje por refuerzo en GPU de uno o varios nodos; Sandboxes, para ejecutar agentes de programación y código no confiable de forma aislada; y Functions, Notebooks y trabajos por lotes para cómputo general. Por debajo hay un entorno de ejecución de contenedores propio, un sistema de archivos distribuido para pesos de modelos y conjuntos de datos, y una reserva de capacidad procedente de más de veinte nubes en muchas regiones. El uso se mide por segundo para GPU, CPU y memoria. Las funciones para empresas incluyen acceso basado en roles, registros de auditoría, controles de residencia de datos, cumplimiento de SOC 2 Type II y preparación para HIPAA.
Funciones principales
Inferencia de modelos
Sirve LLM y modelos multimedia mediante endpoints, incluidos los compatibles con OpenAI, para tráfico en tiempo real o por lotes.
Sandboxes
Crea entornos aislados para agentes y código no confiable, con instantáneas y restauración para arrancar rápido.
Entrenamiento y ajuste fino
Ejecuta ajustes finos LoRA, supervisados y completos, o trabajos de aprendizaje por refuerzo, en capacidad de GPU de uno o varios nodos.
Funciones con escalado automático
Reparte funciones de Python entre muchos contenedores y las expone como endpoints HTTPS que quedan inactivos a cero.
Almacenamiento para modelos
Ofrece un sistema de archivos distribuido que carga imágenes, pesos y conjuntos de datos allí donde se ejecutan las funciones.
Observabilidad
Muestra registros y métricas por función y por contenedor, con exportación a proveedores de OpenTelemetry.
Capturas de pantalla
Casos de uso
- Servir un LLM abierto
- Un equipo despliega un modelo abierto tras un endpoint que escala con el volumen de peticiones.
- Ejecutar agentes de programación
- Un producto de agentes ejecuta el código generado dentro de sandboxes en lugar de hacerlo en sus propios servidores.
- Transcripción por lotes
- Un equipo de datos procesa en paralelo, en varias GPU, un atraso de archivos de audio.
- Generación de imagen y video
- El backend de una app llama a modelos multimedia alojados en Modal para cada petición del usuario.
- Ajuste fino para investigación
- Los investigadores lanzan ejecuciones de ajuste fino o de aprendizaje por refuerzo sin reservar un clúster por adelantado.
Lo que debes saber
- El tiempo de inactividad puede facturarse
- Por defecto, los contenedores siguen activos 60 segundos después de la última entrada, y ese intervalo se cobra salvo que lo acortes.
- Tamaño mínimo de contenedor
- Cada contenedor solicita al menos 0,125 núcleos de CPU y 128 MiB de memoria, y el cargo sigue a la cantidad mayor entre la solicitada y la usada.
- Los espacios de trabajo Starter admiten tres personas
- El plan Starter permite hasta tres puestos; el plan Team elimina el límite de puestos.
- Existen programas de créditos
- Las startups y los investigadores académicos pueden solicitar créditos de cómputo gratuitos.
Preguntas frecuentes
¿Qué es Modal?
Modal es una plataforma en la nube sin servidor que ejecuta inferencia de IA, entrenamiento, sandboxes y otras cargas de Python de uso intensivo de cómputo en contenedores de CPU y GPU con escalado automático.
¿Para qué se usa Modal?
Modal se usa para servir modelos, ajustarlos, ejecutar agentes de programación en sandboxes y procesar trabajos por lotes sin gestionar servidores ni clústeres.
¿Modal es gratis?
Modal se puede usar sin cuota base en su plan Starter, que incluye una cuota mensual de créditos de cómputo gratuitos; el uso que supere esa cuota se paga según el consumo.
¿Cuánto cuesta Modal?
Modal cobra por segundo la GPU, la CPU y la memoria que usas, sobre los planes Starter, Team o Enterprise. Consulta la página oficial de precios para ver las tarifas actuales.
¿Cómo factura Modal el uso?
Modal factura mientras se carga una aplicación y mientras los contenedores procesan entradas, además de un intervalo de inactividad configurable que por defecto es de 60 segundos. No se cobra nada cuando una app escala a cero contenedores.
¿Qué puedo desplegar en Modal?
Modal afirma que puede ejecutar cualquier aplicación contenerizable escrita con Python, por ejemplo inferencia de aprendizaje automático, entrenamiento, flujos de datos y colas de trabajos.
¿Modal es adecuado para cargas reguladas?
Modal informa del cumplimiento de SOC 2 Type II y se describe como preparado para cargas HIPAA, con registros de auditoría, RBAC y controles de residencia de datos.
¿Puedo usar créditos de AWS o GCP en Modal?
No directamente. Modal indica que no se pueden aplicar créditos de otras nubes, aunque el gasto comprometido puede usarse a través de los marketplaces de AWS y GCP.
Para quién es
- Ingenieros de aprendizaje automático
- Startups de IA
- Equipos de plataforma
- Investigadores
- Desarrolladores de agentes
Aparece en estas guías
- Crear una app con IA: el conjunto de herramientas, capa por capaEtapa 3: API de modelos, pasarelas y alojamiento de inferencia
Cada guía recorre las etapas de un trabajo y las herramientas que ayudan en cada una. Todas las guías
Comentarios
Todavía no hay comentarios. Si has usado Modal, cuéntales a otros lectores cómo te fue.
Alternativas a Modal
| Herramienta | Plan gratuito | Precio inicial | API |
|---|---|---|---|
| — | — | Sí | |
| Sí | — | Sí | |
| No | 25 $/mes | Sí | |
| Sí | — | Sí | |
| Sí | — | Sí |
Herramientas de las mismas categorías que Modal. El precio inicial solo aparece si lo comprobamos en la página de precios del desarrollador; un guion significa que no se comprobó o no está publicado. Todas las herramientas de la categoría DevOps y monitorización