# Modal

> Piattaforma cloud serverless per eseguire su GPU inferenza, addestramento, sandbox e job batch di IA.

Modal è una piattaforma cloud serverless per carichi di lavoro di IA. Si usa scrivendo codice Python che la piattaforma esegue in container con scalabilità automatica su CPU e GPU, per inferenza dei modelli, fine-tuning, sandbox per agenti e job batch. Le risorse scalano a zero quando sono inattive e si pagano al secondo.

**Best for:** Team di ingegneria che vogliono potenza di calcolo GPU on demand per inferenza, addestramento o sandbox per agenti, senza dover allestire o gestire cluster propri.

- Official site: https://modal.com
- Listed in: [DevOps e monitoraggio](https://trendhub.net/it/ai-tools/category/devops-monitoring), [API per sviluppatori](https://trendhub.net/it/ai-tools/category/developer-api)
- Last checked: 2026-10-09 (facts taken from modal.com)
- Source page: https://trendhub.net/it/ai-tools/modal-serverless-gpu-cloud-ai-workloads

## Key facts

- Platforms: Web, API
- Pricing model: Freemium
- Free plan: Yes
- API: Yes
- Made by: Modal

## Che cos’è Modal?

Modal è una piattaforma cloud serverless per i team che sviluppano, addestrano e rendono disponibili applicazioni di IA. Gli sviluppatori scrivono Python e Modal esegue il codice in container che si avviano in pochi secondi e scalano a zero quando sono inattivi. La piattaforma è organizzata attorno ad alcuni prodotti: Inference per servire modelli di linguaggio, immagini, video e audio; Training per il fine-tuning e l’apprendimento per rinforzo su GPU singole o multinodo; Sandboxes per eseguire in isolamento agenti di programmazione e codice non fidato; e Functions, Notebooks e job batch per il calcolo generico. Alla base ci sono un runtime di container personalizzato, un filesystem distribuito per pesi dei modelli e dataset e un pool di capacità ricavato da più di venti cloud in molte regioni. L’utilizzo è misurato al secondo per GPU, CPU e memoria. Le funzioni enterprise comprendono accesso basato sui ruoli, registri di audit, controlli sulla residenza dei dati, conformità SOC 2 Type II e predisposizione per HIPAA.

## Key features

- **Inferenza dei modelli**: Rende disponibili LLM e modelli multimediali tramite endpoint, anche compatibili con OpenAI, per traffico in tempo reale o batch.
- **Sandboxes**: Crea ambienti isolati per agenti e codice non fidato, con snapshot e ripristino per avvii rapidi.
- **Addestramento e fine-tuning**: Esegue fine-tuning LoRA, supervisionati e completi o job di RL su capacità GPU singola o multinodo.
- **Funzioni con scalabilità automatica**: Distribuisce le funzioni Python su molti container e le espone come endpoint HTTPS che restano a zero quando sono inattivi.
- **Archiviazione per i modelli**: Fornisce un filesystem distribuito che carica immagini, pesi e dataset ovunque girino le funzioni.
- **Osservabilità**: Mostra log e metriche per funzione e per container, con esportazione verso i provider OpenTelemetry.

## Use cases

- **Servire un LLM aperto**: Un team distribuisce un modello aperto dietro un endpoint che scala con il volume delle richieste.
- **Eseguire agenti di programmazione**: Un prodotto basato su agenti esegue il codice generato dentro le sandbox invece che sui propri server.
- **Trascrizione batch**: Un team di dati elabora in parallelo su più GPU un arretrato di file audio.
- **Generazione di immagini e video**: Il backend di un’app chiama per ogni richiesta dell’utente i modelli multimediali ospitati su Modal.
- **Fine-tuning per la ricerca**: I ricercatori avviano sessioni di fine-tuning o RL senza prenotare un cluster in anticipo.

## Things to know

- **Il tempo di inattività può essere fatturato**: Per impostazione predefinita i container restano attivi per 60 secondi dopo l’ultimo input, e quell’intervallo viene addebitato a meno che tu non lo riduca.
- **Dimensione minima del container**: Ogni container richiede almeno 0,125 core CPU e 128 MiB di memoria, e l’addebito segue il valore più alto tra quello richiesto e quello usato.
- **Gli spazi di lavoro Starter ospitano tre persone**: Il piano Starter consente fino a tre postazioni; il piano Team elimina il limite di postazioni.
- **Esistono programmi di crediti**: Startup e ricercatori accademici possono richiedere crediti di calcolo gratuiti.

## FAQs

### Che cos’è Modal?

Modal è una piattaforma cloud serverless che esegue inferenza, addestramento, sandbox e altri carichi di lavoro Python pesanti per il calcolo su container CPU e GPU a scalabilità automatica.

### A cosa serve Modal?

Modal serve per rendere disponibili modelli, fare il fine-tuning, eseguire agenti di programmazione in sandbox ed elaborare job batch senza gestire server o cluster.

### Modal è gratis?

Modal si può usare senza canone di base con il piano Starter, che include una quota mensile di crediti di calcolo gratuiti; oltre quella quota si paga a consumo.

### Quanto costa Modal?

Modal addebita al secondo la GPU, la CPU e la memoria che usi, in aggiunta ai piani Starter, Team o Enterprise. Per le tariffe aggiornate consulta la pagina dei prezzi ufficiale.

### Come fattura l’utilizzo Modal?

Modal fattura mentre un’applicazione si carica e mentre i container elaborano gli input, più un intervallo di inattività configurabile che per impostazione predefinita dura 60 secondi. Non si paga nulla quando un’app scala a zero container.

### Che cosa posso distribuire su Modal?

Modal dichiara di poter eseguire qualsiasi applicazione containerizzabile scritta con Python, per esempio inferenza ML, addestramento, pipeline di dati e code di job.

### Modal è adatto a carichi di lavoro regolamentati?

Modal dichiara la conformità SOC 2 Type II e si presenta come pronto per i carichi di lavoro HIPAA, con registri di audit, RBAC e controlli sulla residenza dei dati.

### Posso usare su Modal i crediti AWS o GCP?

Non direttamente. Modal precisa che i crediti cloud non si possono applicare, ma la spesa impegnata può essere usata tramite i marketplace di AWS e GCP.

---

Source: https://trendhub.net/it/ai-tools/modal-serverless-gpu-cloud-ai-workloads (trendhub)
