Unsloth

Was ist Unsloth?

Unsloth ist ein Open-Source-Projekt, dessen Desktop-App Unsloth Desktop offene KI-Modelle auf lokaler Hardware ausführt und trainiert. Die App ist kostenlos und hat Installer für Mac (Apple Silicon und Intel), Windows 10 oder höher und Linux, das mit Ubuntu kompatibel ist. Ein eingebauter Hub für Modelle hilft, eine für das Gerät passende Quantisierung zu finden und herunterzuladen; danach kannst du mit einem Modell chatten, es feinabstimmen oder über Workflows ohne Code Medien erzeugen. Unterstützt werden Bildmodelle wie FLUX und Qwen-Image und Videomodelle wie Wan und LTX, dazu lokale Bearbeitungen wie Inpainting und Upscaling. Coding-Agenten wie Claude Code und Codex lassen sich mit dem Befehl unsloth start auf lokale Modelle richten, und eine OpenAI-kompatible API bedient vorhandene Skripte und SDKs. Weitere Funktionen sind die private Websuche mit einem Modus Deep Research, die Ausführung von Bash und Python in einer Sandbox und der Fernzugriff über einen Cloudflare-Tunnel.

Wichtigste Funktionen

So funktioniert Unsloth

1. Unsloth starten und ein Modell laden

   Öffne die Desktop-App und wähle ein Modell aus dem Hub.

2. Den Projektordner öffnen

   Wechsle in das Verzeichnis, in dem der Coding-Agent arbeiten soll.

3. Den Startbefehl ausführen

   Starte den Agenten mit unsloth start claude; Modelle lassen sich später austauschen, ohne die Einrichtung des Agenten zu ändern.

Screenshots

Tutorials zu Modellen

Anwendungsfälle

Privater Chat mit einem lokalen Modell

Behalte Prompts und Dokumente auf deinem eigenen Computer.

Ein offenes Modell feinabstimmen

Trainiere ein Modell mit deinen Daten, ohne ein Skript für das Training zu schreiben.

Coding-Agenten auf der eigenen GPU

Führe einen Coding-Agenten mit einem lokal gehosteten Modell in einem Projektordner aus.

Bilder offline erzeugen

Erzeuge und retuschiere Bilder ohne einen Cloud-Dienst.

Einen Lauf aus der Ferne prüfen

Öffne einen Tunnel und sieh dir den Fortschritt auf einem Smartphone oder einem anderen Laptop an.

Gut zu wissen

Die Verarbeitung ist lokal

Modelle laufen auf der eigenen Hardware der Nutzer, deshalb hängt die Leistung vom Gerät und von der gewählten Quantisierung ab.

Systemanforderungen

Die Installer sind eine .dmg für Mac, eine .exe für Windows 10 oder neuer und eine .deb für Systeme, die mit Ubuntu kompatibel sind.

Fernzugriff läuft über einen Tunnel

Ein lokales Modell oder ein Modell in Colab für andere Geräte bereitzustellen, geht über einen kostenlosen Cloudflare-Tunnel per HTTPS.

Häufige Fragen

Für wen es sich eignet

• Entwickler
• ML-Ingenieure
• Forschende
• KI-Hobbyisten
• Nutzer, denen Datenschutz wichtig ist

Schlagwörterlocal AIfine-tuningopen sourcemodel hubOpenAI-compatible APIdesktop app

In diesen Guides im Einsatz

• Eine KI-App bauen: der Tool-Stack, Schicht für SchichtPhase 1: Ein Modell wählen

Jeder Guide nennt die Phasen eines Vorhabens und die Tools, die in der jeweiligen Phase helfen. Alle Guides

Alternativen zu Unsloth

Tool	Kostenloser Tarif	Einstiegspreis	API
TinfoilPrivate KI-Cloud, die Modelle in gesicherten Hardware-Enklaven ausführt, als Chat-App, Inferenz-API und Container.	—	—	Ja
APIParkEinheitliches Gateway zum Aufrufen, Authentifizieren, Abrechnen und Überwachen von KI-Modellen, APIs und MCP-Diensten.	—	—	Ja
DeepSeekKI-Forschungsunternehmen mit Chat-Assistent, Desktop-Harness und einer nach Tokens abgerechneten API für seine Sprachmodelle.	—	—	Ja
AirbyteOpen-Source-Plattform für Datenbewegung, die Daten aus über 700 Quellen repliziert und für Analysen und KI-Agenten bereitstellt.	—	—	Ja
CVATPlattform zur Datenannotation, um Bilder, Videos, 3D-Punktwolken und Audio zu labeln, als Cloud-Dienst, selbst gehostet und als Open Source.	Ja	—	Ja

Aus denselben Kategorien wie Unsloth. Ein Einstiegspreis steht nur dort, wo wir ihn auf der Preisseite des Anbieters geprüft haben. Ein Strich bedeutet: nicht geprüft oder nicht veröffentlicht. Alle Tools in Sprachmodelle und Prompts