Aber welches Modell passt zu deinem Zweck?
Die Kandidaten im Schnellcheck:
Gemma 3 (Google)
- Der solide Allrounder mit Google-Genen
- Ideal für Chat, Texte, Zusammenfassungen
- Ab 4B auch mit Bildverständnis
- Extrem langer Kontext (bis 128.000 Tokens!)
- Läuft effizient quantisiert – sogar große Modelle
- Große Varianten brauchen viel RAM/GPU
- Lizenz: offen & kommerziell nutzbar
DeepSeek R1 (China)
- Ursprungsmodell gigantisch, aber kleinere Varianten (z. B. 7B–14B) laufen top
- Entwickelt fürs Denken: Chain-of-Thought, Mathe, Code
- Erstaunlich präzise und nachvollziehbar
- Originalmodell zu groß – am besten Distillate nutzen
- Lizenz: komplett offen (MIT)
Qwen 3 (Alibaba)
Der sprachbegabte Alleskönner
- Von 0.5B bis 32B – flexibel und schnell
- Unterstützt über 100 Sprachen
- Sehr gut bei Coding, Chat und Q&A
- MoE-Technik erlaubt große Modelle mit kleinem Fußabdruck
- MoE braucht spezielle Laufzeittools (z. B. vLLM)
- Lizenz: Apache 2.0 – also frei einsetzbar
Für wen lohnt sich was?
Wenn du hauptsächlich chatten, Texte schreiben oder auch mal ein Bild analysieren willst, ist Gemma 3 eine starke Wahl. Es punktet mit sehr langen Kontexten und stabiler Google-Qualität, allerdings brauchen die größeren Varianten auch entsprechend viel Rechenpower.
Suchst du eine KI, die besonders gut logisch denkt, Mathe versteht und Code schreiben kann, dann ist DeepSeek R1 für dich interessant. Es wurde speziell fürs präzise Schlussfolgern und Programmieren entwickelt. Die großen Modelle sind zwar riesig, aber es gibt kleinere, optimierte Varianten (sogenannte Distillate), die auch lokal gut laufen.
Willst du möglichst flexibel arbeiten, zum Beispiel in mehreren Sprachen, beim Programmieren oder beim klassischen Chat, dann ist Qwen 3 eine echte Allzweckwaffe. Dank seiner speziellen Architektur (MoE) bietet es starke Leistung bei relativ geringem Ressourcenverbrauch. Beachte aber, dass du für die größeren MoE-Modelle bestimmte Tools wie vLLM brauchst.
| Modell | Ideal für | Stärken | Beachten |
|---|---|---|---|
| Gemma 3 | Chat, Texte, Bildanalyse | Lange Kontexte, Google-Stabilität | Große Modelle brauchen Power |
| DeepSeek | Mathe, Logik, Coding | Denkfähig und präzise | Original zu groß – Distillate ok |
| Qwen 3 | Allrounder, Mehrsprachig | Schnell, flexibel, viele Sprachen | MoE-Varianten erfordern Setup |
Wie starte ich das einfach? Ollama!
Du willst kein Terminalprofi sein, sondern einfach starten?
Dann schau dir Ollama an, das wohl einfachste Tool für Local-AI:
Was Ollama bietet:
- Super einfache Installation (Windows, Mac, Linux)
- Lädt und startet Modelle automatisch
- Optimiert für 4-Bit-Versionen (passen auf viele GPUs)
- Viele Top-Modelle verfügbar: llama3, gemma, deepseek-coder, qwen, codellama, mistral, phi …
Aber Achtung:
- Kein Bildinput (auch wenn das Modell es theoretisch kann)
- Auswahl beschränkt auf vorbereitete Modelle
- Manche Versionen sind etwas älter oder nur in kleiner Größe
- Kein Finetuning oder API wie bei Profisetups
Wer mehr will (größere Modelle, vLLM, eigene Modifikationen), sollte Tools wie LM Studio, Text Generation WebUI oder KoboldCpp checken.
Fazit
Ob du schreiben, coden oder klug quatschen willst, es gibt das passende Modell für deinen Zweck. Gemma 3 für solide Alltagsleistung, DeepSeek für Logik und Rechnen, Qwen 3 für Sprachen und Code. Mit Ollama ist der Einstieg kinderleicht. Wer tiefer einsteigen will, kann jederzeit aufstocken, lokal läuft inzwischen mehr, als man denkt.
