AQI AIAQI · KI-Wissen
⌕

AQI AI / MODELS

Modellkatalog und Vergleich

Werkzeuge führen aus und verbinden; Modelle erzeugen Inhalte. Vergleichen Sie beides getrennt.

Wachsender lokaler Katalog nach Chat, Code, Suche, Reranking und Sprache. Mehrere Generationen, kein vollständiger Marktüberblick aller neuesten Modelle. Qualität und Tempo wurden hier nicht einheitlich gemessen.

Text-Embeddings · Suchergebnisse neu ordnen · Sprache zu Text

Embedding-Modelle erzeugen Suchvektoren, Reranker bewerten Textkandidaten und Sprachmodelle transkribieren Audio. Chatqualität ist kein gemeinsamer Maßstab. Batch-, Aktivierungs- und Audiospeicher sind nicht modelliert; Kapazität manuell prüfen statt mit der Chat-Cache-Formel.

Unter gleichen Einstellungen vergleichen; Größe aus öffentlichen Tensor-Elementzahlen kann von der Modellbezeichnung abweichen. Basislizenz und Nutzungsbedingungen mitlesen.

DeepSeek-R1-Distill-Qwen-1.5B

Familie
DeepSeek R1 Distill
Basis der Gewichtsgröße
1.78 B
Dokumentierte/konfigurierte Kontextgrenze
131.072
Lizenzkennung (siehe Quelle)
mit + Apache-2.0 base
Einsatz
Textdialog · Schlussfolgern

Nur Kapazitätsschätzung; kein automatischer Download oder Zugriff auf Ihren PC.

Autorenquellen und Prüfdatum ↗

DeepSeek-R1-Distill-Qwen-7B

Familie
DeepSeek R1 Distill
Basis der Gewichtsgröße
7.62 B
Dokumentierte/konfigurierte Kontextgrenze
131.072
Lizenzkennung (siehe Quelle)
mit + Apache-2.0 base
Einsatz
Textdialog · Schlussfolgern

Nur Kapazitätsschätzung; kein automatischer Download oder Zugriff auf Ihren PC.

Autorenquellen und Prüfdatum ↗

Kapazitätsszenario statt Benchmark

Größen und Hashes stammen aus Autorenlisten, ohne Gewichtsdownload. Dateigröße ist nicht gesamter Laufzeitspeicher. Eine geprüfte Datei passender Präzision ersetzt die allgemeine Gewichtsschätzung, vor Cache und Reserven.

Kapazitätsszenario statt Benchmark: Gewichtselemente × Bit ÷ 8 plus 20 % Reserve; F16-KV aus Schichten, KV-Köpfen und Kontext plus 1,5 GiB Laufzeitreserve. Mindestens 4 GiB oder 25 % RAM und 2 GiB VRAM freihalten. Ein Modell, eine Textsequenz; keine gemessene GGUF-Größe oder Laufgarantie.

Hybride Architekturen, Sonderformate oder fehlende Konfigurationen manuell prüfen. Bild-/Audioaufwand fehlt. MoE nach Gesamtgewichten, nicht aktiven Parametern. 4/8 Bit belegt weder verfügbare Quantisierung noch Backend-Kompatibilität.

Modellkatalog öffnen · 46

46

BGE Reranker

bge-reranker-v2-m3

Basis der Gewichtsgröße: 0.57 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Suchergebnisse neu ordnen

Unbekannt

Gewichtsschätzung GiB: 0.3 · 4-bit / 4096

Architektur/Format prüfen

DeepSeek R1 Distill

DeepSeek-R1-Distill-Qwen-7B

Basis der Gewichtsgröße: 7.62 B

Lizenzkennung (siehe Quelle): mit + Apache-2.0 base

Einsatz: Textdialog · Schlussfolgern

Dokumentierte/konfigurierte Kontextgrenze: 131.072

Gewichtsschätzung GiB: 4.3 · 4-bit / 4096

DeepSeek R1 Distill

DeepSeek-R1-Distill-Qwen-14B

Basis der Gewichtsgröße: 14.77 B

Lizenzkennung (siehe Quelle): mit + Apache-2.0 base

Einsatz: Textdialog · Schlussfolgern

Dokumentierte/konfigurierte Kontextgrenze: 131.072

Gewichtsschätzung GiB: 8.3 · 4-bit / 4096

DeepSeek R1 Distill

DeepSeek-R1-Distill-Qwen-32B

Basis der Gewichtsgröße: 32.76 B

Lizenzkennung (siehe Quelle): mit + Apache-2.0 base

Einsatz: Textdialog · Schlussfolgern

Dokumentierte/konfigurierte Kontextgrenze: 131.072

Gewichtsschätzung GiB: 18.3 · 4-bit / 4096

Gemma 3

gemma-3-4b-it

Basis der Gewichtsgröße: 4.30 B

Lizenzkennung (siehe Quelle): gemma

Einsatz: Textdialog · Bild / multimodal

Unbekannt

Gewichtsschätzung GiB: 2.4 · 4-bit / 4096

Architektur/Format prüfen

Gemma 3

gemma-3-12b-it

Basis der Gewichtsgröße: 12.19 B

Lizenzkennung (siehe Quelle): gemma

Einsatz: Textdialog · Bild / multimodal

Unbekannt

Gewichtsschätzung GiB: 6.8 · 4-bit / 4096

Architektur/Format prüfen

Gemma 3

gemma-3-27b-it

Basis der Gewichtsgröße: 27.43 B

Lizenzkennung (siehe Quelle): gemma

Einsatz: Textdialog · Bild / multimodal

Unbekannt

Gewichtsschätzung GiB: 15.3 · 4-bit / 4096

Architektur/Format prüfen

Gemma 4

gemma-4-12B

Basis der Gewichtsgröße: 11.96 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog · Bild / multimodal

Dokumentierte/konfigurierte Kontextgrenze: 262.144

Gewichtsschätzung GiB: 6.7 · 4-bit / 4096

Architektur/Format prüfen

gpt-oss

gpt-oss-20b

Basis der Gewichtsgröße: 20.91 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog · Schlussfolgern

Dokumentierte/konfigurierte Kontextgrenze: 131.072

Gewichtsschätzung GiB: 11.7 · 4-bit / 4096

Architektur/Format prüfen

gpt-oss

gpt-oss-120b

Basis der Gewichtsgröße: 116.83 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog · Schlussfolgern

Dokumentierte/konfigurierte Kontextgrenze: 131.072

Gewichtsschätzung GiB: 65.3 · 4-bit / 4096

Architektur/Format prüfen

Phi-4

phi-4

Basis der Gewichtsgröße: 14.66 B

Lizenzkennung (siehe Quelle): mit

Einsatz: Textdialog

Dokumentierte/konfigurierte Kontextgrenze: 16.384

Gewichtsschätzung GiB: 8.2 · 4-bit / 4096

Qwen3

Qwen3-0.6B

Basis der Gewichtsgröße: 0.75 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 0.4 · 4-bit / 4096

Qwen3

Qwen3-1.7B

Basis der Gewichtsgröße: 2.03 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 1.1 · 4-bit / 4096

Qwen3

Qwen3-14B

Basis der Gewichtsgröße: 14.77 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 8.3 · 4-bit / 4096

Qwen3

Qwen3-30B-A3B

Basis der Gewichtsgröße: 30.53 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 17.1 · 4-bit / 4096

Qwen3

Qwen3-32B

Basis der Gewichtsgröße: 32.76 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 18.3 · 4-bit / 4096

Qwen3 Embedding

Qwen3-Embedding-0.6B

Basis der Gewichtsgröße: 0.60 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Text-Embeddings

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 0.3 · 4-bit / 4096

Architektur/Format prüfen

Qwen3 Embedding

Qwen3-Embedding-4B

Basis der Gewichtsgröße: 4.02 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Text-Embeddings

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 2.2 · 4-bit / 4096

Architektur/Format prüfen

Qwen3 Embedding

Qwen3-Embedding-8B

Basis der Gewichtsgröße: 7.57 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Text-Embeddings

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 4.2 · 4-bit / 4096

Architektur/Format prüfen

Qwen3 Reranker

Qwen3-Reranker-0.6B

Basis der Gewichtsgröße: 0.60 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Suchergebnisse neu ordnen

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 0.3 · 4-bit / 4096

Architektur/Format prüfen

Qwen3 Reranker

Qwen3-Reranker-4B

Basis der Gewichtsgröße: 4.02 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Suchergebnisse neu ordnen

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 2.2 · 4-bit / 4096

Architektur/Format prüfen

Qwen3 Reranker

Qwen3-Reranker-8B

Basis der Gewichtsgröße: 8.19 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Suchergebnisse neu ordnen

Dokumentierte/konfigurierte Kontextgrenze: 32.768

Gewichtsschätzung GiB: 4.6 · 4-bit / 4096

Architektur/Format prüfen

Qwen3.5

Qwen3.5-4B

Basis der Gewichtsgröße: 4.66 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog · Bild / multimodal

Dokumentierte/konfigurierte Kontextgrenze: 262.144

Gewichtsschätzung GiB: 2.6 · 4-bit / 4096

Architektur/Format prüfen

Qwen3.5

Qwen3.5-9B

Basis der Gewichtsgröße: 9.65 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog · Bild / multimodal

Dokumentierte/konfigurierte Kontextgrenze: 262.144

Gewichtsschätzung GiB: 5.4 · 4-bit / 4096

Architektur/Format prüfen

Qwen3.5

Qwen3.5-27B

Basis der Gewichtsgröße: 27.78 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog · Bild / multimodal

Dokumentierte/konfigurierte Kontextgrenze: 262.144

Gewichtsschätzung GiB: 15.5 · 4-bit / 4096

Architektur/Format prüfen

Qwen3.8

Qwen3.8-27B

Basis der Gewichtsgröße: 27.78 B

Lizenzkennung (siehe Quelle): apache-2.0

Einsatz: Textdialog · Bild / multimodal

Dokumentierte/konfigurierte Kontextgrenze: 262.144

Gewichtsschätzung GiB: 15.5 · 4-bit / 4096

Architektur/Format prüfen