BGE Reranker
bge-reranker-v2-m3
Basis der Gewichtsgröße: 0.57 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Suchergebnisse neu ordnen
Unbekannt
Gewichtsschätzung GiB: 0.3 · 4-bit / 4096
Architektur/Format prüfen
AQI AI / HARDWARE
Modelle für meine Hardware
Nur Kapazitätsschätzung; kein automatischer Download oder Zugriff auf Ihren PC.
Wachsender lokaler Katalog nach Chat, Code, Suche, Reranking und Sprache. Mehrere Generationen, kein vollständiger Marktüberblick aller neuesten Modelle. Qualität und Tempo wurden hier nicht einheitlich gemessen.
Text-Embeddings · Suchergebnisse neu ordnen · Sprache zu Text
Embedding-Modelle erzeugen Suchvektoren, Reranker bewerten Textkandidaten und Sprachmodelle transkribieren Audio. Chatqualität ist kein gemeinsamer Maßstab. Batch-, Aktivierungs- und Audiospeicher sind nicht modelliert; Kapazität manuell prüfen statt mit der Chat-Cache-Formel.
Modelle für meine Hardware
Berechnung nur auf dieser Seite, ohne Upload, automatische Erkennung oder Speicherung der Modellnamen. CPU-/GPU-Namen sagen kein Tempo voraus; Treiber und Laufzeit separat prüfen.
Nur Kapazitätsschätzung; kein automatischer Download oder Zugriff auf Ihren PC.
Kapazitätsszenario statt Benchmark
Größen und Hashes stammen aus Autorenlisten, ohne Gewichtsdownload. Dateigröße ist nicht gesamter Laufzeitspeicher. Eine geprüfte Datei passender Präzision ersetzt die allgemeine Gewichtsschätzung, vor Cache und Reserven.
Kapazitätsszenario statt Benchmark: Gewichtselemente × Bit ÷ 8 plus 20 % Reserve; F16-KV aus Schichten, KV-Köpfen und Kontext plus 1,5 GiB Laufzeitreserve. Mindestens 4 GiB oder 25 % RAM und 2 GiB VRAM freihalten. Ein Modell, eine Textsequenz; keine gemessene GGUF-Größe oder Laufgarantie.
Hybride Architekturen, Sonderformate oder fehlende Konfigurationen manuell prüfen. Bild-/Audioaufwand fehlt. MoE nach Gesamtgewichten, nicht aktiven Parametern. 4/8 Bit belegt weder verfügbare Quantisierung noch Backend-Kompatibilität.
Nach Kapazität gefiltert, keine Qualitätsrangliste; Laufzeit und Tempo prüfen.
Modellkatalog öffnen · 46
46
DeepSeek R1 Distill
DeepSeek-R1-Distill-Qwen-1.5B
Basis der Gewichtsgröße: 1.78 B
Lizenzkennung (siehe Quelle): mit + Apache-2.0 base
Einsatz: Textdialog · Schlussfolgern
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 1.0 · 4-bit / 4096
DeepSeek R1 Distill
DeepSeek-R1-Distill-Qwen-7B
Basis der Gewichtsgröße: 7.62 B
Lizenzkennung (siehe Quelle): mit + Apache-2.0 base
Einsatz: Textdialog · Schlussfolgern
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 4.3 · 4-bit / 4096
DeepSeek R1 Distill
DeepSeek-R1-Distill-Llama-8B
Basis der Gewichtsgröße: 8.03 B
Lizenzkennung (siehe Quelle): mit + Llama 3.1 base
Einsatz: Textdialog · Schlussfolgern
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 4.5 · 4-bit / 4096
DeepSeek R1 Distill
DeepSeek-R1-Distill-Qwen-14B
Basis der Gewichtsgröße: 14.77 B
Lizenzkennung (siehe Quelle): mit + Apache-2.0 base
Einsatz: Textdialog · Schlussfolgern
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 8.3 · 4-bit / 4096
DeepSeek R1 Distill
DeepSeek-R1-Distill-Qwen-32B
Basis der Gewichtsgröße: 32.76 B
Lizenzkennung (siehe Quelle): mit + Apache-2.0 base
Einsatz: Textdialog · Schlussfolgern
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 18.3 · 4-bit / 4096
DeepSeek R1 Distill
DeepSeek-R1-Distill-Llama-70B
Basis der Gewichtsgröße: 70.55 B
Lizenzkennung (siehe Quelle): mit + Llama 3.3 base
Einsatz: Textdialog · Schlussfolgern
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 39.4 · 4-bit / 4096
Gemma 3
gemma-3-1b-it
Basis der Gewichtsgröße: 1.00 B
Lizenzkennung (siehe Quelle): gemma
Einsatz: Textdialog
Unbekannt
Gewichtsschätzung GiB: 0.6 · 4-bit / 4096
Architektur/Format prüfen
Gemma 3
gemma-3-4b-it
Basis der Gewichtsgröße: 4.30 B
Lizenzkennung (siehe Quelle): gemma
Einsatz: Textdialog · Bild / multimodal
Unbekannt
Gewichtsschätzung GiB: 2.4 · 4-bit / 4096
Architektur/Format prüfen
Gemma 3
gemma-3-12b-it
Basis der Gewichtsgröße: 12.19 B
Lizenzkennung (siehe Quelle): gemma
Einsatz: Textdialog · Bild / multimodal
Unbekannt
Gewichtsschätzung GiB: 6.8 · 4-bit / 4096
Architektur/Format prüfen
Gemma 3
gemma-3-27b-it
Basis der Gewichtsgröße: 27.43 B
Lizenzkennung (siehe Quelle): gemma
Einsatz: Textdialog · Bild / multimodal
Unbekannt
Gewichtsschätzung GiB: 15.3 · 4-bit / 4096
Architektur/Format prüfen
Gemma 4
gemma-4-12B
Basis der Gewichtsgröße: 11.96 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog · Bild / multimodal
Dokumentierte/konfigurierte Kontextgrenze: 262.144
Gewichtsschätzung GiB: 6.7 · 4-bit / 4096
Architektur/Format prüfen
gpt-oss
gpt-oss-20b
Basis der Gewichtsgröße: 20.91 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog · Schlussfolgern
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 11.7 · 4-bit / 4096
Architektur/Format prüfen
gpt-oss
gpt-oss-120b
Basis der Gewichtsgröße: 116.83 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog · Schlussfolgern
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 65.3 · 4-bit / 4096
Architektur/Format prüfen
Llama
Llama-3.2-1B-Instruct
Basis der Gewichtsgröße: 1.24 B
Lizenzkennung (siehe Quelle): llama3.2
Einsatz: Textdialog
Unbekannt
Gewichtsschätzung GiB: 0.7 · 4-bit / 4096
Architektur/Format prüfen
Llama
Llama-3.2-3B-Instruct
Basis der Gewichtsgröße: 3.21 B
Lizenzkennung (siehe Quelle): llama3.2
Einsatz: Textdialog
Unbekannt
Gewichtsschätzung GiB: 1.8 · 4-bit / 4096
Architektur/Format prüfen
Llama
Llama-3.1-8B-Instruct
Basis der Gewichtsgröße: 8.03 B
Lizenzkennung (siehe Quelle): llama3.1
Einsatz: Textdialog
Unbekannt
Gewichtsschätzung GiB: 4.5 · 4-bit / 4096
Architektur/Format prüfen
Llama
Llama-3.3-70B-Instruct
Basis der Gewichtsgröße: 70.55 B
Lizenzkennung (siehe Quelle): llama3.3
Einsatz: Textdialog
Unbekannt
Gewichtsschätzung GiB: 39.4 · 4-bit / 4096
Architektur/Format prüfen
Ministral 3
Ministral-3-3B-Instruct-2512-BF16
Basis der Gewichtsgröße: 4.25 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 262.144
Gewichtsschätzung GiB: 2.4 · 4-bit / 4096
Ministral 3
Ministral-3-8B-Instruct-2512-BF16
Basis der Gewichtsgröße: 8.92 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 262.144
Gewichtsschätzung GiB: 5.0 · 4-bit / 4096
Ministral 3
Ministral-3-14B-Instruct-2512-BF16
Basis der Gewichtsgröße: 13.95 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 262.144
Gewichtsschätzung GiB: 7.8 · 4-bit / 4096
Mistral Small
Mistral-Small-3.1-24B-Instruct-2503
Basis der Gewichtsgröße: 24.01 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 13.4 · 4-bit / 4096
Phi-4
Phi-4-mini-instruct
Basis der Gewichtsgröße: 3.84 B
Lizenzkennung (siehe Quelle): mit
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 131.072
Gewichtsschätzung GiB: 2.1 · 4-bit / 4096
Phi-4
phi-4
Basis der Gewichtsgröße: 14.66 B
Lizenzkennung (siehe Quelle): mit
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 16.384
Gewichtsschätzung GiB: 8.2 · 4-bit / 4096
Qwen3
Qwen3-0.6B
Basis der Gewichtsgröße: 0.75 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 0.4 · 4-bit / 4096
Qwen3
Qwen3-1.7B
Basis der Gewichtsgröße: 2.03 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 1.1 · 4-bit / 4096
Qwen3
Qwen3-4B
Basis der Gewichtsgröße: 4.02 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 2.3 · 4-bit / 4096
Qwen3
Qwen3-8B
Basis der Gewichtsgröße: 8.19 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 4.7 · 4-bit / 4096
Qwen3
Qwen3-14B
Basis der Gewichtsgröße: 14.77 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 8.3 · 4-bit / 4096
Qwen3
Qwen3-30B-A3B
Basis der Gewichtsgröße: 30.53 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 17.1 · 4-bit / 4096
Qwen3
Qwen3-32B
Basis der Gewichtsgröße: 32.76 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 18.3 · 4-bit / 4096
Qwen3 Coder
Qwen3-Coder-30B-A3B-Instruct
Basis der Gewichtsgröße: 30.53 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog · Code-Schwerpunkt
Dokumentierte/konfigurierte Kontextgrenze: 262.144
Gewichtsschätzung GiB: 17.1 · 4-bit / 4096
Qwen3 Embedding
Qwen3-Embedding-0.6B
Basis der Gewichtsgröße: 0.60 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Text-Embeddings
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 0.3 · 4-bit / 4096
Architektur/Format prüfen
Qwen3 Embedding
Qwen3-Embedding-4B
Basis der Gewichtsgröße: 4.02 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Text-Embeddings
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 2.2 · 4-bit / 4096
Architektur/Format prüfen
Qwen3 Embedding
Qwen3-Embedding-8B
Basis der Gewichtsgröße: 7.57 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Text-Embeddings
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 4.2 · 4-bit / 4096
Architektur/Format prüfen
Qwen3 Reranker
Qwen3-Reranker-0.6B
Basis der Gewichtsgröße: 0.60 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Suchergebnisse neu ordnen
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 0.3 · 4-bit / 4096
Architektur/Format prüfen
Qwen3 Reranker
Qwen3-Reranker-4B
Basis der Gewichtsgröße: 4.02 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Suchergebnisse neu ordnen
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 2.2 · 4-bit / 4096
Architektur/Format prüfen
Qwen3 Reranker
Qwen3-Reranker-8B
Basis der Gewichtsgröße: 8.19 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Suchergebnisse neu ordnen
Dokumentierte/konfigurierte Kontextgrenze: 32.768
Gewichtsschätzung GiB: 4.6 · 4-bit / 4096
Architektur/Format prüfen
Qwen3.5
Qwen3.5-4B
Basis der Gewichtsgröße: 4.66 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog · Bild / multimodal
Dokumentierte/konfigurierte Kontextgrenze: 262.144
Gewichtsschätzung GiB: 2.6 · 4-bit / 4096
Architektur/Format prüfen
Qwen3.5
Qwen3.5-9B
Basis der Gewichtsgröße: 9.65 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog · Bild / multimodal
Dokumentierte/konfigurierte Kontextgrenze: 262.144
Gewichtsschätzung GiB: 5.4 · 4-bit / 4096
Architektur/Format prüfen
Qwen3.5
Qwen3.5-27B
Basis der Gewichtsgröße: 27.78 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog · Bild / multimodal
Dokumentierte/konfigurierte Kontextgrenze: 262.144
Gewichtsschätzung GiB: 15.5 · 4-bit / 4096
Architektur/Format prüfen
Qwen3.8
Qwen3.8-27B
Basis der Gewichtsgröße: 27.78 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog · Bild / multimodal
Dokumentierte/konfigurierte Kontextgrenze: 262.144
Gewichtsschätzung GiB: 15.5 · 4-bit / 4096
Architektur/Format prüfen
SmolLM2
SmolLM2-135M-Instruct
Basis der Gewichtsgröße: 0.13 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 8.192
Gewichtsschätzung GiB: 0.1 · 4-bit / 4096
SmolLM2
SmolLM2-360M-Instruct
Basis der Gewichtsgröße: 0.36 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 8.192
Gewichtsschätzung GiB: 0.2 · 4-bit / 4096
SmolLM2
SmolLM2-1.7B-Instruct
Basis der Gewichtsgröße: 1.71 B
Lizenzkennung (siehe Quelle): apache-2.0
Einsatz: Textdialog
Dokumentierte/konfigurierte Kontextgrenze: 8.192
Gewichtsschätzung GiB: 1.0 · 4-bit / 4096
Whisper
whisper-large-v3-turbo
Basis der Gewichtsgröße: 0.81 B
Lizenzkennung (siehe Quelle): mit
Einsatz: Sprache zu Text
Unbekannt
Gewichtsschätzung GiB: 0.5 · 4-bit / 4096
Architektur/Format prüfen
Keine passenden Modelle.