AQI AIAQI · KI-Wissen
⌕
Offizielle DokumentationNicht von AQI AI getestet

SmolLM2-135M-Instruct

Nur Kapazitätsschätzung; kein automatischer Download oder Zugriff auf Ihren PC.

Zuletzt geprüft: Version: 12fd25f77366

Modellkatalog und Vergleich

Familie
SmolLM2
Basis der Gewichtsgröße
0.13 B
Dokumentierte/konfigurierte Kontextgrenze
8.192
Lizenzkennung (siehe Quelle)
apache-2.0
Einsatz
Textdialog
Gewichtsschätzung GiB
0.08 · 4-bit

Unter gleichen Einstellungen vergleichen; Größe aus öffentlichen Tensor-Elementzahlen kann von der Modellbezeichnung abweichen. Basislizenz und Nutzungsbedingungen mitlesen.

Kapazitätsszenario statt Benchmark: Gewichtselemente × Bit ÷ 8 plus 20 % Reserve; F16-KV aus Schichten, KV-Köpfen und Kontext plus 1,5 GiB Laufzeitreserve. Mindestens 4 GiB oder 25 % RAM und 2 GiB VRAM freihalten. Ein Modell, eine Textsequenz; keine gemessene GGUF-Größe oder Laufgarantie.

Hybride Architekturen, Sonderformate oder fehlende Konfigurationen manuell prüfen. Bild-/Audioaufwand fehlt. MoE nach Gesamtgewichten, nicht aktiven Parametern. 4/8 Bit belegt weder verfügbare Quantisierung noch Backend-Kompatibilität.

Kurzes Begriffsverzeichnis

Modelle erzeugen Inhalte und ziehen Schlussfolgerungen. Agenten erledigen Aufgaben mithilfe von Werkzeugen. Ein Harness verwaltet die Umgebung eines Agenten. MCP verbindet Werkzeuge und Daten. Skills sind wiederverwendbare Arbeitsanweisungen.

Recherchenotizen

Wachsender lokaler Katalog nach Chat, Code, Suche, Reranking und Sprache. Mehrere Generationen, kein vollständiger Marktüberblick aller neuesten Modelle. Qualität und Tempo wurden hier nicht einheitlich gemessen.

Kosten

Kostenlose Software; Lizenz und Rechenkosten gesondert prüfen

Der Quellcode ist öffentlich; Modelllizenzen, Hardware, Strom und Hosting sind separat zu berücksichtigen. Die Gesamtkosten sind nicht verifiziert.

Grenzen und Einschränkungen

Hybride Architekturen, Sonderformate oder fehlende Konfigurationen manuell prüfen. Bild-/Audioaufwand fehlt. MoE nach Gesamtgewichten, nicht aktiven Parametern. 4/8 Bit belegt weder verfügbare Quantisierung noch Backend-Kompatibilität.

Originalquellen

  1. HuggingFaceTB/SmolLM2-135M-Instruct ↗

    huggingface.co · · Offizielle Dokumentation

Verknüpfte Ressourcen

Lokale LaufzeitumgebungKostenlose Software; Lizenz und Rechenkosten gesondert prüfen

Ollama

Eine lokale Modelllaufzeit und ein API-Werkzeug mit Unterstützung für einen Teil der OpenAI-Endpunkte.

Offizielle Dokumentation
Lokale LaufzeitumgebungKostenlose Software; Lizenz und Rechenkosten gesondert prüfen

LM Studio

Ein Desktop-Werkzeug für lokale Modelle mit kompatiblen Chat Completions- und Responses-Endpunkten.

Offizielle Dokumentation