Offizielle DokumentationNicht von BlueFish getestet
llama.cpp
Ein C/C++-Projekt zur Sprachmodellinferenz für verschiedene lokale Hardware-Backends.
Kurzes Begriffsverzeichnis
Modelle erzeugen Inhalte und ziehen Schlussfolgerungen. Agenten erledigen Aufgaben mithilfe von Werkzeugen. Ein Harness verwaltet die Umgebung eines Agenten. MCP verbindet Werkzeuge und Daten. Skills sind wiederverwendbare Arbeitsanweisungen.
Recherchenotizen
Ein C/C++-Projekt zur Sprachmodellinferenz für verschiedene lokale Hardware-Backends.
Prüfverfahren
- Ein C/C++-Projekt zur Sprachmodellinferenz für verschiedene lokale Hardware-Backends.
Kosten
Kostenlose Software; Lizenz und Rechenkosten gesondert prüfen
Der Quellcode ist öffentlich; Modelllizenzen, Hardware, Strom und Hosting sind separat zu berücksichtigen. Die Gesamtkosten sind nicht verifiziert.
Grenzen und Einschränkungen
- Modellformat, Quantisierung, Kontext und Hardware bestimmen gemeinsam den Ressourcenbedarf; es gibt keine pauschale Hardwaregarantie.
- Offizielle Dokumentation geprüft; diese Kombination oder das Gerät wurde von dieser Website nicht praktisch getestet.
Originalquellen
- Offizielle Dokumentation zu llama.cpp ↗
github.com · 2026-10-15 · Offizielle Dokumentation