Documentation officielleNon testé par BlueFish
vLLM
Un moteur d’inférence pour servir des modèles avec un serveur HTTP compatible OpenAI.
Petit glossaire
Les modèles génèrent du contenu et raisonnent. Les agents utilisent des outils pour accomplir des tâches. Un Harness gère l’environnement d’un agent. MCP relie les outils et les données. Les Skills sont des consignes de travail réutilisables.
Notes de recherche
Un moteur d’inférence pour servir des modèles avec un serveur HTTP compatible OpenAI.
Méthode de validation
- Un moteur d’inférence pour servir des modèles avec un serveur HTTP compatible OpenAI.
Coût
Logiciel gratuit ; vérifiez la licence et les coûts de calcul
Le code source est public ; les licences des modèles, le matériel, l’électricité et l’hébergement sont distincts. Le coût total n’est pas vérifié.
Limites et périmètre
- Ne vous fiez pas uniquement à --api-key ; certains chemins hors des préfixes protégés ne sont pas authentifiés par cette option.
- Documentation officielle consultée ; ce site n’a pas exécuté cette combinaison ni testé l’appareil.
Sources originales
- Documentation officielle de vLLM ↗
docs.vllm.ai · 2026-10-15 · Documentation officielle