Documentación oficialNo probado por BlueFish
vLLM
Un motor de inferencia para servir modelos con un servidor HTTP compatible con OpenAI.
Glosario rápido
Los modelos generan contenido y razonan. Los agentes usan herramientas para realizar tareas. Un Harness gestiona el entorno de un agente. MCP conecta herramientas y datos. Los Skills son instrucciones de trabajo reutilizables.
Notas de investigación
Un motor de inferencia para servir modelos con un servidor HTTP compatible con OpenAI.
Método de validación
- Un motor de inferencia para servir modelos con un servidor HTTP compatible con OpenAI.
Coste
Software gratuito; comprueba la licencia y los costes de cómputo
El código fuente es público; las licencias de los modelos, el hardware, la electricidad y el alojamiento se contabilizan aparte. El coste total no está verificado.
Límites y alcance
- No confíe únicamente en --api-key; esta opción no autentica algunas rutas fuera de los prefijos protegidos.
- Se ha revisado la documentación oficial; este sitio no ha ejecutado esta combinación ni probado el dispositivo.
Fuentes originales
- Documentación oficial de vLLM ↗
docs.vllm.ai · 2026-10-15 · Documentación oficial