vLLM: el motor open source para servir LLMs

vLLM es el estándar de facto para servir LLMs en producción. PagedAttention, 200+ modelos soportados, API compatible con OpenAI. Lo construye la comunidad. Lo usan los que construyen los modelos. Si trabajas con AI en serio, esto corre en tu stack.