inference

Vllm

此规则概述了使用 vllm 库进行开发的最佳实践和编码标准，以确保代码质量、性能和可维护性。它涵盖了代码组织、性能考虑、安全、测试和常见陷阱。