diff --git a/排查vLLM崩溃问题.md b/排查vLLM崩溃问题.md index 3960ba1..4b5f86a 100644 --- a/排查vLLM崩溃问题.md +++ b/排查vLLM崩溃问题.md @@ -1,5 +1,3 @@ -# vllm 崩溃问题排查 - ## 问题原因 由于外部调用 vllm 的 OpenAI API 服务时候,传入的请求参数让 vllm 调用了**get_structured_output_key**函数。在该函数里不能被正确处理,抛出了**No valid structured output parameter found**异常,该异常导致了 vllm 的 EngineCore 和 APIServer 进程死亡。