doc/md
1
0
Fork 0
Code

更新 排查vLLM崩溃问题.md

Browse Source
This commit is contained in:
8ga 2025-10-17 14:05:51 +08:00
parent 98ea7aea23
commit caf952a13c
1 changed files with 0 additions and 2 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

2
排查vLLM崩溃问题.md
View File

@ -1,5 +1,3 @@
# vllm 崩溃问题排查
## 问题原因 ## 问题原因
由于外部调用 vllm 的 OpenAI API 服务时候，传入的请求参数让 vllm 调用了**get_structured_output_key**函数。在该函数里不能被正确处理，抛出了**No valid structured output parameter found**异常，该异常导致了 vllm 的 EngineCore 和 APIServer 进程死亡。 由于外部调用 vllm 的 OpenAI API 服务时候，传入的请求参数让 vllm 调用了**get_structured_output_key**函数。在该函数里不能被正确处理，抛出了**No valid structured output parameter found**异常，该异常导致了 vllm 的 EngineCore 和 APIServer 进程死亡。