doc/md
1
0
Fork 0
Code

更新 20251011.md

Browse Source
This commit is contained in:
8ga 2025-10-11 17:05:45 +08:00
parent 98687f0f84
commit 2550c75f5c
1 changed files with 1 additions and 1 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

2
20251011.md
View File

@ -1,6 +1,6 @@
## 问题原因
vllm在处理请求时，调用了 get_structured_output_key 函数，在处理 structured_outputs 参数抛异常，该异常未被 EngineCore 捕获导致引擎崩溃，APIServer 发现引擎死了，自己也退出了进程。
vllm在处理请求时，调用了 get_structured_output_key 函数，在处理 structured_outputs 参数时，由于不满足所有的情况，导致了抛出**No valid structured output parameter found**异常，该异常未被 EngineCore 捕获导致引擎崩溃，APIServer 发现引擎死了，自己也退出了进程。
## 源码的具体实现