doc/md
1
0
Fork 0
Code

vllm-0.11.0版本崩溃问题跟进

Browse Source
This commit is contained in:
8ga 2025-10-14 14:58:14 +08:00
parent 45a79796b6
commit 24ca9dc469
1 changed files with 0 additions and 2 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

2
20251011.md
View File

@ -2,8 +2,6 @@
vllm在处理请求时，调用了 get_structured_output_key 函数，在处理 structured_outputs 参数时，由于不满足所有的情况，导致了抛出**No valid structured output parameter found**异常，该异常未被 EngineCore 捕获导致引擎崩溃，APIServer 发现引擎死了，自己也退出了进程。 vllm在处理请求时，调用了 get_structured_output_key 函数，在处理 structured_outputs 参数时，由于不满足所有的情况，导致了抛出**No valid structured output parameter found**异常，该异常未被 EngineCore 捕获导致引擎崩溃，APIServer 发现引擎死了，自己也退出了进程。
## 源码的具体实现
### 函数 get_structured_output_key 实现 ### 函数 get_structured_output_key 实现
#### 分支：release/v0.11.0 #### 分支：release/v0.11.0