doc/md
1
0
Fork 0
Code

add

Browse Source
This commit is contained in:
liushuang 2025-10-11 17:01:08 +08:00
parent a61d2a300a
commit 98687f0f84
1 changed files with 1 additions and 5 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

6
20251011.md
View File

@ -1,6 +1,6 @@
## 问题原因
在 get_structured_output_key 中处理 structured_outputs 参数抛异常，该异常未被 EngineCore 捕获导致引擎崩溃，APIServer 发现引擎死了，自己也退出了进程。
vllm在处理请求时，调用了 get_structured_output_key 函数，在处理 structured_outputs 参数抛异常，该异常未被 EngineCore 捕获导致引擎崩溃，APIServer 发现引擎死了，自己也退出了进程。
## 源码的具体实现
@ -116,10 +116,6 @@ class StructuredOutputOptions(enum.Enum):
```
> 💡只支持这6种类型，每个类型都对应 structured_outputs 下面的一个不同的参数。
## 推断
客户端上报了 structured_outputs 或者 guided_decoding 参数，但是一个空对象，或者参数不符合这6种情况引起了异常。
## 崩溃日志片段
```text