「Feedback」Deepseek V3.1 API 似乎在 JSON Output 上输出空结果的概率提高了

#18
by Wendaolee - opened

这是去年 Deepseek 就有的 问题,但是在过去我的工程实践中几乎没有遇到过该问题。

但是自从昨天线上 API 更新到 3.1 后,我的项目在结构化输出上观测到这样的错误率整整提升了大约 10~20%(通过 metric 估算的) 。

我不清楚这是模型问题还是 API 的问题(因为原文档说“在使用 JSON Output 功能时,API 有概率会返回空的 content”)。因此在社区发个帖子反馈一下。


EN:

This was an issue that Deepseek had since last year issue, but it was rarely encountered in practice.

However, since the online API was updated to version 3.1 yesterday, my project has observed an increase in such errors in structured output by roughly 10–20% (estimated via metrics).

I'm not sure whether this is a model issue or an API issue (as the original documentation states, "when using the JSON Output feature, the API may occasionally return empty content"). So I'm posting this in the community for feedback.

遇到了同样的问题,我没有使用JSON Output参数,是直接提示词要求输出json,并解析返回结果里的Markdown标记(```json)实现的。然而v3.1输出json时候经常不带Markdown导致解析不到。我怀疑官网提供的JSON Output输出空值也是这个原因。
目前处理的方式是提示词中增加一句:输出json结果时一定要加Markdown标记。你可以试一下

遇到了同样的问题,我没有使用JSON Output参数,是直接提示词要求输出json,并解析返回结果里的Markdown标记(```json)实现的。然而v3.1输出json时候经常不带Markdown导致解析不到。我怀疑官网提供的JSON Output输出空值也是这个原因。
目前处理的方式是提示词中增加一句:输出json结果时一定要加Markdown标记。你可以试一下

不,问题的核心在于 输出为空。因为我的项目使用了 BAML 的 SAP ,只要内容里存在 JSON 数据便能够修正、校验、解析。我的核心问题在于结构化输出时 V3.1 很容易输出空结果,这造成了我的项目观测到错误率上升了。

Sign up or log in to comment