DeepSeek 批量 API 请求与结果校验

先约定输出结构,再验证结果是否符合要求,是 API 工程化的起点。下面进一步说明工具调用的处理步骤和批量请求需要考虑的问题。

结构化输出配置

要得到可以入库的结果,需明确下面三件事。不完整的约束可能使回答变回叙述文字。

  1. 响应类型:采用 JSON 对象模式,为输出 JSON 而非文字说明设定约束。
  2. 明确结构:字段名称、数据类型、必填条件、范围和层级应逐一约定。
  3. 样例输入:用符合要求的 JSON 说明期望输出,帮助减少结构偏差。
messages=[ {"role":"system","content":"仅输出 JSON 对象。字段:order_id(字符串),amount(数字,保留两位小数),channel(枚举:web/app/store),tags(字符串数组,可为空)。"}, {"role":"user","content":"把这笔订单转成结构化记录:订单号 A2024-8891,金额 1284.5 元,来自小程序渠道。"} ] response_format={"type":"json_object"}

处理不合规的输出

模型并不总能严格按格式回答,工程上要考虑这种不确定性。应用侧需要执行解析与验证,并在失败时重试。

import json def extract(text): try: data = json.loads(text) except json.JSONDecodeError as e: return None, f"JSON 解析失败:{e}" required = {"order_id", "amount", "channel", "tags"} missing = required - set(data) if missing: return None, f"缺少字段:{sorted(missing)}" if not isinstance(data["amount"], (int, float)): return None, "amount 不是数字" return data, None result, error = extract(text) if error: # 把错误信息带回对话,让模型自己修正一次 text = retry_with_error(text, error)

重试请求应包含具体校验错误,便于模型修正。可以把次数限制为两次等明确上限,避免异常输入使流程无限运行。

函数调用如何衔接

下面四个环节展示模型如何请求应用中的函数能力:

  1. 先描述工具:把函数名、功能与参数结构放入请求。良好的参数说明能减少工具选择错误。
  2. 生成调用请求:模型认为需要函数时,输出相应名称及参数。以函数调用获取依据,而非直接虚构答案。
  3. 运行函数:真正执行的是你的程序,结果也由程序取得。模型不直接进入你的系统,执行责任仍在程序。
  4. 提交执行数据:把函数结果作为消息回传。得到结果后,模型再给出有数据依据的回答。
工具声明(要点) { "name": "query_orders", "description": "按用户 ID 查询最近 30 天的订单列表,返回金额与渠道", "parameters": { "type": "object", "properties": { "user_id": {"type": "string"}, "days": {"type": "integer", "default": 30} }, "required": ["user_id"] } } 执行链路 模型请求调用 query_orders(user_id="U1024") → 你的代码查库并返回真实订单数组 → 把数组作为 tool 消息回传 → 模型据此回答用户问题

为避免选错工具,说明应具体;为避免挤占上下文,过长结果要自行缩减或归纳。删除、支付等写操作要由应用安排二次核实,不应直接交由模型决定执行。

批量执行的并发策略

要核对 API 地址、密钥和模型名称,参考 API 调用步骤。需要把该流程放到本地时,请阅读 本地模型部署步骤。

帮助问答

工程接入疑问

JSON 输出常见错误如何排查?

先检查是否在 JSON 前后出现说明文字,以及字段是否按要求命名。使用 JSON 对象模式,在系统提示写清字段及示例,应用侧验证失败后携错误信息重试一次。

函数调用结果怎样回到模型?

应用先给出工具列表、参数结构,模型随后输出调用请求。由你的代码执行函数、回传真实结果,最后模型给出回复;执行不交给模型。

其他实践内容

可以继续阅读