内容审核系统中 ReAct Agent 怎么做类型安全相关的类型设计

类型安全能降低审核链路中的误判和集成风险

在内容审核系统中，ReAct Agent 通常要在“推理、调用工具、输出结论”之间来回切换。如果类型设计不清晰，常见问题包括：工具参数传错、审核标签字段缺失、不同环节的返回结构不一致、异常结果被当成正常结果继续流转。类型安全的核心价值，是把这些问题尽量提前暴露在编译期或开发期，而不是等到线上审核任务执行时才发现。做法上，可以把输入、工具请求、工具响应、推理状态、最终审核结果拆成多个明确的类型，并用联合类型表达不同审核分支，这样 Agent 每一步能接受什么、返回什么都会被约束住。

把过程状态拆成分层类型，避免把所有信息塞进一个大对象

比较稳妥的方式，是把 ReAct Agent 的运行状态拆成三层：推理层、工具层、结果层。推理层可以保存模型当前的意图、待处理任务、置信度等信息；工具层专门描述每个可调用能力的请求与响应，比如涉政检测、色情检测、广告识别、OCR、ASR；结果层只保留面向业务的审核结论，例如通过、拒绝、人工复核，以及原因码和证据片段。每一层使用独立的接口或类型别名，避免把临时推理信息和最终业务结论混在一起。对于“思考-行动-观察”的循环，建议用联合类型表达状态机，例如 WaitingForTool、ToolSucceeded、ToolFailed、NeedHumanReview，这样状态流转会更清晰，也能减少非法状态被误用的情况。

用强约束的工具契约把每个审核能力单独建模

可以给每个审核工具定义独立的请求和响应类型，而不是共用一个通用字典。例如文本审核工具的入参包含 text、lang、scene，图片审核工具的入参包含 imageUrl、frameIndex、scene，音频审核工具的入参包含 audioUrl、duration。响应也建议拆分成统一外壳加业务明细的结构，比如 status、riskLevel、labels、evidence、rawScore。ReAct Agent 在调用时，通过工具名称映射到对应的类型签名，编译器或类型系统就能检查参数是否匹配。若工具存在多种返回结果，可以用 discriminated union，也就是带 type 或 kind 字段的联合类型来区分成功、失败、超时、需人工复核等情况。这样既能保留灵活性，也能避免把某个工具的字段误当成另一个工具的字段。

用可扩展的结果枚举加状态机类型来表达多级处置流程

面对多级审核流程，建议把最终结果设计成一个可枚举的决策类型，例如 Pass、Block、ManualReview、Escalate、Quarantine。每个决策都附带自己的专属字段，像 Block 需要 reasonCode 和 evidence，ManualReview 需要 reviewQueue 和 suggestedPriority，Escalate 需要 targetTeam 和 escalationReason。这样做的好处是，不同处置路径的数据要求可以被明确区分，避免一个结果对象里出现大量可空字段。若系统还需要支持复审流转，可以再增加状态机类型，把“待审核、待人工复核、已复审、已关闭”等状态单独建模。ReAct Agent 只负责生成符合类型约束的中间态和建议结果，真正的业务流转交给外层编排模块处理，会更稳妥。