转写说明

本文基于已校验的公开原文进行结构化转写与事实梳理,非原文转载。 转写保留可核验的技术事实,并将工程建议与来源观点明确分开。

核心结论

AI小说创作工作流在实际运行中暴露了Eval假阳性问题:系统按照SOP执行、Skill全部运行、Eval判定通过、内部评分良好,但最终作品仍不符合读者阅读需求。这说明内部评分高并不等于实际质量好,流程正确执行不代表业务目标实现。

系统设计需要承认模型允许犯错、流程可能无法收敛。工程建议包括:每轮保存完整版本、自动保留最优版本、设置轮次或资源预算上限、标记未收敛任务、保留Trace供后续优化。系统应具备识别失败和停止资源消耗的能力,而非用更多Token将低收益任务伪装为成功。

能力机制

该工作流并非独立Agent,而是一个同时支持Claude Code和CoDEX的小说创作工作区。整体架构包含以下环节的映射关系:

  • 将小说创作流程定义为SOP
  • 将SOP映射为可执行的Skill集合
  • 继续拆分为选题、正文、品类护栏、验稿、投稿等细分Skill
  • 维护Workflow、Hooks、Memory、Eval、Trace、状态文件和检查脚本
  • 由Claude Code或CoDEX执行完整流程

验稿Workflow中设计了多角色循环检查机制,从多个维度检查正文,发现问题后修改再检查。但问题数量不会稳定下降,可能出现反复波动如2→1→2→4→0→0,且即使最终问题归零,作品仍可能缺乏阅读吸引力。

Trace记录应包含四类信息:每轮发现的问题、解决问题调用的工具或Skill、模型判断依据、正文运行链路和版本变化。这些信息用于对照最终阅读感受,判断是选题阶段、生成阶段、修改过程还是Eval标准本身存在问题。

快速开始

工作流配置涉及的环境变量名称需参考仓库文档说明,密钥不提供示例值。核心运行逻辑由检查脚本和状态文件控制,可通过仓库提供的命令触发完整创作流程。

建议在本地维护每次运行的版本快照,便于后续对比和回溯。

适用边界

该工作流适用于需要批量生成结构化内容的场景,特别是可以明确定义评判标准的创作任务。核心教训同样适用于AI客服Agent等场景:Agent可能正确识别意图、按SOP调用工具、未触发安全风险、回复格式符合要求、离线Eval全部通过,但真实用户仍可能反复追问、重新发起问题或给出低满意度。

边界限制体现在:脚本适合处理输入输出和判断规则可固定的确定性问题,如文件字段完整性、状态流转、步骤执行、输出格式、重复遗漏检查、循环预算控制。而意图识别、文字质感、阅读吸引力、悬念设置等难以固定编码的判断,仍需模型处理,最终可能需要人工阅读感受参与校准。

核验清单

  • Eval标准能否区分真正吸引读者的内容与仅满足技术指标的内容
  • 系统是否有机制识别并标记未收敛任务
  • 每轮运行是否保存完整版本并自动保留当前最优版本
  • Trace记录是否包含问题发现、工具调用、模型判断依据和版本变化四类信息
  • 循环机制是否设置明确阈值或资源预算上限
  • 是否存在对比校准环节:用实际愿意阅读的内容与Eval高分但缺乏吸引力的内容进行对照分析
  • 脚本与模型的职责划分是否清晰,确定性问题是否已交由脚本处理
  • 系统是否能够在达到预算后停止并输出“不可交付”标记

来源与核验

  • 原始文章
  • 页面事实以原始来源及其引用的官方资料为准;版本、星标和模型能力会随时间变化。
  • AI Stack 不公开抓取到的全文快照,只发布独立转写与来源入口。

站内链接

相关文章