基本信息
- 来源: juejin
- 原始来源: https://juejin.cn/post/7649642814956568628
来源摘要/节选
公开展示已截断至最多 800 个字符;请访问原始来源查看完整上下文。
从前端工程向 AI 应用工程师转型快一年了,最近突然想写一点自己的感受和一些想法。这里就来跟大家聊一下,既然模型会越来越强,我们这些所谓的 AI 应用工程师做的事情,还有存在的必要吗 核心探讨:AI 应用工程的本质矛盾 随着基础模型能力的不断跃升,很多 AI 应用开发者都会产生一个真实的焦虑: 我们这么努力地优化 Agent 工程,是不是不如模型侧的一次升级? 比如在代码编写和分析场景中,模型之所以能知道如何使用工具读写代码,本质是因为训练数据中包含了大量代码和工具使用的 RLHF(基于人类反馈的强化学习)。如果给模型一些相对冷门的工具,它甚至不会去使用。 这种现象说明, 很多 Agent 工程的努力,本质上是在对冲模型的不足 。模型变强,这部分工程价值似乎就会被压缩。 然而,这个问题的答案并非非此即彼,而是需要理解两者在价值链上所处的位置。 模型提供概率,工程提供确定性 第一,模型升级的速度不均匀,工程填补的是“当下的缺口”。今天某个模型在长上下文推理上有缺陷,明天另一个模型补上了,但又在工具调用稳定性上出现了新问题。工程层永远在填补“此时此刻”的缺口,这个需求不会消失,只是内容在变。 第二,模型解决的是通用能力,工程解决的是特定场景的可靠性。一个模型能“大概率”写出正确代码,和一个系统能“在生产环境稳定地”完成代码审查任务,是两件事。后者需要错误重试、上下文管理、工具编排、结果验证等。 模型提供概率,工程提供确定性。 第三,真正的壁垒在于“冷门”工具和私有数据。如果一个工具已经在模型训练数据里,它的使用门槛极低,竞争激烈,利润薄。真正有壁垒的业务场景,往往是那些“冷门”的、私有的、领域专属的工具和数据。让模型学会用这些工具,才是应用层工程师的核心竞争力。 第四,模型升级本身也需要应用层来“接住”。模型是基础设施,应用工程是把基础设施变成用户价值的桥梁。…
来源说明
当前只保存了公开页面节选,不代表原文全文。请以原始来源为准。
本页只呈现已做哈希绑定的来源证据,不包含基于旧正文或缺失原文的扩展推断。