基本信息
- 来源: juejin
- 原始来源: https://juejin.cn/post/7613971395928408091
来源摘要/节选
公开展示已截断至最多 800 个字符;请访问原始来源查看完整上下文。
本文译自「On-Device RAG for App Developers: Embeddings, Vector Search, and Beyond」,原文链接 medium.com/google-deve… ,由Sasha Denisov发布于2026年2月21日。 我们已经探讨了 离线 AI 代理的重要性 和 如何通过函数调用赋予它们工具 。现在,让我们通过赋予它们 记忆 ——即使用 RAG(检索增强生成)搜索和检索你的私有数据——来完善整个图景。 当我开始构建 Flutter Gemma 时,开发者们提出的第一个问题是:“如何让 AI 了解我的数据?” 不是维基百科,也不是通用知识——而是他们应用的数据。用户、联系人、文档。这正是 RAG 填补的空白。想象一下,你正在构建一个带有 AI 助手的个人 CRM 应用。你的用户问:“我应该跟进上周会议中的哪些人?” 挑战在于:AI 需要访问 你的 数据——你的联系人、你的对话记录、你的业务背景——而不是它训练时获得的通用知识。 问题:大型语言模型不了解你的数据 大型语言模型基于海量的公共数据(维基百科、书籍、网站)进行训练。它们在通用推理方面表现出色。但他们对你的联系人、会议记录,甚至昨天与客户的对话都一无所知。 如果你问一个普通的LLM(客户关系管理)“我应该跟进上周联系的哪些人?”,你得到的要么是“我没有权限访问你的联系人”——虽然诚实但毫无用处——要么是一个自以为是、信誓旦旦地给出错误姓名和细节的答案。 有几种方法可以让LLM访问你的数据。我们来逐一看看。 方法A:把所有信息都塞进提示框 最直接的解决方法——把所有数据都塞进上下文。提示:“以下是我所有的联系人:- Sarah Chen,谷歌,企业级负责人……,- Mike Ross,Meta,潜在客户……,- …(还有498个联系人)我应该跟进谁?…
来源说明
当前只保存了公开页面节选,不代表原文全文。请以原始来源为准。
本页只呈现已做哈希绑定的来源证据,不包含基于旧正文或缺失原文的扩展推断。