Loading video...

Video Failed to Load

Go Home

非常非常值得一看的来自 LangChain 团队的 RAG 视频:当 LLM 的上下文足够长了就不需要 RAG 了吗? —— RAG在长上下文大语言模型(LLM)中的应用探讨 这是Lance Martin最近在几个聚会上关于在长上下文LLM时代使用RAG的讲座。随着上下文窗口增至超过100万Token,很多人质疑RAG是否已经过时。我们结合几个最新的项目成果来分析这个问题。我们讨论了长上下文LLM在事实推理和信息检索方 面现有的限制(采用多针索引分析法),同时也探讨了上下文窗口扩展可能带来的RAG应用场景的变化,如文档中心的索引技术和RAG的流程优化。 幻灯片展示:[查看详情]( 重点参考文献: 1/ 多针索引分析,合作研究者Greg Kamradt [阅读更多]( 2/ RAPTOR研究项目,主要研究者包括Parth Sarthi [项目首页]( [视频介绍]( 3/ Dense-X / 多维数据索引技术,主要研究者Tong Chen [学术论文]( [相关博客]( 4/ 长上下文数据嵌入技术,研究者包括Jon Saad-Falcon, Dan Fu, Simran Arora [研究概览]( [技术教程]( 5/ 自适应RAG (Akari Asai等),及C-RAG (Shi-Qi Yan等) [论文一]( [论文二](...

83,379 views • 2 years ago •via X (Twitter)

10 Comments

dnl 𝕏's profile picture
dnl 𝕏2 years ago

大约明白他最后的意思了,不要分块by chunk 而是预先让LLM总结文档,自描述文档,基于自描述的文档进行RAG

Frank's profile picture
Frank2 years ago

@readwise save thread

wwwwg's profile picture
wwwwg2 years ago

@Memdotai mem it #project #RAG

Mem's profile picture
Mem2 years ago

@dotey Saved! Here's the compiled thread:

Blessky's profile picture
Blessky2 years ago

@memdotai mem it

Mem's profile picture
Mem2 years ago

@dotey Saved! Here's the compiled thread:

Arrow's profile picture
Arrow2 years ago

@readwise save thread @SaveToNotion #thread @threadreaderapp unroll @memdotai mem it

Thread Reader App's profile picture
Thread Reader App2 years ago

@CodeVDriver @dotey @readwise @SaveToNotion @memdotai @CodeVDriver Hallo, you can read it here: Enjoy :) 🤖

zzzzzzoo00oo's profile picture
zzzzzzoo00oo2 years ago

@readwise save thread

小洋's profile picture
小洋2 years ago

@readwise save thread

Related Videos

这绝对是学生党必备的GitHub开源仓库,能一站式帮你搞定搜文献、数据分析等写论文中最麻烦的步骤,而且完全免费! 学生党最头疼的就是写论文和做课题研究,查文献、跑代码,一搞就是两三天,特别是有些关键数据还需要付费才可以获取 而最近我在GitHub上发现了一个免费的AI科研项目,叫ScienceBuddy (PhAI Labs),专为学生和科研人员打造。你只需要在平台上上传论文和相关数据文件,并精准表达需求,ScienceBuddy就能调用Agent去专业数据库中检索文献、收集数据并运行分析代码。整个分析过程全部清晰可见,方便你随时核对 视频中,我选择了相对复杂的医学研究场景对该项目进行了简单测试,想看看它处理多篇专业论文以及梳理研究证据的能力如何。在我上传相关论文后,ScienceBuddy不仅判断了选题是否可行,还将研究方法、结论和局限整理成证据表,并总结研究共识与争议,最后生成论文提纲和摘要草稿。全程运行速度非常快,相当于直接快速完成了文献综述的前期准备 同时在此基础上,ScienceBuddy还帮我继续深入搜索其他文献,并完整生成了一篇3000字左右的论文综述,结果清晰而且写作格式十分专业,个人感觉完全可以直接用于正式论文里了。整体体验下来,我认为对学生来说该工具是非常必要的,能节省非常多的时间 另外,ScienceBuddy背后的团队也开源了ScienceIDE,其是 ScienceBuddy 的底层框架技术,现能让Agent在7个领域的真实科研代码中练习,并通过结果能否复现来验证修改是否有效,大家感兴趣也可以看看!!! 目前项目的 ScienceBuddy 相关实验代码已经在GitHub上开源,感兴趣的同学可以去官网免费体验。不过考虑到当前仍是Preview版本,分析结果请自行核验后再用于正式研究 官网地址: GitHub仓库地址:

Sac

41,468 views • 6 days ago

“芒格100模型”研究 X google deep research with gemini 2.5 pro:9分钟,62个英文参考资料(实际访问了数百个网站),输出2万多字中文报告,100模型实际解读13个,任务完成率13%(这不是偶然,下文详解)🤣 一句话结论:单单从”研究芒格100模型“任务看,google deep research得分不超过30(满分100)。 prompt(和openai案例完全一致): > 大航海时代,海盗中间流传着一个传说:海贼王在大海深处埋藏着它的宝藏,找到它的海盗将获得力量、荣耀与权力。互联网上也有一个传说,charlie munger 有 100 个思维模型,掌握这 100 个思维模型的人将拥有大智慧,成为真正的聪明人。 > > 请帮我做一份研究,关于“查理芒格的 100 个思维模型”。包括这种说法的来源,100 模型的内容,以及对 100 个思维模型的每一个进行简要介绍。 > > 介绍每个思维模型时,说明它是什么,为什么重要,举个例子,应用场景。 > > 使用英文搜索,只采纳英文资料(因为互联网上英文资料在数量和质量上都是最好的),用中文回答。 我自己的思考: 1、100个模型只解读了13个,这不是偶然。我做了一个测试,让openai deep research一次性研究包含300本书的书单,o3驱动的deep research产出了史上最长的报告,覆盖了300本书,最终报告6万多字(一个推友研究NBA球队,单个球队的研究报告也到了6万多字)。但是,之前gemini 2.0 flash驱动的google deep research,5千字就糊弄教材,实际完成1/3都不到。 2、为什么gemini 2.5 pro deep research会“糊弄”?要么是指令跟随能力不行(听不懂prompt)?要么是底层模型的推理能力不行?要么是上下文窗口限制?是否还有其他可能? 3、语言质量、报告结构上,这些没有硬性评价标准,每个人观点不同。我从这个案例中的观察是,google deep research有改善,但是确实和o3有差距; 4、context window之迷:gemini 2.5 pro有100万的上下文窗口,为什么只能产出2万字的报告?openai模型的上下文窗口是gemini的1/5,但是,产出报告的细致程度和质量为什么会更高?o1的上下文是20万,输出长度是10万;我估计o3的上下文可能是40万,输出长度可能是20万(毕竟,最终报告6万多汉字,加上中间的思维过程)。 初步个人结论:gemini 2.5 pro口碑这么好,deep research 应该是能用的(毕竟我只测试了一个极端的研究案例,后续我会从我的200多个openai deep research案例中精选出来对比测试)。但是,“一分价钱一分货”的道理目前仍然成立。 google 和openai 报告全文 link 在评论区。👇

howie.serious

96,912 views • 1 year ago

REFRAG:Make RAG Great Again Meta 超级智能实验室(Superintelligence Labs)招了那么多牛人,第一篇论文有点出人意料——他们选择先来优化一下我们已经很熟悉的 RAG(检索增强生成)。 最近 RAG 风评不佳,速度慢,检索精度不高,尤其是现在 Agent 势头正猛,很多人都觉得 RAG 已死,而 REFRAG 则给人以“Make RAG Great Again”的感觉。 先看数据: - 首次生成延迟(Time-to-First-Token)缩短了整整 30.85 倍(远超之前最先进方法 3.75 倍) - 能够处理的上下文长度增加了 16 倍 - 在16项主流RAG任务上,全面超越 LLaMA 等之前的明星模型。 - token 使用数量降低了2-4倍,意味着算力消耗更低。 - 在摘要、多轮对话、检索问答等场景下,没有任何精度损失。 我本来以为技术很高深,但学习了一下发现原理我也能懂,都不需要等马老师 马东锡 NLP 讲课了。 不得不感叹:有时候你以为理所当然的事,结果牛人就是能提出一个更好的方案,让你一拍大腿:“原来还能这样。” 传统的 RAG 方案很多人已经不陌生了: 预处理:文本分块 -> 向量化(Embedding) -> 存向量数据库(通常还会存 Meta 信息,方便找到原始文本和位置) 检索:用户输入 -> 向量化 -> 向量数据库检索 -> 返回 Top-K 相关文本 生成:将 Top-K 相关文本和用户输入一起拼接成 Prompt -> LLM 生成 -> 返回结果 这样做,确实能解决不少问题,但也存在一些问题: - 绝大部分检索出来的内容其实和用户的问题并不相关。 - LLM 被迫要处理大量无用的文本。 - 计算成本高,速度慢,延迟长,上下文空间还被浪费了。 那么 REFRAG 是怎么优化的呢? 它的做法很巧妙,就是检索的时候,返回的结果不是文本块,而是文本块的向量,只有少量重要的文本块的向量会返回原始的文本内容,其他的文本块只返回向量。这样既节约了上下文空间,也让 LLM 能够专注于处理重要的文本。 这可能有点不好理解,来打个比方: > 我们有一个百科全书,我们把每一页纸生成一张缩略图(向量),然后把这些缩略图和对应的百科全书页码存到数据库里。现在用户来问问题,我们先把用户的问题也生成一张缩略图,然后在数据库里找出和用户问题缩略图最相似的前 K 张缩略图。假设我们找到了 10 张缩略图,其中有 2 张是非常相关的,我们就把这 2 张缩略图对应的百科全书页码和内容都返回给 LLM,其他 8 张只返回缩略图和页码,不返回内容。这样 LLM 就能专注于处理这 2 页重要内容,而不是被其他 8 页无关内容干扰。而且内容少了,上下文不容易被占满,而且有其他内容的缩略图也可以帮助更好的理解上下文,必要的话还可以二次请求获取更多详细信息。 就好比过去我们逼着模型“看整本书”。而现在让模型先“看缩略图墙”,只在关键处“点开原文”。 这就解决了三个痛点: - 首字节很慢 → 少传大量 token,更快开始说话。 - 显存/KV 压力大 → 输入更短,占用更小,同卡跑更多并发。 - 吞吐不稳 → 注意力计算随 token 增长很快;压成向量后,每次算得更轻。 在哪些场景有用呢? - 客服问答、知识搜索、长文总结、垂直智能体:资料多但不需要句句逐字引用。 - 多轮对话/很长上下文:能把中间那些“参考资料”大部分用缩略图带着走。 但可能不适合的场景: - 严格引用/逐字精确(法律、医学、合同条款等):需要更高“点开原文”的预算,甚至干脆多给 token。 - 知识库更新很频繁:要有快速重算向量的管线,否则可能“新知识不新”。比如像代码库,还不如用 Greg 更简单方便。 - 团队工程能力有限:要训练/对齐“缩略图制作器”和“点开什么”的策略,落地不等于即插即用。 其实这还有一个启发,也许以后模型内部的通信,真的不需要用人类的语言了。模型之间可以直接交换“向量”+“元信息”,而不是“文本”,这样效率会更高。

宝玉

83,718 views • 11 months ago

向量数据库脑电图来啦! 把一大堆文档拖进 RAG,然后提问题,结果大模型回答的驴唇不对马嘴,是不是会怀疑大模型到底是怎样在向量数据库检索的, 才能搞成这个熊样? 来看这个 RAG 可视化项目 Project Golem! 它把向量数据库从黑盒变成了一个可交互的 3D "大脑皮层"。使用 UMAP 算法将 768 维的嵌入向量降维到 3D 空间,当你输入查询时,它不只是返回文本,而是会"点亮"与你的查询相关的神经通路。 这个项目的设计初衷是作为 RAG 的诊断工具。当检索失败时,你可以亲眼看到"思考"从嵌入查询出发所走过的精确路径。 如果看到一个紧密的簇亮起,说明模型找到了一个连贯的概念。如果可视化看起来很分散,那就意味着检索到的文本块在语义上彼此相距甚远,这正是你需要的视觉提示,告诉你 RAG 正在幻觉或强求关联。 技术栈方面,嵌入模型用的是 Google 的 embedding-gemma-300m,向量数据库是 LanceDB,前端是 Three.js 和 WebGL,后端是 Flask。 项目已经在 Reddit 的 LocalLLaMA 社区获得了 200 多个赞。有用户说这看起来真的像大脑中神经细胞的激活。还有用户说这对数据库优化太棒了,当某个查询表现不佳时,能立刻调出投影,瞬间获得一把手术刀。 项目还支持对接 Qdrant、Pinecone 等外部向量数据库,架构是解耦的,3D 查看器本质上是一个位于数据之上的界面,你无需移动数据,只需将其投影出来即可。 项目地址:

karminski-牙医

34,099 views • 8 months ago