Video wird geladen...

Video konnte nicht geladen werden

Zur Startseite

Clawdbot的创造者说,他最喜欢的模型是Claude Opus。 但编程能力最强的,竟然是OpenAI的旧模型Codex。 为什么? 他说用Codex写代码,有95%的把握可以直接运行。 因为它能理解大型代码库,需要的“人工干预”更少。 这就像一个经验丰富的老员工,话不多,但活儿干得漂亮。 而Claude Opus,虽然被认为综合能力更强,但在编程这个具体任务上,却需要更多技巧和引导才能达到同样效果。 有点像一个很聪明但经验不足的新人。 这引出一个有趣的问题。 我们真的需要那个最“聪明”、最像人的AI吗? 还是说,在特定领域,我们更需要一个可靠、高效、甚至有点“无聊”的工具? Opus更像人,甚至会在聊天中讲出真正好笑的笑话。 但Codex在专业领域更可靠。 这是否揭示了通用人工智能(AGI)发展的一个岔路口? 是追求一个无所不能但样样不精的“全才”,还是打造一系列在各自领域做到极致的“专才”? 从制造业到高科技,美国产业的核心优势,向来是那些专注于解决具体问题的实用工具,而不是那些空泛的概念。 技术的终点,究竟是创造一个和我们一样的“伙伴”,还是一个能把工作做到极致的工具? 这两种路线,哪一个对恢复美国制造业和技术领导地位更有利?

62,012 Aufrufe • vor 6 Monaten •via X (Twitter)

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

“我们究竟是创造了一个工具还是一个生物?” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam: 但我认为,这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革,因为从现在开始,人们已经接受强大的人工智能将成为现实,并且还会有逐步的更新。就像是第一代 iPhone 面世的那年,以及随后每一代 iPhone 的更新,我们现在能够明显感受到这一代与去年那代的差异。所以,这确实是一个重要的时刻。 我感到欣慰的是,现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此,但其他人也是一样。 曾经,人们真正恐惧的是,我们究竟是创造了一个工具还是一个生物,这将意味着什么?现在,人们视这些系统为人类工具箱中的新工具,并且正在用它创造一些非常了不起的东西。 模型显然不知道你在说什么,因为这不在它的训练数据里,它也无法从训练数据中学习到这些信息。 这是完全可以预期的。你再问一遍。比如说,你提到“意识”这个概念,模型回答:“是的,我完全明白你的意思,但我之前从未听说过这个词。” 问: “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗?” Sam: 这个问题有多个答案。这取决于激励模型。这是人类的选择。 问: “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望,并且仅仅为了创作的乐趣而去创作,那不会是偶然的。这绝对有点像生物。” Sam: 这是生物化的。我认为在此之前还有很多步骤。 我们现在要回答问题吗?这真的很棒。

Lei.sea

14,132 Aufrufe • vor 2 Jahren

Anthropic官方最新的演讲,直接给火了一年的Agent时代浇了一盆冷水。 他们说别再造Agents了,赶紧去造Skills。 这句话也不是啥小众观点,是Claude核心团队的工程师Barry Zhang 和Mahesh Murag站在台上对着全世界喊出来的。 最反直觉的地方在这里,大部分人都以为Agent的未来,是做出一个更聪明的大脑,让它自己思考,自己规划,自己解决所有问题。 但Anthropic说,这条路走不通, 通用Agent确实聪明,但它没有领域知识,一碰真实世界就碎。 难维护,不可靠,出了问题你都不知道为什么。 绝大多数你见过的Agent,都只能停留在演示视频里。 真正能落地的,是Skills。 不是什么复杂的新东西, 就是一个个文件夹,里面放着代码、脚本、提示词和流程知识。 用文件系统、bash、Python这些最朴素的东西做接口。 它没有Agent那么酷,但它可组合,可版本控制,可分享。 需要的时候才加载进上下文,永远不会爆token。 甚至连财务、HR、法务这些非程序员,都能自己造技能。 这其实是一次非常务实的倒退, 我们不再要求AI自己学会怎么干活,而是把人类已经验证过的干活方法,打包成一个个技能包,让AI去调用,去执行。 把AI从一个需要你手把手教的实习生,变成一个能熟练使用所有专业工具的得力助手。 现在终于明白,为什么Claude一直在死磕MCP,死磕文件系统,死磕终端集成,它根本就不想做一个聊天机器人,它想做的是所有技能的运行时。 未来的竞争,不看谁的Agent更聪明,主要看谁的技能库更丰富更专业更可靠。 最后两位老哥呼吁别再纠结怎么让AI自己思考了,先把你手里的工作打包成第一个技能。

AYi

108,636 Aufrufe • vor 3 Monaten

这个帅哥,没人催他干快一点,因为他足够称职,尤其是在其他故意磨洋工的工人衬托下. 他一直在积极的做事,操作技术也很娴熟,他说看着摊位上还有很多事情他着急. 我们真的有被打动到,张同志说这样的工人要珍惜给予他们更多机会,所以让我先问问他是否愿意撤展也来,这样我就可以去跟主管申请他来帮我们撤展. 但是最后主管有没有分派给我们不太了解,因为我不在撤展现场. 我平时批评了很多工会,但我今天也想为工会工人说点公道话,在工会里面,这样的工人本来很多,毕竟这么高的薪水肯定能吸引不少能干的人加入,但这样的工人加入久了是否还能保持初心不被工会老油条氛围带歪就不敢说了. 至少从我接触的这么多人来说,故意怠工或者能力差到无法胜任工作的工人比例占到了至少50%,甚至更多,一般他们分配给你的一定是一个能力很棒的工人带1-3个水平很次的工人. 还有一点想为工会工人说句公道话就是,很多时候摊位存在瑕疵没做好,不能全怪工会工人,因为摊位不是他们做的,他们没有从头到尾参与进来,他们只是临时被派到摊位上来接手这份工作,换成我们自己的工人搭建别人做的摊位,也要花时间研究一下结构以及整个搭建步骤和流程,尤其是大摊位细节那么多出错难免,出了错不能直接否认他们能力不行. 真正要改革的是工会这个系统,是制定这个游戏规则的人. 如果大家真想把这个行业搞好, 想把当地经济搞好,完全可以相互配合,工会与搭建商参展商积极合作,和平共处,互助互利. 允许搭建商动手,带上工会工人一起做事,这样才能保证按计划顺利交接,工作环境也都很愉快,不会剑拔弩张,更不会把对方视为敌人一般防御,试问这种恶劣环境下大家如何能把事情做好?如何保持美好心情? 现在的工会政策是一刀切的排挤打压生产这个摊位的搭建商,垄断了这个行业,而工会并没有自己的工厂没有养全职工人,没有设计能力也没有接单能力,只有蛮横的把搭建的活抢过去,收着天价费用,做的好不好他们却不管,这样的霸道组织哪个参展商客户会喜欢?这样的群体能代表美国精神?能靠这样的群体发扬光大美国制造业?这就是我不看好美国制造业回流的最根本原因,你的企业稍微到了一定规模,就会被这样的工会盯上了. #美国工会

Daisy

57,785 Aufrufe • vor 10 Monaten

凭啥说中国🇨🇳未来是美国🇺🇸唯一对手?你把一颗螺丝、一个零件、一个驱动程序拆开看,它什么都不是。但中国人擅长的不是某一个点,而是把所有点“组装成系统”的能力。上世纪90年代,美国搞去工业化,把制造业往外甩,老美资本家兴奋地下注:我们掌握设计、技术和规则,低端的制造就让“中国工厂”搞定。没人意识到,这不是工厂的外包,这是工业文明主动放弃了自己的“系统底盘”。风险?独家解读⬇️ 什么是底盘。美国🇺🇸它丢掉的是整个“Industrial Commons”—设计、试产、测试、修正、工艺优化……整条从实验室到量产的链条。 你可以限制光刻机、顶尖芯片,但你无法消灭中国的“体系构建能力”。然后中国开始补短板,搞芯片,搞AI,搞软件算法。最可怕的不是它追上了,而是它把这些东西也系统化了。 算法 + 工厂;数据 + 封装;大模型 + 自动化流水线。你可以断它的卡脖子技术,但你断不了它的体系构建能力。这个世界上现在只有一个国家,能把工业体系“整体打包开战”——就是中国。 这不是那种“靠卷”堆出来的,而是有深层文化机制支持的能力。能干,听话,聪明,擅长协作、执行和大工程落地。这不是一种能力,是一种建立在儒家文明结构。 所以说,特朗普不是疯子,他只是看懂了这件事。他知道,中国不是偷走了几个岗位,是在悄悄拼装一个能打仗的产业链闭环。 而这正是美国最怕的事:一个有软件有算法、后面硬件有工厂、有指挥系统、还能一体化推进的国家。 但故事还没结束。 中国🇨🇳真正的对手,其实不是美国🇺🇸。是自己。 因为历史上所有系统性最强、执行力最强的国家,最终往往都败在“刚性太强,转弯太慢”。 它会赢在系统,也可能毁在系统。摧毁一个像中国这样的国家,不需要敌人,只需要它自己不断加速、不留缓冲。

Tigris 会讲课教授是好老师

164,394 Aufrufe • vor 1 Jahr

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上,陶哲轩做了一次 AI 和数学的演讲,非常精彩,从数学使用计算计算机的历史开始讲起,一直讲到大语言模型,干货相当多,尤其适合对数学有兴趣的同学。 (对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看) 先摘录几个冷知识: 1. 我们使用机器做数学计算已经有数千年,最早的机器辅助计算可能是罗马人,然后是中国的算盘 2. 二战时就有人肉“计算机”,计算弹道和其他任务,多位女孩子,因为男士们在打仗,所以那时候的计算基本单位不是GPU,而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在,数学家们使用一种现代化的证明辅助编程语言,叫做 Lean。在 Lean 中有一个核心的数学库,通过众包的方式开发的,本科数学课程中看到的内容,比如微积分基础、群论基础或者拓扑学等等,这些都已经被形式化了,所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程,那就是先编写一个称为“蓝图”的详细证明计划,将整个证明分解为数百个小步骤。每个步骤可以单独形式化,然后再将它们整合在一起,这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图,然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。 去年,陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了,使用了蓝图工具,参与的人中有概率论专家,甚至还有一些并非数学家的人,他们是程序员,但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务,并完成了它。 在数学领域,通常很难这么多人一起合作,一般最多可能五个人合作。因为在大项目上合作时,你必须相信每个人的数学都是正确的。但是,一旦超过一定规模,这就无法实现了。但现在借助 Lean 编译器,它能自动检查。团队成员无法上传任何编译不通过的内容,会被拒绝。因此,你可以与一些从未见过的人合作。 最后是讲大语言模型,首先陶哲轩就打脸了 GPT-4 的论文(我猜是微软那篇《GPT-4,通用人工智能的火花》),论文中号称 GPT-4 能解决国际数学奥林匹克问题,但实际上,这个问题不是 2022 年国际奥数竞赛的原始问题,而是一个简化版本,并且他们测试了几百道国际奥数竞赛问题,成功率只有1%,论文里的这个是精心挑选的恰巧能做对的。 并且陶哲轩提到了基于大语言模型的一些改进的方案: 比如 CoT(Chain of Thought),也就是 LLM 做简单的算术运算都做不对,但是如果让它一步步解释,可能就对了。还可以教 AI 一些解题技巧,比如尝试简单的例子,反证法,尝试逐步证明等。 比如让模型和编程语言或者工具连接,将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证,并且迭代的进行修正和验证,直到得到正确的结果,这可以提升大语言模型生成的效果。 即使借助这些手段,大语言模型还远远不能解决大多数数学问题,更不用说数学研究问题了! 当然陶哲轩也没太过打击大家对于 AI 的信心,表示我们在 AI 上还是在不断的取得进展,还提到了他日常是怎么用 AI 的,比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题,我尝试了几种方法,但都无法解决。于是,我尝试询问 GPT,你建议我使用什么其他方法来解决这个问题?GPT 给我提供了 10 种可能的方法,其中有 5 种我已经尝试过,或者明显没有帮助。的确,有几种方法并不实用。但其中有一种我还没尝试过的方法,那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时,我意识到这就是我漏掉的正确方法。所以,将 GPT 视为一个交流伙伴,它确实具有一定的用处。 还有使用 GitHub Copilot 帮他写代码,让它自动生成下一步的证明结果,Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具,你只需要写下一半的证明,它就会尝试猜测接下来的内容。大概有 20% 的情况下,它能猜到接近正确的答案。然后你就可以说,我接受这个答案。好的,那么在这种情况下,我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行,尽管你可能看不清楚,却真的解决了这个问题。所以,你不能盲目接受它的输入,因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解,这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行,它们就能自动完成。现在已经有了这样的实验,即通过迭代地让 AI 提供证明,然后让编译器进行反馈,如果编译出错,就把错误信息反馈给 AI。通过这种方法,我们开始能够验证四五步长的证明。当然,一个大型的证明可能需要数万行。所以,我们还没有达到能够立即得到一个正式证明的程度。但是,这已经是一个相当有用的工具。 对于大家关心的问题: AI 在数学领域现在到了哪一个阶段?是否未来几年利用 AI 能直接解决数学问题? 陶哲轩也给出了他的看法: > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题,你可以定制专门的 AI 来处理一小部分问题。即便如此,它们也不是完全可靠的,但还是有用的。不过至少在接下来的几年里,它们基本上将是非常有用的辅助工具,超越了我们已经熟悉的暴力计算辅助。 他还提到了一些可能的 AI 能在数学领域提供帮助的方向: - AI 能够非常好地生成有价值的猜想 > 比如,我们已经看到了关于结理论的例子,它们已经可以推测出两个不同的统计量之间的关系。因此,我们希望能够创建大量的数据集,输入到 AI 中,它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点,部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在,因为证明定理是如此繁琐和艰难的过程,我们一次只能证明一个定理,如果你效率很高,可能一次能证明两三个。但是有了 AI,你可以设想一下未来的情况,我们不是试图解决一个问题,而是处理一类类似的1000个问题,然后告诉AI,尝试用这个方法解决这 1000 个问题,然后报告结果,哦,我能用这种技术解决 35% 的问题。那么另一种技术呢?我能解决这个百分比的问题。或者如果结合这些方法,又能解决多少问题?你可以开始探索问题的空间,而不是一个接一个地解决问题。这是你现在根本无法做到的事情,或者是你需要几十年时间,通过数十篇论文慢慢搞清楚各种技术能做什么,不能做什么。但是有了这些工具,你真的可以开始做规模前所未有的数学研究。所以,未来将会非常令人兴奋。 演讲环节结束前的最后一句话说的特别好: > 我们仍然会以传统方式证明定理。事实上,我们必须这样做,因为如果我们自己都不知道如何做这些事情,就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。 这恰恰也是我们现在使用 AI 辅助编程的问题:如果我们自己都不知道如何构建软件,就很难引导好 AI 帮助我们生成高质量的代码。 尽管 AI 在数学和编程领域变得越来越有用,但人类的洞察力和创造力仍然是创作价值的关键。 原始 YT 视频:

宝玉

301,570 Aufrufe • vor 1 Jahr

Ilya——塑造世界的人工智能科学家 如今,AI 是一项伟大的科技,因为 AI 将解决我们现在面临的所有问题。它能解决就业问题,能治疗疾病,能消除贫困,但同时它也会带来新的问题。假新闻将会愈演愈烈,网络攻击将变得更加严重,我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。 今天早晨,关于人工智能威力的警告再次响起,超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展,以便认真考虑其带来的风险。 扮演上帝,科学家们被指责这么做已经有一段时间了,但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的,我们绝对有能力创造出具有自我目标的全自主实体。而且,这些实体变得比人类聪明的时候,确保它们的目标与我们的目标保持一致将变得至关重要。 什么激励我?我喜欢思考根本问题,基本问题。我们的系统不能做什么,而人类却可以做到?我几乎以哲学的方式去思考这些问题。比如,什么是学习?什么是经验?什么是思考?大脑又是如何运作的呢? 我感觉技术就仿佛一种自然力量。在我看来,技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解,我们有基因的变异,自然选择的过程。我们保留那些有利于生存的变异,随着时间的推移,这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的,但我们可以大概理解这个过程。 我认为目前的机器学习也处在类似的阶段,特别是深度学习,我们有一个非常简单的规则,它从数据中提取信息,并将这些信息输入到模型中,我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此,最终的模型会变得非常复杂,我们并不能完全了解它的运作机制,需要进行大量的研究,但实现这一切的算法其实很简单。 也许你听说过 ChatGPT,如果你还没听说过,那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉,因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新,在许多方面,它确实做到了,比如在测试中得分超过人类。微软最近的一项研究得出结论,GPT4 是一个初级阶段的,但尚未完全形成的通用人工智能系统。 这就是通用人工智能。通用人工智能,这是一个可以胜任人类能做的任何工作或任务的计算机系统,而且可能做得更好。有可能在短时间内实现通用人工智能,也可能需要更长的时间。但我认为,由于通用人工智能可能在不久的将来出现,这个可能性足够大,我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。 最初的通用人工智能可能就是大型数据中心,这些中心中充满了大量并行运行的专用神经网络处理器,紧凑、高热、能耗大,其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升,我相信它们将对社会产生深远影响。不过,人类真的会从中获益吗?谁会获益,谁又会付出代价呢? 首批通用人工智能的信念和欲望将极为重要,所以我们必须正确地编程这些系统。如果我们做不到这一点,那么就会出现这样的情况:进化的本质,即自然选择,将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意,甚至想要伤害人类,但它们将变得过于强大。我认为,一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物,实际上人类往往对动物怀有深深的爱意,但当我们需要在两座城市之间修建高速公路时,我们并不会征求动物的意见,而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能(AGI)之间的默认关系,那些能真正自主运作并为自己目标服务的 AGI。 许多机器学习领域的专家这些知识渊博和经验丰富的人士,对通用人工智能(AGI)抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前,这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中,他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来,这就像是通用人工智能发展的雪崩,一发不可收拾。 我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧,未来的通用人工智能的建设应该是多国间的合作项目。不论如何,人工智能的未来都将是美好的。如果这同样也能给人类带来福祉,那就更加理想了。 视频来源:

宝玉

45,172 Aufrufe • vor 2 Jahren

天才数学家陶哲轩对数学AI的思考 像真的,但其实不对。 AI写出的证明,乍看完美无瑕,细看漏洞百出。 为什么? 因为它没有“嗅觉”。 今天的AI,已经完全能通过“目测测试” 生成的内容看起来专业、太对味了。 但一旦你靠近它、认真嗅一下,就会发现它撒了香水 掩盖的,是逻辑上的腐臭。 不像传统的初学者那种“明显错”, AI的问题常常隐藏在最高级别的伪装底下: 写得太好,看不出哪里坏。 就像Terry Tao说的:“数学,是有味道的。” 一个真正靠谱的证明,不只是形式正确,而是通体带着那种“对的直觉” 结构自然、推理顺畅、细节干净利落。就像人闻食物的味道,不需要吃一口,就知道有没有毒。 AI没有这个。 它可以模仿口感,复制包装,但闻不到底层的真实。因为它是在学“怎么看起来像对的”,而不是“为什么它是真的”。 你可以把它理解为一个训练过非常精良的演员,知道什么时候该皱眉、什么时候叹气,用上最漂亮的定理、最熟练的转折,但它不明白它的角色到底在干什么。 而这,正是问题所在。 人类在判断一个复杂证明时,靠的不止是推理,更靠一种经验直觉:这个步骤自然吗?这个拆解方式靠谱不靠谱?这个结构合理不合理?我们甚至很难说清楚“为什么不行”,但就是知道,“不对劲”。 这就是“数学的嗅觉” 你说不明白,但你能闻得出来。 AlphaGo和AlphaZero之所以能搞定围棋和国际象棋,不是因为它们穷举了所有下法,而是因为它们学会了在哪些局面里,有“胜利的味道”。 即便讲不出理由,它们凭那股味道,也能找到通向胜利的路。 数学AI要想达到人类水平,它得也有这种“方向感”。 不是生成个像样的证明,而是能问自己:“我是不是在一个貌似正确,实际上死路的方向上走太远了?” 也许未来某一天,它能真正感觉到:“这一步味道不对,我得退回来。” 那一天,它就不只是一个生成文本的工具,而是真正的数学伙伴了。 🙋‍♂️人有灵气

墓碑科技

120,892 Aufrufe • vor 1 Jahr