Загрузка видео...

Не удалось загрузить видео

На главную

这个博主叫real屠龙的胭脂井 在复旦的这场分享里 对品牌营销的拆析鞭辟入里 一看就是经过大量减法后找到的更加底层的东西 不知道这些学生会不会在很多年后才能理解这场分享的价值 这个博主是有脑科学和认知科学背景的 我觉得这在AI时代至关重要 尤其是利用建模来辅助决策 我认为做任何事都应该这样 做营销更应该计算数据 但怪就怪在 大部分从业人员 都缺少这种最基础的认识 往往依靠一个错误的虚荣指标指导自己进行愚蠢的工作

998,315 просмотров • 2 месяцев назад •via X (Twitter)

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

樊登:我所学的心理学知识里,哪一个最有用?我就认为是认知失调 认知失调是费斯汀格发现的,这是哈佛大学一位传奇式的心理学家。什么叫认知失调呢,伊索寓言里面讲,狐狸吃不到葡萄说葡萄酸,这就是最典型的关于认知失调的隐喻,因为我们的内心无法接受失调,我想吃葡萄,但是我吃不到,我很难受,这就叫失调了。 失调了以后,我怎么解决这个认知失调呢,有一种办法是我去努力的吃到这个葡萄,但是这很难,所以更简单办法是,我说它是酸的,这就是解决认知失调。 认知失调最有名的一个实验是费斯汀格做的,他卧底在一个邪教组织里,那个邪教组织宣称,新年的这一天,地球要毁灭了,外星人会来拯救他们整个教派,让所有人把财产全捐了,捐完了以后,因为地球要毁灭了,大家都在祈祷,等着这个外星人来拯救,所以费斯汀格也坐在里面等。等到午夜过后,地球也没有毁灭,他觉得很尴尬,他觉得这个教主就要完蛋了,教主应该出来跟大家道歉,结果没想到,所有的这些被骗的受众依然拥戴教主,他们说,因为教主跟外星人做了沟通,现在外星人放过了整个地球,这就是解决认知失调,因为他已经相信了这个教主是一个神人,所以维护自己以往投资在这个教主身上的信任,他会编出另外一个理由,来证明这个教主没错。 你们有没有见过很多老年人被骗,被骗了很多钱以后,坚定的相信他没有被骗,就是子女再怎么劝他,说那是骗子,你不要再给他钱,老人就不信,他会想尽一切办法告诉孩子,那个人是个好人,这就是认知失调,因为他更不愿意接受自己被骗这个事情。 所以人为了解决认知失调会付出巨大的代价,那你说这个东西有多大的意义呢,这个意义实在是太大了,你就比如说,我为什么告诉大家你不要逼着孩子学习,当你逼着孩子学习的时候,孩子永远没有机会认识到他是爱学习的,而只有你不管他,他还能拿起了书本去读,拿起了作业去写,他才知道自己是爱学习的,这就是认知失调在积极正面事情上的应用。 比如说,王阳明、曾国藩他们为什么能够做事做的很好呢,叫“制心一处”,“制心一处”什么意思,就是我不花力气去解决我的认知失调,而是把关注点放在当下,努力做我此刻所能做的事。所以我基本做事的方法就是永远做可以改变的东西,而不是去让自己的内心平衡,这就是认知失调在生活中的应用。

喂马劈柴

15,283 просмотров • 5 месяцев назад

Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈(四/完结) 关于大语言模型对经济的影响以及学术界的选择 学生:大语言模型的经济影响,比如劳动力市场的影响,比你最初预期的要慢。Chegg(在线教育技术公司)和一些服务人员受到了影响。你认为学术界应该获得AI方面的补贴,还是应该选择与业界的大公司合作? Eric:我非常努力地推动为大学建立数据中心。如果我是这里的计算机科学系教师,我会非常失望,因为无法与研究生一起构建能够进行博士研究的算法。我被迫和这些公司合作。我认为这些公司在这方面并没有表现出足够的慷慨。我与许多你们认识的教师交谈,他们花费大量时间等待Google Cloud的配额。这是非常糟糕的情况。这个领域正在快速发展。我们希望美国能胜出,我们希望美国的大学——出于多种原因,我认为正确的做法是把资源提供给他们。我在这方面做了很多努力。 至于劳动力市场的影响,我将这个问题交给这里的真正专家。作为Eric教导的业余经济学家,我坚信那些接受过大学教育、从事高技能工作的人将会适应,因为人们将会与这些系统一起工作。我认为这些系统与以往的技术浪潮没有区别。那些危险的工作和不需要太多人为判断的工作将被取代。 关于计算机科学教育的未来 学生:我对“文本到行动”及其对计算机科学教育的影响非常感兴趣。你认为计算机科学教育应该如何变革以适应新时代? Eric:我认为计算机科学专业的本科生群体将始终有一位编程搭档。因此,当你学习你的第一个for循环时,你会有一个工具作为你的伙伴。这就是未来的教学方式,教授会讲解概念,但你会通过这种方式参与其中。这是我的猜测。 关于非Transformer架构与数学创新 学生:你提到了一些让你兴奋的非Transformer架构。我想其中一个被提到的是状态模型,但现在还有一种是更长上下文的模型。我更好奇的是你在这方面看到的情况。 Eric:我对数学的理解还不够深入,但我非常高兴我们为数学家们提供了工作机会,因为这里的数学太复杂了。但基本上,他们是在采用不同的方法来进行梯度下降和矩阵乘法,使其更快更好。Transformer架构是一种能够同时进行乘法运算的系统化方式,这是我理解的方式。它和其他的很像,但数学部分不同。我们将继续关注这些新的数学进展。 关于中美关系与国家安全 学生:你在关于国家安全的论文中提到,中美两国在现代架构的帮助下处于关键地位。接下来的10个国家,以及稍后的一组国家,都是美国的盟友,或者与美国盟友关系密切。我很好奇你对这些国家,尤其是那些中间地带但并非正式盟友的国家有什么看法。它们有多大可能愿意加入我们的安全阵营?是什么因素可能会阻碍它们加入? Eric:最值得关注的国家是印度,因为顶尖的AI人才从印度来到美国,我们应该让印度保留一部分顶尖人才。他们没有我们这里如此丰富的培训设施和项目。在我看来,印度是这一领域的重要摇摆国家。中国已经没有机会了,不会再回来。日本和韩国显然站在我们这一边。台湾在硬件方面很出色,但他们的软件开发较弱。在全球范围内,其他大国的选择并不多。欧洲因为欧盟的政策和管理机制陷入困境,这并不是什么新鲜事。我与他们斗争了10年,但他们仍然有许多限制,导致我们在欧洲开展研究非常困难。法国还有一些机会,但我不太看好德国。其余的国家都不够有影响力。 关于编程与AI 学生:我是编译器工程师。考虑到你设想这些模型将具备的能力,我们还需要花时间学习编程吗? Eric:是的,这是一个老生常谈的问题,为什么你已经会说英语还要学习英语呢?是为了让你的英语更好。你确实需要理解这些系统的工作原理,我对此非常坚定。 关于分布式计算与大语言模型的训练 学生:你是否探索过分布式环境?虽然构建大型集群很困难,但MacBooks的性能很强大。你认为类似“Folding@home”的想法适合训练吗? Eric:是的,我们对此进行了深入研究。算法的工作方式是你有一个非常大的矩阵,基本上是一个乘法函数。系统的速度完全受限于内存到CPU或GPU的传输速度。Nvidia的下一代芯片已经将所有这些功能整合到了一块芯片中,如今的芯片已经足够大到需要将它们都粘合在一起。短时间内,分布式计算在训练大语言模型方面的进展可能有限。 关于数据隐私与版权 学生:在ChatGPT发布后,OpenAI因使用他们的作品进行训练而被《纽约时报》起诉。你觉得这种情况会如何发展?这对数据隐私有何影响? Eric:我曾经从事过大量的音乐版权工作。我了解到在60年代,有一系列诉讼最终达成了一项协议:每次播放你的歌曲,你都能获得一定的版权费。我猜AI领域可能会有类似的情况。可能会有很多诉讼,最后可能会达成一种协议,要求你必须支付你的一部分收入,以便使用类似ASCAP BMI的版权管理机构。 关于AI领域的垄断与反垄断法规 学生:现在看起来几个主要玩家在AI领域占据主导地位,他们会继续维持这个地位。这些公司似乎与那些受到反垄断法规关注的大公司有所交叉。你对这两种趋势有何看法?像是监管部门会否对这些公司进行分拆?这将会对现状产生怎样的影响? Eric:在我的职业生涯中,我曾帮助微软避免被拆分,结果它确实没有被拆分。我也曾努力阻止谷歌被分拆,目前来看,谷歌还未被分拆。因此,从我的观察来看,这些公司被分拆的趋势并不明显。只要这些公司避免成为像约翰·D·洛克菲勒那样的企业巨头,政府可能不会采取行动。这些公司占据主导地位的原因是他们有足够的资本来建设数据中心。 关于技术差距对全球的影响 学生:这一切将会把那些不参与前沿模型开发和无法获取计算资源的国家带向何方?富国越来越富,穷国尽力而为。 Eric:事实上,这就是富国的游戏,对吧?巨大的资本,众多技术过硬的人才,强有力的政府支持。有些国家,比如印度,将会成为这一领域的重要参与者。其他国家可能需要找到合作伙伴或与其他国家联合。 对年轻人的建议 主持人:最后一个问题,Eric。你花了很多时间帮助年轻人,他们正在创造大量财富,你对在座的各位有什么建议吗?他们正在为这门课写商业计划书或撰写政策提案、研究提案,未来职业发展方面你有什么建议? Eric:我在商学院教过一门关于这个主题的课程。快速制作原型的能力真的非常重要,成为创业者的一个难点在于一切都发生得非常快。现在,如果你不能在一天之内利用这些工具构建你的原型,那你就需要考虑一下了,因为你的竞争对手正在这么做。所以我的建议是,尽快使用这些工具把你的想法制作成原型。这是关键,因为在其他公司、其他大学,或你从未去过的地方,一定有人正在做和你一样的事情。

宝玉

14,213 просмотров • 2 лет назад

我把某年入百万的博主近一个月朋友圈全扒了下来——47条,分类、提炼、技法拆解,全自动 我在这边工作,一小时后markdown文件就躺在我的电脑上,这是一个商业打法,也是一个skill制作方法 感觉豆包手机可以更新一波绕过各大厂商了,觉得麻烦直接看视频我做了个多牛的事儿⬇️ 我觉得成交最重要的一步是在转化上,我其实也有这部分卡点 朋友圈营销是转化的重要主战场甚至朋友圈营销的课程已经是 588,3 天的训练营 我知道一个博主,他是真的就靠朋友圈营销去做转化,年入百万 我刷了他三个月朋友圈,越刷越觉得不对 他做高客单价,不靠直播,不靠短视频,靠朋友圈 产品卖五位数、六位数,朋友圈就是他的成交主场 并且据说他自己有一套完整的朋友圈转化的逻辑,那我觉得这个东西就完全可以skill化的 重要的卡点在于我如何能够抓取朋友圈的数据,于是我就发现了个产品叫做airtap Airtap Ai 然后我把他的内容整理出来了 你会发现他的每一条朋友圈,背后都有一套完整的转化逻辑:身份标签怎么立、前景对比怎么做、文案怎么克制才让人觉得值、价值观帖怎么埋才能让人主动买单跟进 这些东西,才是真正穿越周期的东西 这就是 Airtap——一个住在你手机里的 AI Agent 后面我打算用 Airtap 把他的朋友圈全提取出来,让 AI 做技法分析,做成了一个skill,后面用起来也会开源给大家 然后我深入了解一下产品我才发现,我限制了airtap的发挥 Airtap 不只是"帮你操作 App",它是"你身边那个不知疲倦的情报员"。 你想研究谁的朋友圈,直接喂给它;它自己提取、自己分类、自己提炼营销技法 写一次 prompt,以后每天自动跑 你干别的事的时候,它替你把活干了。→

叫我阿杭

21,965 просмотров • 3 месяцев назад

OpenAI 创始人 John Schulman 访谈节选:为什么 GPT-4 比一年前更“聪明”了?主要都是后训练(Post-Training)带来的! 另外他认为,在强化学习研究领域,研究人员需要具备丰富的经验和敏锐的直觉。了解整个技术堆栈,并对各个部分充满好奇心是关键。此外,从第一性原理出发思考问题,而不仅仅依靠实验证据,也能够帮助研究人员在数据操控和环境设置方面做出更好的决策。 *** Dwarkesh Patel:在未来,用于训练的计算力中,预训练与后训练的比例是否会明显偏向后训练呢? John Schulman:确实,有一些观点支持这种说法。 Dwarkesh Patel:我是说,现在这个比例非常不平衡。 John Schulman:但你可以认为,模型生成的输出质量比网上的大多数内容都要高。因此,让模型自己思考似乎更有道理,而不仅仅是训练来模仿网络上的内容。所以,我认为从第一性原理上来说,这是有说服力的。我会说,我们通过后训练取得了很多进步。因此,我不确定。所以,我希望我们会继续推动这种方法,并且可能会增加投入到后训练中的计算力。 Dwarkesh Patel:当前的 GPT-4 的 ELO 分数比最初发布的版本高出了大约 100 分。这是否全都是后训练带来的改进呢? John Schulman:对,我会说大部分都是后训练带来的。 Dwarkesh Patel:这很有意思。 John Schulman:因此,有很多不同的改进方向。我们会考虑数据质量,数据数量,进行更多的部署和收集新数据的迭代,改变你收集的注解种类。因此,有很多因素叠加在一起。但是全部加在一起,就会带来一个相当不错的,有效的计算力提升。 Dwarkesh Patel:后训练的优化程度对于竞争优势有多大影响呢? John Schulman:目前,我会区别公司是通过我们的模型有多大等等。那么,找出你之前提到的所有这些数据的复杂问题的公司,会占据大优势吗? John Schulman:我认为这确实是一个优势,因为这是一个非常复杂的任务。因此,你必须有很多有技能的人来执行它。因此,存在大量的隐性知识。同时也需要大量的组织知识。我认为后训练的过程,创建一个具备人们所关心的所有功能的模型,是十分复杂的。这需要付出大量的努力,它是大量研发工作的积累。我会说这种情况在某种程度上形成了一种壁垒,要想立即启动这种模型并非易事。 Dwarkesh Patel:看起来那些正在进行最严肃的预训练努力的公司,也在进行严肃的后训练努力。因此,看起来这种模型有可能被复制或有更多的类似努力出现。 John Schulman:另外,还有一种情况使得这个壁垒并非那么明显,那就是你可以提取模型,或者复制别人的模型输出,或者使用别人的模型进行比较。我认为大公司可能并不会这样做,因为这违反了服务条款,也会损害他们的自尊心,但我预计一些规模较小的参与者可能正在这样做以便更好地起步。 Dwarkesh Patel:那些真正擅长进行这种强化学习(RL)研究的人有什么样的特质呢?我听说这种研究非常具有挑战性,但是什么样的直觉能帮助你找到操控数据和设置环境的方法呢? John Schulman:我觉得有相当多的经验是关键。自从研究生时期以来,我一直在研究 RL 算法,涉及到数据收集、到注释过程,再到与语言模型的交互。所以,我算是涉猎了这些领域。我认为,在这类研究中表现出色的人通常对整个技术堆栈有全面的了解,并且对其中的各个部分充满好奇心。他们不仅依靠实验证据来更新自己的观点,还会从第一性原理出发思考问题。比如,假设深度学习是有效的,那么理想的收集数据的类型应该是什么,等等。

宝玉

57,189 просмотров • 2 лет назад

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者: 人类知道自己在做什么吗? Hinton: 嗯,我认为我们正在进入一个时期,在这个时期,我们可能第一次拥有比我们更智能的东西。 采访者: 你相信它们能理解吗? Hinton: 是的。 采访者: 你相信它们是智能的吗? Hinton: 是的。 采访者: 你相信这些系统有自己的经历吗? Hinton: 是的。 采访者: 并且能基于那些经历做出决定吗? Hinton: 在与人类相同的意义上,是的。 采访者: 它们有意识吗? Hinton: 我认为它们目前可能没有多少自我意识。所以从这个意义上说,我不认为它们有意识。 采访者: 它们会有自我意识吗? Hinton: 哦,是的。 采访者: 是吗? Hinton: 哦,是的。所以想想看。这样一来,人类将成为地球上第二智能的生物。 Hinton: 我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂,我们就不再真正知道发生了什么,就像我们不知道你大脑里发生了什么一样。 采访者: 你说什么意思,我们不知道它到底是怎么工作的?它是由人设计的。 Hinton: 不,不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时,它会产生复杂的神经网络,这些网络擅长做某些事情,但我们并不真正理解它们到底是如何做到的。

KK.aWSB

54,317 просмотров • 8 месяцев назад

小扎吐槽苹果和 Google,以及谈为什么开源 AI **Mark Zuckerberg**: 我认为移动生态系统中普遍存在的一个问题是有两个把持入口的公司,Apple 和 Google,它们可以告诉你可以构建什么。 在我们的历史中有很多次,比如有经济层面的情况,就是我们构建了些东西,然后它们就会拿走我们大部分的收入,但还有一种是质量层面,这实际上让我更加不满,也就是有很多次我们推出或希望推出某些功能,然后Apple就会说,不,你不能推出这功能。 这真的很糟糕。 问题是,这样的世界是否会在AI领域复现,就像你会有一小部分拥有封闭模型的公司,它们控制API,因此将能够告诉你可以构建什么。 我可以说,对我们来说,自己构建一个模型以避免处于那种位置是值得的。 我不希望那些其他公司告诉我们可以构建什么,而且我认为从开源的角度来看,很多开发人员也不希望那些公司告诉他们可以构建什么。这就是我坚定支持开源的原因之一,我认为未来AI的集中化可能像其广泛传播一样具有潜在危险。 我发现很多人都在思考,如果我们能实现这种技术,那么让它广泛传播是否不利。 我认为另一种可能也很糟糕的情况是,如果一个机构掌握了一种强大的AI远超其他所有人的,这同样是非常糟糕的。在我看来,一个理想的世界应该是这样的:AI技术被广泛而均衡地应用,随着时间推移逐步增强其健康性。在这样的世界里,各种系统能够相互制衡,这种平衡的状态比一个高度集中化的世界要健康得多。 虽然风险无处不在,但我觉得有一个风险我想人们我并没有听到太多人提及。 **Dwarkesh Patel**:举例来说,一个价值100亿美元的模型,如果经过评估是完全安全的,你们会选择开源吗? **Mark Zuckerberg**:我的答案是,只要这个模型对我们有所帮助,那我们就会开源。 **Dwarkesh Patel**: 那如果这个模型是用100亿美元的研发经费研发出来的,然后现在要开源呢? **Mark Zuckerberg**: 我们一直以来都有开源软件的传统,但是我们并不会开源我们的产品。 比如说,我们并不会将Instagram的代码开源,但我们会开源许多底层的基础设施。我们历史上最大的一个项目可能就是开放计算项目。在这个项目中,我们将我们所有的服务器的设计网络交换机和数据中心的设计开源了,这对我们来说非常有帮助。 因为很多人可以设计服务器,但现在,大家普遍都采用了我们的设计,这就意味着整个供应链都围绕我们的设计展开,规 模变大,对所有人来说都变得更便宜,为我们节省了数十亿美元。 这真是太棒了,对吧? 因此,我认为开源有多种方式可以对我们有所帮助。 一种就是,如果有人能够找出更便宜的运行模型的方法,我们将花费数十亿甚至上千亿美元,在所有这些模型上,所以如果我们能做的更有效率,那我们就可以节省数十亿甚至上百亿美元,这可能本身就非常有价值。 **Dwarkesh Patel**: 关于开源,我很想知道你是否认为像PyTorch、React、Open Compute这样的开源项目,对世界的影响是否已经超过了Meta在社交媒体方面的作用。 **Mark Zuckerberg**: 因为我曾经和使用这些服务的人交谈过,他们觉得这是有可能的,因为互联网的很大一部分都在运行这些项目。这是一个有趣的问题,我认为几乎有一半的世界人口都在使用我们的产品,这是一个真实的点,所以我觉得这很难超越。 但不管怎样,我还是认为开源是一种新的、非常強大的建设方式。 来源:

宝玉

74,721 просмотров • 2 лет назад

“我们究竟是创造了一个工具还是一个生物?” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam: 但我认为,这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革,因为从现在开始,人们已经接受强大的人工智能将成为现实,并且还会有逐步的更新。就像是第一代 iPhone 面世的那年,以及随后每一代 iPhone 的更新,我们现在能够明显感受到这一代与去年那代的差异。所以,这确实是一个重要的时刻。 我感到欣慰的是,现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此,但其他人也是一样。 曾经,人们真正恐惧的是,我们究竟是创造了一个工具还是一个生物,这将意味着什么?现在,人们视这些系统为人类工具箱中的新工具,并且正在用它创造一些非常了不起的东西。 模型显然不知道你在说什么,因为这不在它的训练数据里,它也无法从训练数据中学习到这些信息。 这是完全可以预期的。你再问一遍。比如说,你提到“意识”这个概念,模型回答:“是的,我完全明白你的意思,但我之前从未听说过这个词。” 问: “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗?” Sam: 这个问题有多个答案。这取决于激励模型。这是人类的选择。 问: “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望,并且仅仅为了创作的乐趣而去创作,那不会是偶然的。这绝对有点像生物。” Sam: 这是生物化的。我认为在此之前还有很多步骤。 我们现在要回答问题吗?这真的很棒。

Lei.sea

14,132 просмотров • 2 лет назад

当年明月的顶级觉悟值得一听👋 当年明月的顶级智慧———— 你到这个世界上来,你应该有这样一个觉悟,就是你终究是要死。这就是一个人,他很悲剧的在于,他无论多厉害,无论多牛,无论多么嚣张,他都要死,他都有终结。 那么在这段时间,你做什么? 不断的探索,去懂得这个世界的很多东西。知道这个世界的规律,它是一种无比的喜悦狂喜。 我大学这几年在外边吃饭,能数的出来,很多时候我也不怎么吃。很多人说我是像神仙一样,不找不到我这人。 其实我在教室看上自习或在外边看书,但我真不觉得我是一个被排斥的人,我不觉得孤独,因为你有书,因为我知道我懂得越来越多,只有智慧和知识内在强大,让你让你自己懂得很多,对这个世界你有充分的了解,你就不会畏惧了。 我无论身处在什么多小的房间里,我只要翻开那本书,我就是在看大海。它记住了无数人的一辈子,他们不断的挣扎,想出头,想出名儿,有的是为了正义而奋斗,有的是为了私利而奋斗,这些人无论他怎么折腾,最后只在这本书里,你一页纸翻过去,就能翻过无数人的一辈子。 我在看一本很伟大的文,这种乐趣是很多人无法想象的,为了这种乐趣,这个世界上大多数的舆论你都可以忽略。 当我翻开的时候,我又能看到很多人的命运,所有的一切都只在一张纸上,但是你是能感受到的。 我感受到了。

心灵书舫 | SoulSloop

27,076 просмотров • 6 месяцев назад

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上,陶哲轩做了一次 AI 和数学的演讲,非常精彩,从数学使用计算计算机的历史开始讲起,一直讲到大语言模型,干货相当多,尤其适合对数学有兴趣的同学。 (对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看) 先摘录几个冷知识: 1. 我们使用机器做数学计算已经有数千年,最早的机器辅助计算可能是罗马人,然后是中国的算盘 2. 二战时就有人肉“计算机”,计算弹道和其他任务,多位女孩子,因为男士们在打仗,所以那时候的计算基本单位不是GPU,而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在,数学家们使用一种现代化的证明辅助编程语言,叫做 Lean。在 Lean 中有一个核心的数学库,通过众包的方式开发的,本科数学课程中看到的内容,比如微积分基础、群论基础或者拓扑学等等,这些都已经被形式化了,所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程,那就是先编写一个称为“蓝图”的详细证明计划,将整个证明分解为数百个小步骤。每个步骤可以单独形式化,然后再将它们整合在一起,这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图,然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。 去年,陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了,使用了蓝图工具,参与的人中有概率论专家,甚至还有一些并非数学家的人,他们是程序员,但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务,并完成了它。 在数学领域,通常很难这么多人一起合作,一般最多可能五个人合作。因为在大项目上合作时,你必须相信每个人的数学都是正确的。但是,一旦超过一定规模,这就无法实现了。但现在借助 Lean 编译器,它能自动检查。团队成员无法上传任何编译不通过的内容,会被拒绝。因此,你可以与一些从未见过的人合作。 最后是讲大语言模型,首先陶哲轩就打脸了 GPT-4 的论文(我猜是微软那篇《GPT-4,通用人工智能的火花》),论文中号称 GPT-4 能解决国际数学奥林匹克问题,但实际上,这个问题不是 2022 年国际奥数竞赛的原始问题,而是一个简化版本,并且他们测试了几百道国际奥数竞赛问题,成功率只有1%,论文里的这个是精心挑选的恰巧能做对的。 并且陶哲轩提到了基于大语言模型的一些改进的方案: 比如 CoT(Chain of Thought),也就是 LLM 做简单的算术运算都做不对,但是如果让它一步步解释,可能就对了。还可以教 AI 一些解题技巧,比如尝试简单的例子,反证法,尝试逐步证明等。 比如让模型和编程语言或者工具连接,将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证,并且迭代的进行修正和验证,直到得到正确的结果,这可以提升大语言模型生成的效果。 即使借助这些手段,大语言模型还远远不能解决大多数数学问题,更不用说数学研究问题了! 当然陶哲轩也没太过打击大家对于 AI 的信心,表示我们在 AI 上还是在不断的取得进展,还提到了他日常是怎么用 AI 的,比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题,我尝试了几种方法,但都无法解决。于是,我尝试询问 GPT,你建议我使用什么其他方法来解决这个问题?GPT 给我提供了 10 种可能的方法,其中有 5 种我已经尝试过,或者明显没有帮助。的确,有几种方法并不实用。但其中有一种我还没尝试过的方法,那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时,我意识到这就是我漏掉的正确方法。所以,将 GPT 视为一个交流伙伴,它确实具有一定的用处。 还有使用 GitHub Copilot 帮他写代码,让它自动生成下一步的证明结果,Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具,你只需要写下一半的证明,它就会尝试猜测接下来的内容。大概有 20% 的情况下,它能猜到接近正确的答案。然后你就可以说,我接受这个答案。好的,那么在这种情况下,我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行,尽管你可能看不清楚,却真的解决了这个问题。所以,你不能盲目接受它的输入,因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解,这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行,它们就能自动完成。现在已经有了这样的实验,即通过迭代地让 AI 提供证明,然后让编译器进行反馈,如果编译出错,就把错误信息反馈给 AI。通过这种方法,我们开始能够验证四五步长的证明。当然,一个大型的证明可能需要数万行。所以,我们还没有达到能够立即得到一个正式证明的程度。但是,这已经是一个相当有用的工具。 对于大家关心的问题: AI 在数学领域现在到了哪一个阶段?是否未来几年利用 AI 能直接解决数学问题? 陶哲轩也给出了他的看法: > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题,你可以定制专门的 AI 来处理一小部分问题。即便如此,它们也不是完全可靠的,但还是有用的。不过至少在接下来的几年里,它们基本上将是非常有用的辅助工具,超越了我们已经熟悉的暴力计算辅助。 他还提到了一些可能的 AI 能在数学领域提供帮助的方向: - AI 能够非常好地生成有价值的猜想 > 比如,我们已经看到了关于结理论的例子,它们已经可以推测出两个不同的统计量之间的关系。因此,我们希望能够创建大量的数据集,输入到 AI 中,它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点,部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在,因为证明定理是如此繁琐和艰难的过程,我们一次只能证明一个定理,如果你效率很高,可能一次能证明两三个。但是有了 AI,你可以设想一下未来的情况,我们不是试图解决一个问题,而是处理一类类似的1000个问题,然后告诉AI,尝试用这个方法解决这 1000 个问题,然后报告结果,哦,我能用这种技术解决 35% 的问题。那么另一种技术呢?我能解决这个百分比的问题。或者如果结合这些方法,又能解决多少问题?你可以开始探索问题的空间,而不是一个接一个地解决问题。这是你现在根本无法做到的事情,或者是你需要几十年时间,通过数十篇论文慢慢搞清楚各种技术能做什么,不能做什么。但是有了这些工具,你真的可以开始做规模前所未有的数学研究。所以,未来将会非常令人兴奋。 演讲环节结束前的最后一句话说的特别好: > 我们仍然会以传统方式证明定理。事实上,我们必须这样做,因为如果我们自己都不知道如何做这些事情,就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。 这恰恰也是我们现在使用 AI 辅助编程的问题:如果我们自己都不知道如何构建软件,就很难引导好 AI 帮助我们生成高质量的代码。 尽管 AI 在数学和编程领域变得越来越有用,但人类的洞察力和创造力仍然是创作价值的关键。 原始 YT 视频:

宝玉

303,020 просмотров • 2 лет назад