Video yükleniyor...
Video Yüklenemedi
Anthropic首席执行官达里奥·阿莫代伊表示,人工智能存在真实危险,并指责行业长期向公众隐瞒技术风险。 他说:我不会骗你们,确实存在真实的危险。 他认为,业内太多企业试图尽可能把技术描绘得正面;他同时声称,Anthropic从未这样做过。
29,653 görüntüleme • 4 gün önce •via X (Twitter)
4 Yorum

Bran4 gün önce
什么危险呢?喊了这么多具体什么?

18plus24 gün önce
Ai这种是决定国家生死的竞争,不可能停止。

xxx4 gün önce
关键是英伟达还在到处卖芯片,黄仁勋却完全不信!

AGI时代4 gün önce
AI巨头们要求放缓的本质是AI目前发展存在的两个瓶颈: 第一是可以自我迭代的AI系统会将任何主观对齐方式给清除掉,而客观对齐方式又没有建立,会出现无对齐的AI系统,这就是ai巨头们口中所说的安全问题,但这个问题更多的是基于技术路径问题可以基于技术的方式去解决。这里还会涉及一个法律的来源及形成机制问题,该问题可以在系统内设置一个民主的法律形成与清除机制,具体方法在本人五态循环宇宙论的第四层内容里。 第二是闭源ai模型都是采用的集中式算力,当AI智能进入自我迭代状态时,大众对ai的使用会使对算力的需求急剧膨胀,会让闭源AI系统陷入崩溃。这是基于现实算力受限不得不采用放缓给自己补充算力或将集中式算力改为分布式算力,由闭源模型改为开源模型。解决方案是让每一个使用AI系统的人都具有自己的基本算力,让占ai系统80%的普通功能由使用者自己的算力运行,让占ai系统20%的高端功能由ai巨头们的集中式算力提供。 总结:以上两个问题都是AI发展过程中需要正面面对及解决的问题,加快发展去解决的问题,而不是通过消极放缓就可以解决的问题。更何况放缓只会让更多的AI系统到达自我迭代的分界线,让更多的ai系统同时面对以上两个问题,并不能解决以上两个问题,或者说反而进一步放大了AI无主观对齐但客观对齐又未完全建立时的风险。
