Video wird geladen...

Video konnte nicht geladen werden

Zur Startseite

接下来是见证奇迹的时刻🪄 我使用 OKX OnchainOS 的K线数据/代币信息/交易活动等全方位数据,结合均值回归/量价分析/Wyckoff/艾略特波了等经典理论,革新了K线走势的预测算法,完整演示请看 VCR: OnchainOS K线预测平台自带完整 Web UI AI 模型使用 Vercel AI SDK 接入,支持所有主流模型 自带 SKILL 可供包含 openclaw 在内的所有 Agent 调用 提示词请见评论区,由于预测成本过高暂不开放公网预览,赛后我会公开源码和朋友们一起交流学习

14,285 Aufrufe • vor 4 Monaten •via X (Twitter)

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

发现一个讲的很细的大语言模型微调教程,详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。 基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。 时间轴: 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示(T4 版本) 16:52 微调操作演示(A100 版本) 19:13 在 Hugging Face 上的保存与使用方法 文字版整理: ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning): 对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调: Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调: Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集: 准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置: 在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控: 在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择: 通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用: 微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型: 用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference): 在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

歸藏(guizang.ai)

61,710 Aufrufe • vor 2 Jahren

近期我们研究员正在寻找优质的全流通项目,避免了VC抛售的困扰,同时属于热门赛道,比如 #DEPIN+#AI。并且尽可能上线币安等一线交易所。 我很兴奋的给大家分享挖掘出的一颗宝石:Streamr Network ,代币名称为:#DATA ,币安上线。5000万市值,全球通,目前价格0.055。 #Streamr: 一个去中心化实时数据共享网络,旨在提供高速、可靠的数据流传输和处理。通过去中心化的 P2P 架构,无需中央服务器,避免供应商锁定和单点故障。Streamr 为开发者和企业提供了一个无需信任的环境来发布、订阅和交易数据流。其核心目标是使数据变得更加自由和开放,从而推动数据生态系统的发展。 数据传输在 #AI 和 #DEPIN 领域应用广泛。数据隐私+低延迟+安全性+抗审查至关重要,#Streamr 为此努力了6年之久,今年一季度发布了 #Streamr 1.0 主网!标志着项目的重要里程碑,将带来更稳定和高效的数据网络性能。 看好的理由: ①实时数据流 Streamr 支持实时数据的发布和订阅,用户可以创建或加入数据流,享受即时的数据更新。这在DEPIN、AI、金融市场数据分析等领域非常重要。 ②去中心化网络: 网络的P2P去中心化架构确保了数据的安全性和隐私性,消除了单点故障的风险。所有数据流和交易都是在无需信任的环境中进行,具备抗审查性。 ③数据市场: Streamr 内置了一个数据市场,允许用户自由交易数据流。数据提供者可以通过出售数据流获利,而数据消费者可以根据需要购买实时数据。 ④集成与可扩展性: Streamr 提供了强大的 API 和 SDK,使开发者能够轻松地将数据流功能集成到现有的应用程序和平台中。此外,Streamr 网络能够与其他区块链系统(如以太坊)无缝对接,进一步拓展了其应用范围。 实际使用案例: Crypto Queries: 项目利用 AI 语言工具与 Web3 数据进行交互,提供了一个强大的工具来查询和分析区块链数据。 Streamr ML Demo: 项目将 Streamr 平台与 Binance API 连接,使用 ARIMA 机器学习模型来预测未来的交易数据,并在网页上显示实时和预测数据。 Breathing Easy: 项目通过Streamr网络和 AI 聊天机器人展示实时空气污染数据,使得用户可以轻松理解空气质量信息。 Streamr+AI: AI数据源:为AI模型提供高质量的实时数据以进行训练和微调。 $DATA 激励数据提供商推动AI数据经济的发展。 同时 $DATA 可充当数据交换媒介,通过P2P网络大规模分发带宽密集型AI生成的内容(视频/音频)。 Streamr+DEPIN: DEPIN数据交换媒介:DePIN 中,Streamr 可以促进互联设备之间向去中心化数据交换的转变,使 DePIN 从中心化数据管道过渡到完全去中心化的贡献者阵列。Streamr 协议允许 DePIN 用户通过其网络和技术堆栈向上、向内或向下传输数据。 未来展望 Streamr 的去中心化实时数据共享网络具有广阔的应用前景。随着 1.0 版本的发布和更多开发者加入生态系统,Streamr 有望在AI、DEPIN、金融数据和更多领域发挥重要作用。通过不断的技术创新和社区驱动的发展,Streamr 正在努力实现其构建开放和自由数据生态系统的愿景。 👇视频详细了解:

Rocky

64,824 Aufrufe • vor 2 Jahren

Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》(中英双语字幕) 这个视频介绍了大型语言模型(Large Language Models,LLMs)的概念、使用场景、提示调整以及Google的Gen AI开发工具。 大型语言模型是深度学习的一个子集,可以预训练并进行特定目的的微调。这些模型经过训练,可以解决诸如文本分类、问题回答、文档摘要、跨行业的文本生成等常见语言问题。然后,可以利用相对较小的领域数据集对这些模型进行定制,以解决零售、金融、娱乐等不同领域的特定问题。 大型语言模型的三个主要特征是:大型、通用性和预训练微调。"大型"既指训练数据集的巨大规模,也指参数的数量。"通用性"意味着这些模型足够解决常见问题。"预训练和微调"是指用大型数据集对大型语言模型进行一般性的预训练,然后用较小的数据集对其进行特定目的的微调。 使用大型语言模型的好处包括:一种模型可用于不同的任务;微调大型语言模型需要的领域训练数据较少;随着数据和参数的增加,大型语言模型的性能也在持续增长。 此外,视频还解释了传统编程、神经网络和生成模型的不同,以及预训练模型的LLM开发与传统的ML开发的区别。 在自然语言处理中,提示设计和提示工程是两个密切相关的概念,这两者都涉及创建清晰、简洁、富有信息的提示。视频中还提到了三种类型的大型语言模型:通用语言模型、指令调整模型和对话调整模型。每种模型都需要以不同的方式进行提示。 原始视频链接:

宝玉

114,612 Aufrufe • vor 3 Jahren

E62. 火爆的RWA、预测市场背后,带来了预言机的新机会?ft. APRO 增长负责人 Sawyer @APRO 太巧了,我们刚跟Sawyer录完,就发现CZ发了一条推,认为针对预测市场的预言机有机会,下面很多评论都推荐了APRO, 接着大表哥还参与了APRO中文征名活动 那么 APRO |🔶NO.1 Oracle 是什么? RWA、预测市场、AI 如何为预言机赛道带来了新的机会? 从Chainlink的1.0时代到Pyth的2.0时代,再到APRO提出的AI增强型3.0方案,预言机如何应对RWA、币股、预测市场和AI Agent带来的新挑战? APRO如何深耕BNB生态? 还有散户们非常关注的一点,如何参与这个项目? 本期 Day1Global Podcast 节目不容错过 时间轴 & 本期精华 00:00 - 开场:预言机是什么?从"数据馈送"理解区块链世界的信息桥梁 06:48 - 预言机的三个发展阶段:从Chainlink 1.0到Pyth 2.0,再到APRO的AI增强3.0时代 13:32 - APRO的市场策略:以比特币生态为支点,快速覆盖40+公链,TVS突破15亿美金 18:18 - AI增强型RWA预言机:如何用大模型验证房地产、Pre-IPO股票、预测市场事件等非结构化资产 27:18 - ATTPS协议:为AI Agent之间的数据通信建立安全标准,已集成DeepSeek等主流框架 36:25 - 预言机的护城河:不是竞争而是共赢,在垄断市场中找到差异化定位 44:09 - EASY Residency Demo Day:在纽交所路演,Web2与Web3的时空交错碰撞 51:04 - 与BNB生态深度融合:服务40+项目,使用Greenfield存储近20GB数据 58:32 - 团队与招聘:20人精干团队,北美和香港BD岗位开放中 1:06:59 - 行业展望:预言机赛道的未来在于抓住每个风口的数据需求 免责声明 & 风险提示:主持人或嘉宾在播客中的观点仅代表个人看法,有时可能会持有播客中讨论的某项目的头寸。此播客仅用于提供信息,不作为投资建议,Always DYOR (Do Your Own Research)。

Star@Day1Global Podcast

38,403 Aufrufe • vor 8 Monaten

OpenLedger ——它正在引领潮流 去中心化人工智能不仅限于模型运行,还需可验证数据、用户数据主权及社区一起推动发展。这正是 Open Ledger 所关注的,它是Web3与AI的结合,开创了信任、所有权和公平的新时代。 ❑AI的未来不仅聪明,还公平。比如我们可以在Openledger 上提交自己对于 Specialized Language Model(专用语言模型)的创意,注意这里是所有人。这是一个真正利于我们所有人的工具,而不是炒作!每个人都能参与开发并从中受益! ❑相较于传统AI的集中化与潜在剥削性,OpenLedger的DeAI模型倡导用户主导与公平分配的理念,为人工智能的可持续发展提供了新路径。 据说现在 Mint Your Model Madness 已经有超过9999份的提交,我也提交了一个我的模型,我希望它可以成为我Web3最棒的伙伴。 ❑工作原理: >基于我们总结整理的一些关键词+聪明的关注者,多维度筛选分析并自动收集X平台的一些早期项目 >自动去除一些噪音,如很明显的广告,还有一些相似度99%的帖子 >通过项目多维度检测,如突然推文热度激增,聪明关注者数量变多等 >检测到项目再根据Grok、DeepSeek R1分析等生成类似数据,扩充数据集 >最后在给我们推送过来 ❑现在市面上好像有类似的产品,但不是太贵就是不能满足自己的需求,只有自己参与并训练出来的才是最合适的,大家也可以去参加体验一下,提交一下自己的创意,这不仅是参与 FIRST 10K 并创造 AI 历史的机会,还可以拿到测试网积分奖励,来一起~ 传送门: 使用谷歌账号登录,然后点击“Create your model”表单,提交属于你自己的模型 ❑另外在昨天Kaito AI 🌊 公布的数据中,OpenLedger 30 天心智份额排名第一,冲顶我一点没觉得奇怪!他们的社区充满智慧与活力,为项目注入无限可能,未来可期! 随着更多创造者的加入,分散的所有权将重新定义“拥有”人工智能的含义。无论最初的目标是什么,公平才是最终目标。DeAI的未来属于我们每个人!

左右🔶BNB

10,349 Aufrufe • vor 1 Jahr