正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

一个强大的开源知识库管理系统：Simba。能够轻松地任何检索增强生成（RAG）框架集成使用，并帮助我们更好地管理各种知识库。 GitHub：同时采用模块化设计，可根据需求，自由使用不同的向量存储、嵌入模型以及解析器等组件。有了该工具，大大简化对知识库管理的复杂性。

GitHubDaily

82,353 subscribers

28,641 次观看 • 1 年前 •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

4 条评论

LIJUNLONG 的头像

LIJUNLONG1 年前

windows可以用吗

OSDev 的头像

OSDev1 年前

rst @readwise save thread

Rainmaker 的头像

Rainmaker2 年前

Join me as I put several Machine Learning models head-to-head to see which one can beat the market and deliver strong returns. In this free Substack post I share several models that deliver better returns with much lower drawdown compared to Buy-and-Hold approach.

熊布朗的头像

熊布朗1 年前

看了下源码，是基于langchain实现的。Rag的要义是根据实际业务的需要对文档召回方式的反复、持续优化。

相关视频

一款可以使用自然语言与图库对话的工具：Album AI 可以用作图库/相册AI助手，也可以用作一个图像知识库辅助LLM内容生成 Album AI使用gpt-4o mini作为视觉模型，自动识别出相册中图像文件的元信息，借助RAG技术，实现的与相册对话的能力功能： 1、自动识别图片元数据，使用 gpt-4o-mini 作为视觉模型，自动识别相册中图片文件的元数据 2、对话功能，利用 RAG 技术，使相册能够与人进行对话。 3、存储，使用 PgSQL 数据库存储图片 4、元数据向量化，使用 OpenAI 的 Embedding API 对元数据进行向量化 5、包含2个API，传统的搜索 API和RAG API github： #AlbumAI #AI图库交互 #image #gpt4omini #llm #rag

一款可以使用自然语言与图库对话的工具：Album AI 可以用作图库/相册AI助手，也可以用作一个图像知识库辅助LLM内容生成 Album AI使用gpt-4o mini作为视觉模型，自动识别出相册中图像文件的元信息，借助RAG技术，实现的与相册对话的能力功能： 1、自动识别图片元数据，使用 gpt-4o-mini 作为视觉模型，自动识别相册中图片文件的元数据 2、对话功能，利用 RAG 技术，使相册能够与人进行对话。 3、存储，使用 PgSQL 数据库存储图片 4、元数据向量化，使用 OpenAI 的 Embedding API 对元数据进行向量化 5、包含2个API，传统的搜索 API和RAG API github： #AlbumAI #AI图库交互 #image #gpt4omini #llm #rag

AIGCLINK

16,617 次观看 • 2 年前

电脑里存放着大量文档、图片和 PDF，有时候想找某个资料都想不起来存放在哪个文件夹，很是苦恼。不妨试试，利用 Second Brain 这个开源工具，把我们的本地文件变成一个可搜索的 RAG 知识库。通过自然语言或关键词来搜索内容，支持文本和图片的多模态搜索，还能结果本地 AI 模型进行智能问答。 GitHub：主要特性： - 语义搜索和关键词搜索结合，精准找到相关内容； - 支持文本和图片的多模态搜索与嵌入； - 支持的文件类型，包括 txt、pdf、docx、png、gif 等多种格式； - 可选 AI 模式，支持本地模型和 OpenAI 云端模型； - 检索增强生成（RAG）让 AI 基于知识库给出高质量回答； - 完全本地运行保护隐私，支持同步 Google Drive。支持使用 LM Studio 与本地部署的大模型结合使用，可处理超过 10 万个文件，所有数据均在本地处理。

电脑里存放着大量文档、图片和 PDF，有时候想找某个资料都想不起来存放在哪个文件夹，很是苦恼。不妨试试，利用 Second Brain 这个开源工具，把我们的本地文件变成一个可搜索的 RAG 知识库。通过自然语言或关键词来搜索内容，支持文本和图片的多模态搜索，还能结果本地 AI 模型进行智能问答。 GitHub：主要特性： - 语义搜索和关键词搜索结合，精准找到相关内容； - 支持文本和图片的多模态搜索与嵌入； - 支持的文件类型，包括 txt、pdf、docx、png、gif 等多种格式； - 可选 AI 模式，支持本地模型和 OpenAI 云端模型； - 检索增强生成（RAG）让 AI 基于知识库给出高质量回答； - 完全本地运行保护隐私，支持同步 Google Drive。支持使用 LM Studio 与本地部署的大模型结合使用，可处理超过 10 万个文件，所有数据均在本地处理。

GitHubDaily

30,761 次观看 • 10 个月前

一个轻量级可视化的 AI 智能体工作流构建器：PySpur。提供了拖拽式构建、循环、文件上传、结构化输出、RAG、多模态支持、工具集成等等功能。 GitHub：可一键部署，发布为 API 并在任意地方集成使用。支持超过 100 个 LLM 提供商、嵌入器和向量数据库。

一个轻量级可视化的 AI 智能体工作流构建器：PySpur。提供了拖拽式构建、循环、文件上传、结构化输出、RAG、多模态支持、工具集成等等功能。 GitHub：可一键部署，发布为 API 并在任意地方集成使用。支持超过 100 个 LLM 提供商、嵌入器和向量数据库。

GitHubDaily

34,824 次观看 • 1 年前

用可视化的方式连接各种 AI 模型、创建独特的 AI 工具有一个独特的模块化系统，可以用视觉的方式，把 GPT、Whisper、Stable Diffusion、BLIP-2 等 AI 模型连接成管道/流水线，逐级设置、逐级处理，最终获得结果并以 API 形式部署操作非常直观，功能也足够强大 #设计AI

用可视化的方式连接各种 AI 模型、创建独特的 AI 工具有一个独特的模块化系统，可以用视觉的方式，把 GPT、Whisper、Stable Diffusion、BLIP-2 等 AI 模型连接成管道/流水线，逐级设置、逐级处理，最终获得结果并以 API 形式部署操作非常直观，功能也足够强大 #设计AI

倪爽

238,429 次观看 • 3 年前

LangChain：构建与数据对话的聊天机器人4——向量和嵌入 #LangChain构建与数据对话的聊天机器人这节课主要讲述了如何使用嵌入（embeddings）和向量存储（vector stores）来处理和检索数据。首先，我们将文档分割成小的、语义有意义的分块，然后将这些分块存储到索引中，以便在需要回答关于这个数据集的问题时能够轻松地检索到。Embedding是将文本转化为向量空间的数组的过程，相似内容的文本在向量空间中会有相似的向量。这意味着我们可以比较这些向量，找出相似的文本片段。向量存储是一个可以轻松查找相似向量的数据库，这在我们试图找到与手头问题相关的文档时非常有用。视频还详细讲解了如何使用OpenAI创建嵌入，以及如何使用NumPy比较嵌入的相似度。然后，我们将所有的嵌入存储在向量存储中，以便于后续的检索。视频中使用的向量存储是Chroma，因为它轻量级且内存中，非常容易上手。最后，我们将向量数据库持久化，以便在未来的课程中使用。然而，这种方法并不完美，视频也讨论了一些边缘情况和失败模式，例如检索到重复的信息，或者无法准确捕捉到结构化信息。课程地址：播放列表： B站：

LangChain：构建与数据对话的聊天机器人4——向量和嵌入 #LangChain构建与数据对话的聊天机器人这节课主要讲述了如何使用嵌入（embeddings）和向量存储（vector stores）来处理和检索数据。首先，我们将文档分割成小的、语义有意义的分块，然后将这些分块存储到索引中，以便在需要回答关于这个数据集的问题时能够轻松地检索到。Embedding是将文本转化为向量空间的数组的过程，相似内容的文本在向量空间中会有相似的向量。这意味着我们可以比较这些向量，找出相似的文本片段。向量存储是一个可以轻松查找相似向量的数据库，这在我们试图找到与手头问题相关的文档时非常有用。视频还详细讲解了如何使用OpenAI创建嵌入，以及如何使用NumPy比较嵌入的相似度。然后，我们将所有的嵌入存储在向量存储中，以便于后续的检索。视频中使用的向量存储是Chroma，因为它轻量级且内存中，非常容易上手。最后，我们将向量数据库持久化，以便在未来的课程中使用。然而，这种方法并不完美，视频也讨论了一些边缘情况和失败模式，例如检索到重复的信息，或者无法准确捕捉到结构化信息。课程地址：播放列表： B站：

宝玉

40,993 次观看 • 3 年前

🚨卧槽！量化技能全景导航库来了 quantskills 组织开源的 quantskills 仓库，是一个专门为量化交易和金融 AI Agent 打造的全景导航地图，把大量可复用、可被 Agent 调用的量化技能进行了系统化整理。核心亮点： > 覆盖 9 大核心类目：数据接口、因子研究、策略回测、风险监控、市场分析、AI Agent 等 > 收录 500+ 个经过验证的因子技能，涵盖量价、风险、方向性和统计类 > 强调技能的标准化设计，便于 AI Agent 直接调用和组合 > 包含大量实用工具链：因子 IC 分析、事件风险预警、新闻情绪分析、组合优化等 > 提供技能与 Agent 的开发模板和治理机制，方便社区共建 > 同时整理了大量未分类的高价值研究工具和复现项目对做量化因子开发、策略研究，或者想构建能自主使用量化工具的金融 AI Agent 的开发者来说，这是一个目前开源里整理得最系统、最具导航价值的资源库之一。

🚨卧槽！量化技能全景导航库来了 quantskills 组织开源的 quantskills 仓库，是一个专门为量化交易和金融 AI Agent 打造的全景导航地图，把大量可复用、可被 Agent 调用的量化技能进行了系统化整理。核心亮点： > 覆盖 9 大核心类目：数据接口、因子研究、策略回测、风险监控、市场分析、AI Agent 等 > 收录 500+ 个经过验证的因子技能，涵盖量价、风险、方向性和统计类 > 强调技能的标准化设计，便于 AI Agent 直接调用和组合 > 包含大量实用工具链：因子 IC 分析、事件风险预警、新闻情绪分析、组合优化等 > 提供技能与 Agent 的开发模板和治理机制，方便社区共建 > 同时整理了大量未分类的高价值研究工具和复现项目对做量化因子开发、策略研究，或者想构建能自主使用量化工具的金融 AI Agent 的开发者来说，这是一个目前开源里整理得最系统、最具导航价值的资源库之一。

爱吃折耳根的Ace

23,353 次观看 • 2 个月前

下一代 RAG 技术来了！微软正式开源 GraphRAG🔥 通过 LLM 构建知识图谱结合图机器学习，极大增强 LLM 在处理私有数据时的性能，同时 GraphRAG 具备连点成线的跨大型数据集的复杂语义问题推理能力。 - 提供 Index、Query 工具链与建模工具 - 提供 Graph Prompt 调优能力

下一代 RAG 技术来了！微软正式开源 GraphRAG🔥 通过 LLM 构建知识图谱结合图机器学习，极大增强 LLM 在处理私有数据时的性能，同时 GraphRAG 具备连点成线的跨大型数据集的复杂语义问题推理能力。 - 提供 Index、Query 工具链与建模工具 - 提供 Graph Prompt 调优能力

Tom Huang

189,455 次观看 • 2 年前

llm_wiki v0.5 版本更新发布🎉🎉🎉 本次更新是一个大的功能更新，llm_wiki 正式从 RAG 形式修改为 Agent 形式运行现在的 chat 对话，背后流程是一个完善的 agent 智能体处理流程，以知识库为基础，引入模块化的 tools 调用，以前每次对话都会进行 RAG 召回，现在改为 AI 智能判断，是否检索知识库、还是调用 Web 搜索同时优化了界面显示，未来将会不断引入 skills 以及更多内置 tools 能力，让 llm_wiki 更加强大更加智能。同时 star 数也来到了 12.6k ，感谢大家支持项目地址：

llm_wiki v0.5 版本更新发布🎉🎉🎉 本次更新是一个大的功能更新，llm_wiki 正式从 RAG 形式修改为 Agent 形式运行现在的 chat 对话，背后流程是一个完善的 agent 智能体处理流程，以知识库为基础，引入模块化的 tools 调用，以前每次对话都会进行 RAG 召回，现在改为 AI 智能判断，是否检索知识库、还是调用 Web 搜索同时优化了界面显示，未来将会不断引入 skills 以及更多内置 tools 能力，让 llm_wiki 更加强大更加智能。同时 star 数也来到了 12.6k ，感谢大家支持项目地址：

nash_su - e/acc

11,723 次观看 • 3 个月前

ChatGPT + Readwise Reader = 知识管理全新范式的一个关键模块 1、顶级 LLM （尤其是 o1+狂暴模式 meta prompt）的输出质量是非常高的，值得读 5678 遍。我坚信，这种合成数据是比人类产生的大部分“有机”数据质量更高，是更好的学习材料； 2、所以，高质量 chatgpt 对话如同好文章，需要知识管理；有效的知识管理不是机械地存储信息，而是通过对信息进行深度加工和高效提取，让你在需要时能快速提炼关键内容；Readwise reader 就是这样的作用。 3、chatgpt 的网页对话，其知识管理流程无比顺畅，不论是阅读体验、划线和笔记、后续检索、回顾、提取调用，都是最佳状态。（看视频附件） 4、readwise 有发展中国家用户半价优惠，发邮件申请即可。 Reader

ChatGPT + Readwise Reader = 知识管理全新范式的一个关键模块 1、顶级 LLM （尤其是 o1+狂暴模式 meta prompt）的输出质量是非常高的，值得读 5678 遍。我坚信，这种合成数据是比人类产生的大部分“有机”数据质量更高，是更好的学习材料； 2、所以，高质量 chatgpt 对话如同好文章，需要知识管理；有效的知识管理不是机械地存储信息，而是通过对信息进行深度加工和高效提取，让你在需要时能快速提炼关键内容；Readwise reader 就是这样的作用。 3、chatgpt 的网页对话，其知识管理流程无比顺畅，不论是阅读体验、划线和笔记、后续检索、回顾、提取调用，都是最佳状态。（看视频附件） 4、readwise 有发展中国家用户半价优惠，发邮件申请即可。 Reader

howie.serious

59,543 次观看 • 1 年前

腾讯把WeKnora升级到了：WeKnora2.0，RAG+Agent双驱动，引入ReACT架构，AI可以像人一样边思考、边行动、边调整的动态完成复杂任务就是说把PDF、Word、图片等资料丢进去，它能自动建知识库、做问答、写报告，还能上网查最新信息这个适合需要大量阅读+深度思考+结构化输出的复杂任务，比如说做行业调研、产品分析 WeKnora作为微信对话开放平台核心框架，它的智能问答能力是可以零代码无缝集成到公众号、小程序等生态里的，这个比较方便新增了FAQ知识库类型，可与现有文档知识库形成互补 FAQ知识库专用于管理“问题-答案”对形式的结构化知识，适合沉淀标准操作流程、产品使用指南、政策咨询等高频查询内容支持通过MCP，内置uvx、npx启动工具，支持多种传输方式内置DuckDuckGo获取实时信息 #WeKnora #微信公众号agent

腾讯把WeKnora升级到了：WeKnora2.0，RAG+Agent双驱动，引入ReACT架构，AI可以像人一样边思考、边行动、边调整的动态完成复杂任务就是说把PDF、Word、图片等资料丢进去，它能自动建知识库、做问答、写报告，还能上网查最新信息这个适合需要大量阅读+深度思考+结构化输出的复杂任务，比如说做行业调研、产品分析 WeKnora作为微信对话开放平台核心框架，它的智能问答能力是可以零代码无缝集成到公众号、小程序等生态里的，这个比较方便新增了FAQ知识库类型，可与现有文档知识库形成互补 FAQ知识库专用于管理“问题-答案”对形式的结构化知识，适合沉淀标准操作流程、产品使用指南、政策咨询等高频查询内容支持通过MCP，内置uvx、npx启动工具，支持多种传输方式内置DuckDuckGo获取实时信息 #WeKnora #微信公众号agent

AIGCLINK

26,732 次观看 • 9 个月前

大多数人的 Obsidian，最后都会变成一个漂亮的文件柜。保存了很多。真正用上的很少。因为它只为“输入”设计：剪藏、分类、标签、文件夹。但真正有用的知识库，应该每天主动把洞察推回来。我做了一版自动增长的 Obsidian 知识库 Demo：自动捕获 → 自动入库 → Claude 连接 → 每日简报 → 每周综合 → 知识复利一个月，它是工具。三个月，它开始记得你。六个月，它会变成你的思维地图。今晚，从记五条笔记开始。

大多数人的 Obsidian，最后都会变成一个漂亮的文件柜。保存了很多。真正用上的很少。因为它只为“输入”设计：剪藏、分类、标签、文件夹。但真正有用的知识库，应该每天主动把洞察推回来。我做了一版自动增长的 Obsidian 知识库 Demo：自动捕获 → 自动入库 → Claude 连接 → 每日简报 → 每周综合 → 知识复利一个月，它是工具。三个月，它开始记得你。六个月，它会变成你的思维地图。今晚，从记五条笔记开始。

Yanhua

21,999 次观看 • 4 个月前

一个全平台的本地 LLM 聊天软件Jan，支持自动下载模型以及非常详细的设置。懒得配置 Ollama 的可以试试。除了支持本地模型以外，在线的模型可以使用 API 接入，All in one 的模型管理。交互和 UI 也都很合理。同时支持在系统的任何可以输入的地方调取模型能力。

一个全平台的本地 LLM 聊天软件Jan，支持自动下载模型以及非常详细的设置。懒得配置 Ollama 的可以试试。除了支持本地模型以外，在线的模型可以使用 API 接入，All in one 的模型管理。交互和 UI 也都很合理。同时支持在系统的任何可以输入的地方调取模型能力。

歸藏(guizang.ai)

47,533 次观看 • 2 年前

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

歸藏(guizang.ai)

61,931 次观看 • 2 年前

这是另一款能让设计师彻夜难眠的 AI 设计工具！😏 刚刚体验了Dora ，直接颠覆了我对网站设计的所有认知。不需模板，不用库存图片，每一个元素都是 100% 为你定制。生成的网站的精美度和可用性都非常🉑。轻量使用的话 free 版本已经够用了。链接见评论👇

这是另一款能让设计师彻夜难眠的 AI 设计工具！😏 刚刚体验了Dora ，直接颠覆了我对网站设计的所有认知。不需模板，不用库存图片，每一个元素都是 100% 为你定制。生成的网站的精美度和可用性都非常🉑。轻量使用的话 free 版本已经够用了。链接见评论👇

MapleShaw

322,853 次观看 • 1 年前