Video wird geladen...

Video konnte nicht geladen werden

Beim Laden dieses Videos ist ein Problem aufgetreten. Dies könnte an einem vorübergehenden Netzwerkproblem liegen oder das Video ist möglicherweise nicht verfügbar.

Google最新开源了一款用于设备端AI的嵌入模型：EmbeddingGemma，体积小、速度快、可离线跑 3.08亿参数，2K上下文基于Gemma 3架构，支持100+种语言，量化后可在不到 200MB的RAM上运行 256 token的句子在EdgeTPU上<15ms出结果已集成sentence-transformers、llama.cpp、Ollama、LangChain、Weaviate 等常用工具，一条命令嵌入RAG或搜索应用可以用于比如本地文件搜索、离线聊天机器人、离线RAG 问答、函数调用分类等支持针对特定领域、任务或语言进行微调 #EmbeddingGemma #小模型

AIGCLINK

32,755 subscribers

17,597 Aufrufe • vor 1 Jahr •via X (Twitter)

Wissenschaft & Technologie Nachrichten & Politik Bildung

Anya Rossi• Live Now

Private livecam show

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

电脑里存放着大量文档、图片和 PDF，有时候想找某个资料都想不起来存放在哪个文件夹，很是苦恼。不妨试试，利用 Second Brain 这个开源工具，把我们的本地文件变成一个可搜索的 RAG 知识库。通过自然语言或关键词来搜索内容，支持文本和图片的多模态搜索，还能结果本地 AI 模型进行智能问答。 GitHub：主要特性： - 语义搜索和关键词搜索结合，精准找到相关内容； - 支持文本和图片的多模态搜索与嵌入； - 支持的文件类型，包括 txt、pdf、docx、png、gif 等多种格式； - 可选 AI 模式，支持本地模型和 OpenAI 云端模型； - 检索增强生成（RAG）让 AI 基于知识库给出高质量回答； - 完全本地运行保护隐私，支持同步 Google Drive。支持使用 LM Studio 与本地部署的大模型结合使用，可处理超过 10 万个文件，所有数据均在本地处理。

电脑里存放着大量文档、图片和 PDF，有时候想找某个资料都想不起来存放在哪个文件夹，很是苦恼。不妨试试，利用 Second Brain 这个开源工具，把我们的本地文件变成一个可搜索的 RAG 知识库。通过自然语言或关键词来搜索内容，支持文本和图片的多模态搜索，还能结果本地 AI 模型进行智能问答。 GitHub：主要特性： - 语义搜索和关键词搜索结合，精准找到相关内容； - 支持文本和图片的多模态搜索与嵌入； - 支持的文件类型，包括 txt、pdf、docx、png、gif 等多种格式； - 可选 AI 模式，支持本地模型和 OpenAI 云端模型； - 检索增强生成（RAG）让 AI 基于知识库给出高质量回答； - 完全本地运行保护隐私，支持同步 Google Drive。支持使用 LM Studio 与本地部署的大模型结合使用，可处理超过 10 万个文件，所有数据均在本地处理。

GitHubDaily

30,761 Aufrufe • vor 10 Monaten

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

歸藏(guizang.ai)

61,931 Aufrufe • vor 2 Jahren

Mistral刚刚放出了最新款语音转文本模型：Voxtral Transcribe 2，实时延迟低于200ms，支持说话人分离两个版，Voxtral Realtime，原生流式架构，可以用于实时应用场景，比如说聊天机器人、实时会议转录、语音助手延迟可以配置到200ms以内，在480ms延迟下词错误率与离线版相差不到1–2% Voxtral Mini Transcribe 2，用于批量，比如说播客、视频、电话录音等等，支持13种语言、说话人分离、上下文偏置以及词级时间戳 #STT #VoxtralTranscribe2 #语音转文本

Mistral刚刚放出了最新款语音转文本模型：Voxtral Transcribe 2，实时延迟低于200ms，支持说话人分离两个版，Voxtral Realtime，原生流式架构，可以用于实时应用场景，比如说聊天机器人、实时会议转录、语音助手延迟可以配置到200ms以内，在480ms延迟下词错误率与离线版相差不到1–2% Voxtral Mini Transcribe 2，用于批量，比如说播客、视频、电话录音等等，支持13种语言、说话人分离、上下文偏置以及词级时间戳 #STT #VoxtralTranscribe2 #语音转文本

AIGCLINK

17,223 Aufrufe • vor 7 Monaten

Danswer：开源AI企业问答工具支持GPT-4等多种大型模型 👉 集成了直接问答和生成式AI模型支持的聊天允许用户针对内部文档提出自然语言问题并获得由源材料中的引用和参考文献支持的可靠答案支持连接到Slack、GitHub、Confluence 等

Danswer：开源AI企业问答工具支持GPT-4等多种大型模型 👉 集成了直接问答和生成式AI模型支持的聊天允许用户针对内部文档提出自然语言问题并获得由源材料中的引用和参考文献支持的可靠答案支持连接到Slack、GitHub、Confluence 等

ahhhhfs

47,218 Aufrufe • vor 2 Jahren

Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》（中英双语字幕）这个视频介绍了大型语言模型（Large Language Models，LLMs）的概念、使用场景、提示调整以及Google的Gen AI开发工具。大型语言模型是深度学习的一个子集，可以预训练并进行特定目的的微调。这些模型经过训练，可以解决诸如文本分类、问题回答、文档摘要、跨行业的文本生成等常见语言问题。然后，可以利用相对较小的领域数据集对这些模型进行定制，以解决零售、金融、娱乐等不同领域的特定问题。大型语言模型的三个主要特征是：大型、通用性和预训练微调。"大型"既指训练数据集的巨大规模，也指参数的数量。"通用性"意味着这些模型足够解决常见问题。"预训练和微调"是指用大型数据集对大型语言模型进行一般性的预训练，然后用较小的数据集对其进行特定目的的微调。使用大型语言模型的好处包括：一种模型可用于不同的任务；微调大型语言模型需要的领域训练数据较少；随着数据和参数的增加，大型语言模型的性能也在持续增长。此外，视频还解释了传统编程、神经网络和生成模型的不同，以及预训练模型的LLM开发与传统的ML开发的区别。在自然语言处理中，提示设计和提示工程是两个密切相关的概念，这两者都涉及创建清晰、简洁、富有信息的提示。视频中还提到了三种类型的大型语言模型：通用语言模型、指令调整模型和对话调整模型。每种模型都需要以不同的方式进行提示。原始视频链接：

Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》（中英双语字幕）这个视频介绍了大型语言模型（Large Language Models，LLMs）的概念、使用场景、提示调整以及Google的Gen AI开发工具。大型语言模型是深度学习的一个子集，可以预训练并进行特定目的的微调。这些模型经过训练，可以解决诸如文本分类、问题回答、文档摘要、跨行业的文本生成等常见语言问题。然后，可以利用相对较小的领域数据集对这些模型进行定制，以解决零售、金融、娱乐等不同领域的特定问题。大型语言模型的三个主要特征是：大型、通用性和预训练微调。"大型"既指训练数据集的巨大规模，也指参数的数量。"通用性"意味着这些模型足够解决常见问题。"预训练和微调"是指用大型数据集对大型语言模型进行一般性的预训练，然后用较小的数据集对其进行特定目的的微调。使用大型语言模型的好处包括：一种模型可用于不同的任务；微调大型语言模型需要的领域训练数据较少；随着数据和参数的增加，大型语言模型的性能也在持续增长。此外，视频还解释了传统编程、神经网络和生成模型的不同，以及预训练模型的LLM开发与传统的ML开发的区别。在自然语言处理中，提示设计和提示工程是两个密切相关的概念，这两者都涉及创建清晰、简洁、富有信息的提示。视频中还提到了三种类型的大型语言模型：通用语言模型、指令调整模型和对话调整模型。每种模型都需要以不同的方式进行提示。原始视频链接：

宝玉

114,706 Aufrufe • vor 3 Jahren

一个轻量级可视化的 AI 智能体工作流构建器：PySpur。提供了拖拽式构建、循环、文件上传、结构化输出、RAG、多模态支持、工具集成等等功能。 GitHub：可一键部署，发布为 API 并在任意地方集成使用。支持超过 100 个 LLM 提供商、嵌入器和向量数据库。

一个轻量级可视化的 AI 智能体工作流构建器：PySpur。提供了拖拽式构建、循环、文件上传、结构化输出、RAG、多模态支持、工具集成等等功能。 GitHub：可一键部署，发布为 API 并在任意地方集成使用。支持超过 100 个 LLM 提供商、嵌入器和向量数据库。

GitHubDaily

34,824 Aufrufe • vor 1 Jahr

腾讯优图出的一款主动式设备端AI助手：Youtu-Tip，可以桌面自动化、Agent调用，能离线使用它可以模拟鼠标/键盘来实现桌面操纵，比如说，“帮我把Excel里低于60分的标红”、“总结文章发给XX微信” 支持热键、选中文本或者图像交互也可以教它技能，比如给它演示一遍“去官网搜最低价航班”，它能记录步骤下次一句命令自动跑还可以接入智能体、MCP服务器以及其他工具，来实现更复杂的任务 Tip基于Youtu-LLM驱动，1.96B，128K上下文，具备原生智能体能力，是开源的，也可以替换成其他模型它还有一个4B的Youtu-VL端侧多模态模型也马上要开源 #AI设备端助手 #YoutuTip

腾讯优图出的一款主动式设备端AI助手：Youtu-Tip，可以桌面自动化、Agent调用，能离线使用它可以模拟鼠标/键盘来实现桌面操纵，比如说，“帮我把Excel里低于60分的标红”、“总结文章发给XX微信” 支持热键、选中文本或者图像交互也可以教它技能，比如给它演示一遍“去官网搜最低价航班”，它能记录步骤下次一句命令自动跑还可以接入智能体、MCP服务器以及其他工具，来实现更复杂的任务 Tip基于Youtu-LLM驱动，1.96B，128K上下文，具备原生智能体能力，是开源的，也可以替换成其他模型它还有一个4B的Youtu-VL端侧多模态模型也马上要开源 #AI设备端助手 #YoutuTip

AIGCLINK

47,658 Aufrufe • vor 7 Monaten

小米最新开源的能覆盖600+语种的语音克隆TTS：OmniVoice，在中英文和多语言benchmark上关键指标达到SOTA 在Seed-TTS中文测试集上的WER为0.84%；在多语言benchmark上，SIM-o和WER超过ElevenLabs v2和MiniMax RTF低至0.025，合成效率比实时快40倍其核心在于采用了扩散语言模型风格的离散非自回归架构，直接从文本生成语音，一步到位，跳过中间的语义token阶段并且全码本随机掩码策略用于高效训练+预训练LLM初始化，确保语音清晰度和可懂度支持3-10秒参考音频克隆，可以通过描述属性，性别、年龄、音调、口音等生成声音支持非语言符号，比如[laughter]笑声，以及拼音/音标纠正发音 600+种语言覆盖，对于小语种保护比较有用，濒危语言可以用少量样本生成高质量语音，帮助语言数字化保存 #TTS #OmniVoice

小米最新开源的能覆盖600+语种的语音克隆TTS：OmniVoice，在中英文和多语言benchmark上关键指标达到SOTA 在Seed-TTS中文测试集上的WER为0.84%；在多语言benchmark上，SIM-o和WER超过ElevenLabs v2和MiniMax RTF低至0.025，合成效率比实时快40倍其核心在于采用了扩散语言模型风格的离散非自回归架构，直接从文本生成语音，一步到位，跳过中间的语义token阶段并且全码本随机掩码策略用于高效训练+预训练LLM初始化，确保语音清晰度和可懂度支持3-10秒参考音频克隆，可以通过描述属性，性别、年龄、音调、口音等生成声音支持非语言符号，比如[laughter]笑声，以及拼音/音标纠正发音 600+种语言覆盖，对于小语种保护比较有用，濒危语言可以用少量样本生成高质量语音，帮助语言数字化保存 #TTS #OmniVoice

AIGCLINK

15,791 Aufrufe • vor 5 Monaten

非常有意思的一个项目，一个AI聊天画布工具：Tangent，你可以基于一个聊天主题创建不同的对话分支，并且对话内容可以在画布上可视化出来，像一个思维工作台，特别适合头脑风暴 1、你可以创建多个对话分支，支持合并、对比和删除分支 2、达到上下文长度限制后可无缝恢复对话 3、可以在任意点创建对话分支，支持在不同分支间切换 4、支持导入Claude和ChatGPT的对话记录 5、支持离线使用 #AI对话管理工具 #Tangent

非常有意思的一个项目，一个AI聊天画布工具：Tangent，你可以基于一个聊天主题创建不同的对话分支，并且对话内容可以在画布上可视化出来，像一个思维工作台，特别适合头脑风暴 1、你可以创建多个对话分支，支持合并、对比和删除分支 2、达到上下文长度限制后可无缝恢复对话 3、可以在任意点创建对话分支，支持在不同分支间切换 4、支持导入Claude和ChatGPT的对话记录 5、支持离线使用 #AI对话管理工具 #Tangent

AIGCLINK

16,564 Aufrufe • vor 1 Jahr

Google刚发布了 Gemma 4，260 亿参数，开源免费，能在本地设备上离线运行。讲真，这才是 2026 年最合理的 AI 技术栈: 本地模型兜底，顶级模型按需调用。但我认为参数和免费都不是重点，真正值得注意的是它原生支持函数调用，意味着这个模型能自主使用工具，浏览网页，执行代码，调用 API，直接充当一个完整的本地智能体，全程不联网，全程不花钱。 260 亿参数，实测性能对标 6850 亿参数级别的行业顶级模型，跑在普通笔记本上就行。部署只要三行命令： - 安装 Ollama： - curl -fsSL | sh - 拉取模型： ollama pull gemma4 两分钟，顶级本地 AI 就绑在你自己的硬件上了。我计划的用法是这样的，欢迎交流：日常的研究分析、代码审查、文稿起草、数据处理，全扔给本地 Gemma 4，用 MCP 服务器接上工具调用能力，网页浏览、数据库对接、API 接入都能覆盖，只有遇到真正需要顶级推理的硬核任务时，才请 Claude Code 出场。以前每个月在 AI 服务上花几百美元，现在 90% 的日常场景本地免费搞定，只为那 10% 的高难度任务付费。

Google刚发布了 Gemma 4，260 亿参数，开源免费，能在本地设备上离线运行。讲真，这才是 2026 年最合理的 AI 技术栈: 本地模型兜底，顶级模型按需调用。但我认为参数和免费都不是重点，真正值得注意的是它原生支持函数调用，意味着这个模型能自主使用工具，浏览网页，执行代码，调用 API，直接充当一个完整的本地智能体，全程不联网，全程不花钱。 260 亿参数，实测性能对标 6850 亿参数级别的行业顶级模型，跑在普通笔记本上就行。部署只要三行命令： - 安装 Ollama： - curl -fsSL | sh - 拉取模型： ollama pull gemma4 两分钟，顶级本地 AI 就绑在你自己的硬件上了。我计划的用法是这样的，欢迎交流：日常的研究分析、代码审查、文稿起草、数据处理，全扔给本地 Gemma 4，用 MCP 服务器接上工具调用能力，网页浏览、数据库对接、API 接入都能覆盖，只有遇到真正需要顶级推理的硬核任务时，才请 Claude Code 出场。以前每个月在 AI 服务上花几百美元，现在 90% 的日常场景本地免费搞定，只为那 10% 的高难度任务付费。

AYi

202,898 Aufrufe • vor 5 Monaten

大语言模型微调之道4——指令微调 #大语言模型微调之道在本期视频中，我们深入探讨了什么是指令微调以及它如何帮助AI模型更好地与用户互动。你知道GPT-3是如何变成具有聊天能力的ChatGPT的吗? 这背后的秘密就是指令微调。这种特殊的技术不仅可以应用于聊天，还可以帮助AI完成推理、编码等多种任务。但是，为了完成微调，我们需要什么数据呢？我们可以使用各种资源，包括互联网上的数据或公司内部的数据，如FAQs、客服聊天记录或Slack消息历史。如果没有适当的数据，也可以使用提示词模板来转换数据为更有目的的格式。Alpaca技术，来自斯坦福，甚至利用ChatGPT来完成这种转换！最后，我们通过实验对比了经过指令微调的模型和未经指令微调的模型的性能。结果显示，经过指令微调的模型能够提供更准确、更符合预期的答案。你还等什么？来了解更多关于如何为模型准备数据并进行微调的信息吧！课程地址： YouTube： B站：

大语言模型微调之道4——指令微调 #大语言模型微调之道在本期视频中，我们深入探讨了什么是指令微调以及它如何帮助AI模型更好地与用户互动。你知道GPT-3是如何变成具有聊天能力的ChatGPT的吗? 这背后的秘密就是指令微调。这种特殊的技术不仅可以应用于聊天，还可以帮助AI完成推理、编码等多种任务。但是，为了完成微调，我们需要什么数据呢？我们可以使用各种资源，包括互联网上的数据或公司内部的数据，如FAQs、客服聊天记录或Slack消息历史。如果没有适当的数据，也可以使用提示词模板来转换数据为更有目的的格式。Alpaca技术，来自斯坦福，甚至利用ChatGPT来完成这种转换！最后，我们通过实验对比了经过指令微调的模型和未经指令微调的模型的性能。结果显示，经过指令微调的模型能够提供更准确、更符合预期的答案。你还等什么？来了解更多关于如何为模型准备数据并进行微调的信息吧！课程地址： YouTube： B站：

宝玉

22,461 Aufrufe • vor 3 Jahren

哈佛CS50课程节选：如何构建基于GPT-4的应用上一节介绍了什么是GPT-4，这一节则是基于GPT-4可以构建什么样的应用，以及如何构建。这部分课程介绍了GPT-4可以构建的各种类型的应用，包括不限于： - 助手应用：GPT可以用于创建AI助手，帮助完成写作、编程或回答问题等任务。通过结合专业领域知识和用户的喜好，还可以对这些助手可以进一步定制。 - 文档问答系统：GPT可以用于构建基于上下文、对文档的问答系统。 - 实用功能：GPT可用于自动化需要基本语言理解的任务，如生成单元测试、查找文档、重写功能或检查品牌一致性。 - 创意创作：GPT可以用于在各个领域生成想法、可能性或建议，包括写作、营销和研究。通过将GPT的生成能力与专业领域的知识相结合，用户可以创建更有针对性和相关性的输出。 - Baby AGI或多步计划机器人：GPT可以放入一个循环中，与自己对话并指导自己的行动，从而创建一个基于一组工具和目标的自主执行任务或生成结果的自主代理。通过这个教程，可以大概了解GPT能做一些什么事情，以及背后的原理是什么。上一节什么是GPT-4：完整课程视频地址： edX:

哈佛CS50课程节选：如何构建基于GPT-4的应用上一节介绍了什么是GPT-4，这一节则是基于GPT-4可以构建什么样的应用，以及如何构建。这部分课程介绍了GPT-4可以构建的各种类型的应用，包括不限于： - 助手应用：GPT可以用于创建AI助手，帮助完成写作、编程或回答问题等任务。通过结合专业领域知识和用户的喜好，还可以对这些助手可以进一步定制。 - 文档问答系统：GPT可以用于构建基于上下文、对文档的问答系统。 - 实用功能：GPT可用于自动化需要基本语言理解的任务，如生成单元测试、查找文档、重写功能或检查品牌一致性。 - 创意创作：GPT可以用于在各个领域生成想法、可能性或建议，包括写作、营销和研究。通过将GPT的生成能力与专业领域的知识相结合，用户可以创建更有针对性和相关性的输出。 - Baby AGI或多步计划机器人：GPT可以放入一个循环中，与自己对话并指导自己的行动，从而创建一个基于一组工具和目标的自主执行任务或生成结果的自主代理。通过这个教程，可以大概了解GPT能做一些什么事情，以及背后的原理是什么。上一节什么是GPT-4：完整课程视频地址： edX:

宝玉

172,667 Aufrufe • vor 3 Jahren

直播第二天，OpenAI推出了【强化微调(Reinforcement Fine-Tuning)】，它可以让你用极少的训练数据，为特定的复杂任务构建专家模型，微调后的o1-mini得分提高80%，反超o1正式版！特点： 1、只需几十到几千个高质量数据 2、评分机制持续优化模型表现，通过参考答案评估模型输出，支持自定义评分标准 3、增强模型在特定领域的推理能力和准确性，通用AI变专家AI 4、提供完整网页操作界面，可实时监控模型性能变化适用于编程、科学研究、金融、法律等等不同领域 #openai #openai强化微调 #模型微调

直播第二天，OpenAI推出了【强化微调(Reinforcement Fine-Tuning)】，它可以让你用极少的训练数据，为特定的复杂任务构建专家模型，微调后的o1-mini得分提高80%，反超o1正式版！特点： 1、只需几十到几千个高质量数据 2、评分机制持续优化模型表现，通过参考答案评估模型输出，支持自定义评分标准 3、增强模型在特定领域的推理能力和准确性，通用AI变专家AI 4、提供完整网页操作界面，可实时监控模型性能变化适用于编程、科学研究、金融、法律等等不同领域 #openai #openai强化微调 #模型微调

AIGCLINK

26,383 Aufrufe • vor 1 Jahr

兄弟们 3D Nano Banana 🍌来了 Hyper3D 推出其第二代 AI 3D 生成模型： Rodin Gen-2 Edit 该模型能在不破坏原有 3D 资产结构的前提下，通过语言对 3D 模型进行局部和增量修改。相当于用嘴在原3D模型上精修、动刀子，任意雕刻成你想要的样而且牛逼的是支持上传任意第三方 3D 模型都支持再编辑。主要功能： 1、局部编辑（核心能力）：支持框选模型的指定区域对选中区域执行三类操作：添加（Add）移除（Remove）修改（Modify）修改通过自然语言描述完成 2、自然语言驱动的 3D 编辑 - 语言作为编辑指令，而非仅用于生成提示 - 可描述结构变化、替换关系和风格调整 - 适合非专业建模人员参与 3D 修改流程 3、可导出、可用于下游流程模型可下载继续用于： DCC 软件（Blender 等）游戏 / 动画管线 3D 打印

兄弟们 3D Nano Banana 🍌来了 Hyper3D 推出其第二代 AI 3D 生成模型： Rodin Gen-2 Edit 该模型能在不破坏原有 3D 资产结构的前提下，通过语言对 3D 模型进行局部和增量修改。相当于用嘴在原3D模型上精修、动刀子，任意雕刻成你想要的样而且牛逼的是支持上传任意第三方 3D 模型都支持再编辑。主要功能： 1、局部编辑（核心能力）：支持框选模型的指定区域对选中区域执行三类操作：添加（Add）移除（Remove）修改（Modify）修改通过自然语言描述完成 2、自然语言驱动的 3D 编辑 - 语言作为编辑指令，而非仅用于生成提示 - 可描述结构变化、替换关系和风格调整 - 适合非专业建模人员参与 3D 修改流程 3、可导出、可用于下游流程模型可下载继续用于： DCC 软件（Blender 等）游戏 / 动画管线 3D 打印

小互

24,631 Aufrufe • vor 7 Monaten