训练魔法-AI魔法学院

本文总结了大模型时代中几家有前途的公司，包括字节、百度、Moonshot和智谱，以及大厂和创业公司可能遇到的问题。字节有多模态中文私有数据、OpenAI研究科学家和大量GPU资源，百度有先发优势、高重视程度和丰富的文本数据积累。Moonshot团队专业且和谐，模型水平超过GPT-3.5。智谱有独特的商业模式和较大的融资额。大厂可能面临资源碎片化、部门墙厚、传统AI research taste阻碍等问题，而创业公司可能遭遇Founder dispute、患上大公司病、技术不够成熟就急于发布等问题。此外，买不到/租不到GPU和拉不到下一轮投资也是普遍的挑战。

大模型 2024-04-08

微调

NEFTune：在Embedding中加入噪⾳提⾼指令微调效果！

本文介绍了NEFTune技术，即在训练过程中向嵌入向量添加均匀随机噪声，以改善大型语言模型（LLM）的微调性能。研究结果显示，使用NEFTune技术可以显著提高LLM在对话任务上的性能，同时保持对其他任务性能的稳定性。NEFTune技术是一种简单而有效的正则化方法，可以缓解模型在指令微调阶段的过拟合现象，并更好地利用预训练阶段的知识内容。虽然研究还存在一些局限性，但NEFTune的成功表明了算法和正则化对LLM训练的重要性。

NEFTune 指令微调 2024-04-08

OpenAI

OpenAI 上线新功能力捧 RAG，开发者真的不需要向量数据库了？

本文探讨了OpenAI的开发者大会上推出的GPT-4 Turbo模型、全新Assistants API和一系列增强功能。其中，Assistants API的内置工具支持了代码解释器、知识库检索以及函数调用，能帮助开发者构建高质量的AI应用。然而，其内置的检索功能存在可扩展性、定制化和多租户支持等方面的限制。为了克服这些限制，文章介绍了使用Milvus向量数据库实现自定义检索功能的方法。通过集成Milvus，开发者可以构建高效、可扩展的检索器，满足多样化的用例需求。文章最后总结了OpenAI Assistants内置检索功能的局限性，并强调了使用向量数据库进行自定义检索的重要性。

OpenAI新功 RAG与向量库 2024-04-08

大模型

“大模型+机器人”的现状和未来，重磅综述报告来了！

本文综述了基础模型在机器人学中的应用，包括感知、决策与规划、控制等方面。视觉Transformer和视觉-语言模型提高了机器人感知的通用性和泛化能力，大型语言模型助力决策与规划，实现了从语言到行动的映射，而扩散模型和视觉-语言模型则优化了机器人控制。基础模型为机器人注入了语言理解、视觉泛化、常识推理等能力，预示着机器人学的新发展。未来，基础模型在机器人领域的应用将更广泛，需解决实时性、鲁棒性和可解释性等问题，推动机器人技术为社会带来更大福祉。

大模型+机器人现状与未来 2024-04-07

教程

GPTs使用指南 | 保姆级GPTs入门教程，0代码基础也能做AI产品

本文介绍了如何创建自己的GPTs，包括注册ChatGPT官网、开通ChatGPT Plus服务、进入GPTs创建入口、完善GPTs配置、保存并发布GPTs等步骤。同时，还推荐了一款名为GPTs Find的产品，帮助用户快速寻找可用的GPTs，并提供了GPTs搜索、入门教程、智能问答机器人和最新信息交流社群等功能。

GPTs使用 AI产品制作 2024-04-07

语音

Whisper对于中文语音识别与转写中文文本优化的实践(Python3.10)

文章主要讨论了阿里FunAsr对Whisper中文领域转写能力的挑战，并提供了通过优化措施提高Whisper在中文转写上的表现。首先，文章指出Whisper在中文语音转写后对标点符号的支持不够完备，但可以通过调整DecodingOptions中的prompt参数进行引导，改善标点符号的标注效果。其次，文章介绍了使用transformers库调用中文模型的方法，特别是BELLE-2/Belle-whisper-large-v2-zh模型，该模型在whisper的large-v2模型基础上针对中文进行了微调，提高了中文语音识别的准确度和效率。尽管该模型在标点能力方面有所弱化，但仍可通过其他方案如基于标点模型对转写文本加标点来弥补。文章还提到了small模型的中文优化版本，如Jingmiao/whisper-small-chinese_base。最后，文章总结了通过微调预训练模型，可以将其应用于特定的中文NLP任务，提高模型在该任务上的性能。

Whisper 中文语音 2024-04-07

SQL

RLHF 在 Text2SQL 领域中的探索

文主要介绍了 Text2SQL 的基本概念，以及 RLHF 的概念和框架，最后结合 DB-GPT-Hub 项目，将 RLHF 方法应用于 Text2SQL 任务进行实践探索。

Text2SQL RLHF 2024-04-07

LLM

Byzer-LLM 快速体验智谱 GLM-4

本文介绍了Byzer-LLM，一个可以部署和使用市面上主流开源和SaaS版本大模型的工具。文章重点介绍了如何快速体验GLM-4模型，包括注册账号、申请API Key、部署使用等步骤。此外，文章还提到了Byzer-LLM的一些独特功能，如Function Calling、RespondWith Class和Funciton Impl，以及两套实现方式：基于Prompt改写和基于SystemMessage+Prompt改写。最后，文章对GLM-4的测试结果进行了评价，认为其表现惊艳。

Byzer-LLM 智谱GLM-4 2024-04-07

大模型

开源大模型王座易主！谷歌Gemma杀入场，笔记本可跑，可商用

刚刚，谷歌杀入开源大模型。开源领域大模型，迎来了重磅新玩家。谷歌推出了全新的开源模型系列「Gemma」。相比 Gemini，Gemma 更加轻量，同时保持免费可用，模型权重也一并开源了，且允许商用。

开源模型 Gemma 2024-04-03

史上最好的中文大预言模型出现了！！！

Kimi Chat 大模型 2024-04-03

GPTs

小心你的GPTs 防守篇 - 自带六神装的高防GPTs

距离我们 GPTs 攻防的上篇发布到现在已经过去了两周，也有很多的群友积极参与了我们的攻防活动，但是截止目前还没有人破解到我们的 prompt，不少群友想要我们分享一下防守的经验，这一篇我们就来为大家带来，我们收集到的所有 GPTs 防守技巧，希望能帮大家守护好自己的“提示词财富”

GPTs 大模型 2024-04-03

RAG

RAG模型的主要痛点和解决方案

检索增强生成（RAG）模型已经成为一种有前景的方法，通过利用存储在文档中的外部知识来提高生成文本的准确性和相关性。通过检索和条件化相关的上下文文档，RAG模型可以产生比传统语言模型更具事实性、深度和特定性的响应。

rag 大模型 2024-04-03

RAG

图解检索增强式生成（RAG）技术 | 万字长文

本文是对高级检索增强式生成技术（Retrieval Augmented Generation，简称 RAG）和算法的全面研究，系统性地整合了各种方法。鉴于本文旨在概述和解释现有的 RAG 算法和技术，我将不深入探讨代码实现的细节，仅进行引用，推荐阅读相关文档和学习教程。

检索增强式生成 RAG 2024-04-02

ChatGLM

傻瓜式！一键部署ChatGLM3，免去环境烦恼+开箱即用！集成API调用！本地化界面操作！

傻瓜式系列已经更新第三期了啊！雄哥更新初衷就是，让环境部署简单易用！让碰到的各种困难的小朋友！快速拿到结果！小白也能0基础部署！也能动手去微调！搭建自己的知识库！

ChatGLM3 大模型 2024-04-02

LLM

更强的小型LLM：Zephyr-7B

ZEPHYR-7B 是新一代大型语言模型（LLMs）之一，它受到了 AI 社区的极大欢迎。该模型由 Hugging Face 创建，实际上是在公共数据集上训练的 Mistral-7B 的微调版本，但也通过知识蒸馏技术进行了优化。该模型取得了令人难以置信的成果，在多种任务中超越了许多更大的模型。

Zephyr-7B 大语言模型 2024-04-02