文章列表-AI魔法学院

文章列表

大语言模型微调：定制自己的微调数据集

典型的如训练Vicuna模型 [6] 所使用的ShareGPT数据集，ShareGPT本身是一个与ChatGPT（GPT-4）模型的聊天记录分享平台，它托管了大量由用户挑选的对话数据集，这些聊天记录通常展示的是聊天机器人自然流畅

大模型

收藏！万字长文聊聊LLM Agents的现状，问题与未来

注意：这里的embedding是text embedding，即句向量，需要和词向量分开。

LLM Agents

Falcon 180B 开源影响了谁？

一些争议在今年年初时，大家看到ChatGPT出来后还很担全世界的大模型，未来的知识产出都要被OpenAI一家公司给垄断了，当时Hugging Face的CEO Clement Delangue就表示过

大模型

使用ChatGPT6小时写出高分论文

你只需简单地提供几个关键词或研究领域，ChatGPT就会给出多个潜在选题，你可以根据自己的兴趣和研究方向选择其中一个！

ChatGPT 写作

ChatGLM3-6B 功能原理解析

API 地址换成本地的 ChatGLM3 API 地址，因为是调用本地的 LLM，所以无需填写 OpenAI 的 api_key，这里就随便写个字符串即可填写 system 角色的提示词信息

ChatGLM3 大模型

大模型微调数据选择和构造技巧

但其实从监督学习的演进来看，这套东西其实已经被研究的很多了，用一个技术名词叫 “主动学习”。

大模型微调

大模型的研究新方向：混合专家模型（MoE）

（ICL），通过采用少量精心策划的风格示例和精心设计的系统提示，对基础LLMs进行有效对齐的URIAL方法；还有一种方法就是对模型大而化之的处理方法，也就是本文要介绍的基于门控网络的混合专家模型（Mixture

MoE 大模型

一文讲明白什么是预训练、微调和上下文学习

Masked Language Modeling：模型经过训练以预测句子中缺失或屏蔽的单词，学习上下文关系并捕获语言模式。

大模型训练

大模型时代-行业落地的再思考

看到了@Naiyan Wang（知乎）和@刘聪NLP（知乎&本人）的两篇文章，都提到了对行业大模型的一些看法，有很多相同的想法。

大模型

大模型：泛化即智能，压缩即一切

那么怎样以最简单方式提高模型泛化能力呢？

大模型泛化

深入探秘：百川7B大模型的训练代码解析，揭秘巨无霸语言模型背后的奥秘

在自然语言处理里面，有两种模型，一种是causal language modeling，它的输出是依赖过去和现在的输入；同时，还有一种是masked language modeling，它是把句子中的一个词盖住

大模型

GTC大会黄仁勋发言稿

世界上没有哪个会议能汇聚来自如此多元科学领域的研究人员，从气候科技到无线电科学，大家都在探索如何使用 AI 来机器人化控制 MIMOS，用于下一代 6G 无线电，自动驾驶汽车，甚至是各方面的人工智能。

黄仁勋 nvidia

主流网络爬虫蜘蛛详解

用户在内置于 Windows 操作系统的搜索栏，或 Edge 默认搜索引擎均可直达必应的网页、图片、视频、词典、翻译、资讯、地图等全球信息搜索服务。

爬虫蜘蛛详解

如何估计大模型所需要的显存大小？HuggingFace发布Model Memory Calculator，一键计算大模型显存需求

下面我们使用这个工具估算一下清华大学ChatGLM-6B模型的结果（第一代的ChatGLM-6B模型信息卡地址：https://www.datalearner.com/ai-models

大模型

谈谈RAG存在的一些问题和避免方式

“今天的AI和机器学习真的很糟糕。

RAG 大模型

<...81 82 83 848586 87 88 89 90 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1