文章列表-AI魔法学院

文章列表

RAG超参数调优食用指南

本文将会包括以下内容： 1.什么是超参数微调，以及为什么它很重要 2.

rag 大模型

Gpt写小说，常用的中文指令集「实操篇」

**`文本提示`：** - **说明：** 提供一个启发性的文本片段，指导GPT生成符合期望的小说内容。

GPT 写作

大模型：泛化即智能，压缩即一切！

在人工智能领域，通俗地说，泛化是指模型在训练数据中学习到的共性，这样在面对从未见过的数据时就能够具备很好的预测能力。

泛化大模型

AI Agent / 智能体观察笔记（中）

这段文字会被转换成一个具体的行动影响沙盒环境并在页面上展示出来，同时大语言模型会把智能体的行动以一个表情包的方式展示出来。

大模型

【CLIP系列Paper解读】CLIP: Learning Transferable Visual Models From Natural Language Supervision

Zero-shot prediction 一旦CLIP训练好了，我们就可以做zero-shot prediction了，如图所示： CLIP zero-shot prediction 步骤可以整理成下面这样

OpenAI 自然语言监督

【中华民族史上最强智库】完整提示词

/next：每完成一步工作，只有用户输入 ‘/next’ ,系统才能开始下一步工作 /optimize：用户可输入’/optimize ‘，然后再加上需要优化的需求，你将重新优化内容/

提示词大模型

NEFTune：在Embedding中加入噪⾳提⾼指令微调效果！

结论和局限性 NEFTune⽅法可以缓解模型在指令微调阶段的过拟合现象，可以更好的利⽤预训练阶段的知识内容。

NEFTune 大语言模型

Python几种常见算法汇总

capacity / item[0] capacity = 0 return total_value 在这个示例中，我们定义了一个函数knapsack，它接受一个列表和一个容量作为输入

编程 python 算法

达摩院SPACE对话大模型：知识注入与知识利用

前面做了基本的引入和介绍，一方面，针对智能对话，预训练对话模型已经成为基础模型；另一方面，对于整个对话系统来讲，都是围绕着知识展开的。

大模型

大模型：泛化即智能，压缩即一切

在人工智能领域，通俗地说，泛化是指模型在训练数据中学习到的共性，这样在面对从未见过的数据时就能够具备很好的预测能力。

大模型泛化

OpenAI真的开源了！这波「实时语音」操作，让万物开口说话，我爱了

当时，都把注意力放在了发布内容上，忽略了这个毛绒玩具。

OpenAI 嵌入式实时语音 SDK

微软Phi-3、Mixtral 8x22B等小模型过拟合，三分之二存在数据污染

对于开源模型，如果模型与库兼容，会使用 vLLM 来加速模型推断，否则默认使用标准 HuggingFace 库进行推理。

过拟合小模型

Prompt工程如此强大，我们还需要模型训练吗？

1.Fine tune成本高，而且看起来影响模型zero shot或者通用领域方面的能力，

大模型

什么是BERT？

因此最后模型的输入序列tokens为下图（如果输入序列只包含一个句子的话，则没有[SEP]及之后的token）：模型的输入序列上面提到了BERT的输入为每一个token对应的表征，实际上该表征是由三部分组成的

embedding

图解大模型训练之：张量模型并行(TP)，Megatron-LM

我们需要把W切开放到不同的卡上，则我们面临三个主要问题： · 怎么切分W。

开源模型

<...75 76 77 787980 81 82 83 84 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1