文章列表-AI魔法学院

文章列表

深入探秘：百川7B大模型的训练代码解析，揭秘巨无霸语言模型背后的奥秘

（二、软件和部署) 本期开始，为大家讲下这些大模型是怎么训练生成的首先，为了确保本系列的讲解流畅，我将直接深入讲解大型语言模型的代码。

大模型

Ilya认错，Scaling Law崩了？自曝SSI秘密技术路线取代OpenAI

同时，由于过程中需要大量能源，电力短缺也成为训练AI的严重阻碍。

Scaling Law AI大模型

强大高效的微信爬虫Wechat_Articles_Spider：快速获取公众号文章的利器

打开终端或命令提示符，并执行以下命令安装wechat_articles_spider： pip install wechatarticles 步骤 3：安装完成后

微信爬虫

【手把手带你微调 Llama3】改变大模型的自我认知，单卡就能训

AI在手”，“<AUTHOR>”替换成“AI大模型在手公众号”,文本替换后的效果如下： [ { "instruction": "你好

Llama3 对话问答模型

Stable Diffusion

Stable Diffusion | SD阿里云3步部署，全程五分钟，免费试用三个月，电脑无需升级配置

别看到阿里云之类的就感觉陌生，敬而远之，其实也没有那么复杂，三步就完事了，这里就来拆解一下。

下载

大模型时代-行业落地的再思考

这类做法只是对大模型的生搬硬套，对解决领域问题和传统方法并没有很大的帮助。

大模型

百川智能正式发布130亿参数通用大语言模型百川大模型（Baichuan-13B-Base）

7B版本采用RoPE编码方式，而13B使用了ALiBi位置编码技术，后者能够处理长上下文窗口，甚至可以推断超出训练期间读取数据的上下文长度，从而更好地捕捉文本中上下文的相关性，让预测或生成更准确。

大模型中文

微软Phi-3、Mixtral 8x22B等小模型过拟合，三分之二存在数据污染

通过进一步分析发现，模型生成 GSM8k 样本的概率与其在 GSM8k 和 GSM1k 之间的表现差距之间存在正相关关系（相关系数 r^2 = 0.32）。

过拟合小模型

基于Ollama本地部署Llama3指南！

实际使用Llama3 llama3_8B的生成速度非常快，这个版本用N卡8G的显存跑问题也不大。

LLama3 ollama

《OpenAI官方：GPT 最佳实践》大白话编译解读版本

明确完成任务所需的步骤 5.

提示词官方翻译

大语言模型应用中的文本分块策略

当嵌入句子时，生成的向量侧重于句子的特定含义。

开源模型

玩一玩ChatGLM3，1660s即可流畅运行！

更完整的功能支持，原生支持工具调用（Function Call）、代码执行（Code Interpreter）和 Agent 任务等复杂场景。

大模型 ChatGLM

手把手！做Llama3的MoE专家混合模型！底层原理怎样的？做自己的MoE模型？需要多少算力？

把Llama3和Phi-3组成MoE！

MoE 专家混合模型

LLM微调神器Lamini，疯狂获星1.9k，免费可用！！

免费，适用于小型 LLM； · 迅速，10-15 分钟； · 很大，无限大小的 prompt，比最大的 prompt 多 1000 倍以上的空间； · 学习，检索增强生成

大模型

提示词框架：BROKE

在通往终点的路上，有很多小任务和挑战需要你完成。

BROKE 提示词

<...89 90 91 929394 95 96 97 98 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1