文章列表-AI魔法学院

文章列表

大模型压缩首篇综述来啦~

论文将剪枝分为两种主要类型：非结构化剪枝和结构化剪枝。

大模型

模拟ChatGPT流式数据——SSE最佳实践

每个消息之间以空行分隔（即最后一个字段以\n\n结尾） tips： · 如果一行字段中不包含冒号，则整行文本将被视为字段名

打字机 sse 大模型

LangChain Agent 原理解析

虽然 LLM 在语言理解和交互决策制定方面展现出了令人印象深刻的能力，但它们的推理（例如链式思考提示）和行动（例如行动计划生成）的能力主要被视为两个独立的主题。

大模型

从⼤模型到 AI 应⽤落地，工程实现有多复杂?

本文整理自 8 月 12 日「NPCon：AI模型技术与应用峰会」上，来自 Dify.AI 创始人张路宇《LLM 应用技术栈与Agent全景解析》的分享，介绍了当前大模型技术应用技术栈以及 Agent

大模型

模型压缩：量化、剪枝和蒸馏

本文将介绍针对BERT（以Transformer Block 堆叠而成的深度模型）的压缩方法。

BERT 语言模型

一本Python爬虫的书，凭什么能畅销10W册

网络爬虫（也称作网页蜘蛛，网络机器人，在英文中又称作 web spider）是一种按照一定规则，自动地抓取互联网信息的程序或脚本。

爬虫 python

如何下载及使用通义千问7B开源大模型

模型体验链接：https://modelscope.cn/studios/qwen/Qwen-7B-Chat-Demo/summary 环境配置与安装本文在ModelScope

通义千问

深入解析 Mistral AI 的 Mixtral 8x7B 开源MoE大模型

与参数量高达 467 亿的 GPT-4 等大型模型相比，Mixtral 8x7B 更小的模型体积展现了 Mistral AI 对实用性的重视。

开源模型 Mixtral 8x7B

第一性原理以及第一性原理是怎么帮马斯克成为首富的

下文会列举大量的例子来辅助说明，让你更清楚明白，什么是马斯克的第一性原理。

马斯克商业

被低估的面壁：打造出不输 OpenAI 的 Scaling Law 曲线

但面壁团队关注的却是 GPT-4 的两个创新点：一是 GPT-4 的输入文本达到了 32k 的长度，而当时国内的大模型能处理的文本长度只有 512，之后“长文本”也成为国内外大模型研究的重点对象；二是

Grok-1 开源模型

活久见，世界上第一个被人类骗走钱的AI，刚刚出现了！

这个AI，是带着使命诞生的。

Freysa 智能体

大模型实践总结

文本生成。

大模型训练

图解大模型训练之：张量模型并行(TP)，Megatron-LM

2.2 MLP层的通讯量分析由2.1的分析可知，MLP层做forward时产生一次AllReduce，做backward时产生一次AllReduce。

开源模型

60分钟吃掉ChatGLM2-6b微调范例~

如果网络不稳定，也可以手动从这个页面一个一个下载全部文件然后放置到一个文件夹中例如 'chatglm2-6b' 以便读取。

开源模型

AI国力战争：GPU是明线，HBM是暗线

但在更为隐秘的战场，HBM（高带宽内存）显然是基本被忽视的关键一环。

GPU HBM 大模型

<...80 81 82 838485 86 87 88 89 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1