文章列表-AI魔法学院

文章列表

大模型微调应用实践，没那么简单，看看曾经踩过的坑

实验验证，多机训练的效率，和使用的机器数成线性关系，每台机器的配置一样，如一台GPU机器跑一个epoch需要2小时，4台GPU机器跑一个epoch需要半小时。

大模型

ChatGLM3-6B：新一代开源双语对话语言模型，流畅对话与低部署门槛再升级

ChatGLM3-TPU: 采用TPU加速推理方案，在算能端侧芯片BM1684X（16T@FP16，内存

ChatGLM3 语音模型开源模型

智谱AI大模型ChatGLM3-6B更新，快來部署体验

如果你的 GPU 显存有限，可以尝试以量化方式加载模型，使用方法如下： model = AutoModel.from_pretrained("THUDM/chatglm3-6b", trust_remote_code

ChatGLM3-6B 开源模型

无需编码，轻松提升图像品质：探索ComfyUI的图像增强功能

支持GPU和CPU：即使在VRAM很少的系统上，用户也可以使用超过3GB VRAM的GPU的功率，或者选择CPU处理。

文生图

AI+大模型在金融行业的应用场景

从潜在赋能的细分环节看，包含智能核身、智能催收、智能客服等在内的应用持续推出且逐步成熟，而智能投研、智能投顾、智能营销等高市场价值的环节仍然存在较大提升空间。

AI大模型金融

从0到1谈谈智能客服系统的设计与实现

由于所有的Faiss索引都将向量存储在内存中，如果内存是限制因素，那么就需要将准确度和性能进行折衷：b.

智能客服

换脸软件 FaceFusion 保姆级教程

FaceFusion 是由 Roop 项目的核心开发者独立发布的，它被官方描述为下一代的人脸交换和增强软件，这个软件可以用于处理图片和视频，可以运行在 GPU 和 CPU 下面。

FaceFusion 教程

万字长文，AI大模型的应用实践总结

对于以Transformer、MOE结构为代表的大模型来说，传统的单机单卡训练模式肯定不能满足上千（万）亿级参数的模型训练，这时候我们就需要解决内存墙和通信墙等一系列问题，在单机多卡或者多机多卡进行模型训练

大模型

ComfyUI的特性以及安装流程

命令行选项：--lowvram，可在显存小于 3GB 的 GPU 上工作（在显存较低的 GPU 上自动启用）即使没有 GPU，也可以使用 --cpu 进行工作（速度较慢）可以加载 ckpt

ComfyUI 文生图

Agent：OpenAI的下一步，亚马逊云科技站在第5层

OpenAI创始成员Andrej Karpathy就在黑客马拉松演讲中表示，相比大模型训练，OpenAI内部目前更关注Agent领域。

开源模型

字节开源项目MimicTalk：快速打造逼真3D Talking Face的利器

这种技术在保持高分辨率的同时，能够生成高质量的3D内容，非常适合用于3D说话头像的生成。

MimicTalk 开源模型

智源：70万预算，从头开发千亿参数大模型，挑战成功！

智源研究院与国内多所高校及南洋理工联合团队，挑战成功。

大模型

微信向量检索分析一体化数仓探索：OLAP For Embedding

并没有打满，于是我们打开 profile tool, 发现执行过程中有大量的 data copy，时间开销巨大，于是我们重写了 embedding distance 相关的计算函数，消除了不必要的内存拷贝

OLAP For Embedding 一体化数仓

从⼤模型到 AI 应⽤落地，工程实现有多复杂?

本次分享主要包含五块内容，分别是：一、Prompt 工程化：代码与模型解耦二、私有化数据接⼊：持续更新与调整三、Agent 的演进：自动化编排四、我们最终会丢掉 LangChain

大模型

大规模训练系列之技术挑战

数据并行通过修改 Sampler 切分输入，每张卡只需要处理一部分数据；模型并行通过修改层内的计算方式，将单层的计算负载和显存负载切分到多张卡上；流水并行则是将不同的层放到不同的卡上，进而将计算负载和显存负载切分至多张卡上

开源模型

<...3 4 5 678 9 10 11 12 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1