文章列表-AI魔法学院

文章列表

大模型应用实践：用LLaMA 2.0, FAISS and LangChain实现基于自由知识问答

如果您正在使用Google Colab来运行代码，请按以下步骤操作：在笔记本中转到“运行时”>“更改运行时类型”>“硬件加速器”>“GPU”>“GPU类型”>“T4”。

开源模型

开源大模型部署及推理所需显卡成本必读：也看大模型参数与显卡大小的大致映射策略

然而，当前手头仅有一块性能有限的老破小GPU显卡，这就引发了一个问题：如何在这样的条件下成功运行模型？

开源模型

智源：70万预算，从头开发千亿参数大模型，挑战成功！

FLM使用的是混合并行策略，将多种并行方式进行最优化配置，达到高吞吐量，单GPU利用率超过了50%。

大模型

十大开源语音识别项目

multilingual-model-speech-recognition/ star：28k DeepSpeech DeepSpeech 是一个开源的嵌入式（离线、设备上）语音到文本引擎，可以在从 Raspberry Pi 4 到高性能 GPU

语音识别开源项目

Stable Diffusion

Stable Diffusion | SD腾讯云3步部署，全程五分钟，附价格费用清单

四、计费说明 1、计费类型 Stable Diffusion AI 绘画应用的 GPU 使用费用仅支持按量计费（后付费）模式。

下载开源模型

ComfyUI的特性以及安装流程

命令行选项：--lowvram，可在显存小于 3GB 的 GPU 上工作（在显存较低的 GPU 上自动启用）即使没有 GPU，也可以使用 --cpu 进行工作（速度较慢）可以加载 ckpt

ComfyUI 文生图

深入解析 Mistral AI 的 Mixtral 8x7B 开源MoE大模型

5.2、GPU使用效率在设计上，Mixtral 8x7B优化了GPU使用效率以提高性能。

开源模型 Mixtral 8x7B

ChatGLM3-6B：新一代开源双语对话语言模型，流畅对话与低部署门槛再升级

3.2CPU 部署如果你没有 GPU 硬件的话，也可以在 CPU 上进行推理，但是推理速度会更慢。

ChatGLM3 语音模型开源模型

换脸软件 FaceFusion 保姆级教程

FaceFusion 是由 Roop 项目的核心开发者独立发布的，它被官方描述为下一代的人脸交换和增强软件，这个软件可以用于处理图片和视频，可以运行在 GPU 和 CPU 下面。

FaceFusion 教程

深度对比丨探索LLM（大模型）部署服务的七大框架差异

· · 缺乏权重量化：有时LLM 可能不适合可用的 GPU 内存，因此减少内存消耗至关重要。

大模型

万字长文，AI大模型的应用实践总结

GPUs: 24 卡 A800 80GB GPUs ，每个节点 8 个 GPU（3 个节点）。

大模型

智谱AI大模型ChatGLM3-6B更新，快來部署体验

如果你的 GPU 显存有限，可以尝试以量化方式加载模型，使用方法如下： model = AutoModel.from_pretrained("THUDM/chatglm3-6b", trust_remote_code

ChatGLM3-6B 开源模型

【AI绘画】入门英文名词解析

16系列显卡就可实现Text To Image、Image To Image、Inpainting（图像修复）、Textural Inversion（神经网络文本学习），而无须专业的集群GPU

文生图 AI绘画

字节开源项目MimicTalk：快速打造逼真3D Talking Face的利器

「GPU」：建议使用NVIDIA GPU，至少16GB显存，如RTX 3090或更高。

MimicTalk 开源模型

一位芯片投资人的十年复盘：谁是中国的英伟达｜AI光年

从系统能力上来讲，它是最接近英伟达的，目前GPU或AI领域能正面与英伟达直接PK的，肯定是华为。”

AI光年芯片投资

<1 234 5 6 7 8 9 10 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1