文章列表-AI魔法学院

文章列表

大模型应用实践：用LLaMA 2.0, FAISS and LangChain实现基于自由知识问答

内存（Memory）：此模块为LLM提供对会话历史的访问权限。

开源模型

语言大模型100K上下文窗口的秘诀

为使GPU执行一个运算，输入数据必须在名为SRAM的“快速（quick）”内存中。

大模型

最新【Fooocus】支持controlnet！生图效果惊艳，附带保姆级安装教程

更新了controlnet功能，终于可以用起来了，兄弟们冲吧，亲测fooocus生图速度比SD-webUI快2倍多，有图为证： SD-webUI需要1分57秒，fooocus只需要52秒就可以生成并保存！

Fooocus 文生图

深度对比丨探索LLM（大模型）部署服务的七大框架差异

· · PagedAttention— 注意力算法的灵感来自于操作系统中虚拟内存和分页的经典思想。

大模型

Stable Diffusion

一键复用！Stable Diffusion WebUI 神仙插件 LightFlow

今天为大家推荐一个非常好用的 Stable Diffusion WebUI 插件 LightFlow，它可以将一张图像的生成参数和相关设置保存为文件，这样无论是复用图像生成信息还是分享给别人都非常方便

SD 流程

Comfyui工作流原理你都了解吗

同时，因为内部生成流程做了优化，生成图片时的速度相较于 webui 有明显提升，对显存要求也更低（4G 就能很好的运行）。

Comfyui 工作流

基于秋叶整合包-StableDiffusionWebUI启动器快速安装ComfyUI

同时，当生成高清图片时，ComfyUI也能够更好地管理显存，避免出现爆显存的情况。

秋叶整合包

苹果一次性开源了8个大模型！包含模型权重、训练日志和设置，OpenELM全面开源

不以开放性著称的苹果居然同时开源了大模型的权重、训练和评估框架，涵盖训练日志、多个保存点和预训练设置。

OpenELM 大模型

Ollama还是vLLM？深度解析四大顶级LLM服务框架：性能、特性与技术选型指南

vLLM 的核心在于通过创新的内存管理和调度算法，有效解决了传统 Transformer 模型推理中的性能瓶颈。

LLM 服务框架

大模型微调经验汇总---LLM finetuning 踩坑经验之谈

对于推理，在 GPU 资源不富裕的情况，如何最小化的利用内存，提升推理效率，也是可以讨论的内容。

大模型人工智能

为什么Llama2大模型可以在个人电脑上部署？

PyTorch提供了对NVIDIA CUDA非常好的支持，可以将模型和数据高效加载到GPU显存中，利用GPU并行计算带来的加速。

开源模型

RAG检索增强技术在知识库智能检索场景下的应用实践

1.1.1、LLM的缺陷知识检索增强技术的提出背景主要源于当前基于LLM（大规模语言模型）的知识检索存在诸多缺陷。

知识库 RAG检索增强

Stable Diffusion

Stable Diffusion | SD腾讯云3步部署，全程五分钟，附价格费用清单

如下图所示： c.在离线下载页面，填写可访问的模型文件下载链接（如应用创建在北京、广州等国内地域，则应提供境内可访问的链接，否则会导致下载失败），单击创建任务。

下载开源模型

开源大模型部署及推理所需显卡成本必读：也看大模型参数与显卡大小的大致映射策略

然而，当前手头仅有一块性能有限的老破小GPU显卡，这就引发了一个问题：如何在这样的条件下成功运行模型？

开源模型

十大开源语音识别项目

用户可按需使用 GPU 算力，避免昂贵的设备采购费用，实现更经济高效的计算资源管理，提升研究的成本效益。

语音识别开源项目

<...2 3 4 567 8 9 10 11 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1