文章列表-AI魔法学院

文章列表

自己电脑上跑大语言模型（LLM）要多少内存？

以我用ollama + Lllama 7B 4bit 做推断（Inference，问大模型问题）为例，模型文件大小是3.8G，实际运行的时候电脑内存会多占用大概4.8G左右。

大语言模型运行

中文通用大模型最全汇总

32K，并在对话阶段使用 8K 的上下文长度训练；基于 Multi-Query Attention 技术实现更高效的推理速度和更低的显存占用；允许商业使用。

大模型开源模型

中文儿童情感陪伴大模型

中文儿童情感陪伴大模型-巧板 - 旨在构建一个面向儿童情感陪伴的大模型参考文献： [1]http://github.com/HIT-SCIR-SC/QiaoBan 出自：https://

大模型

快手大模型出炉！【快意】来袭！

· · · · CMMLU是一个综合性的中文评估基准，专门用于评估语言模型在中文语境下的知识和推理能力。

开源模型

Stable Diffusion

Stable Diffusion的模型分类以及使用

01 SD模型的管理建议开始SD模型的分类及使用介绍之前，这里先给大家在模型管理方面一点点小的建议。

文生图

whisper-live：OpenAI Whisper模型的近实时实现

该项目是一个实时转录应用程序，使用 OpenAI Whisper 模型将语音输入转换为文本输出。

OpenAI Whisper 大模型

如何构建基于大模型的App

LLM也可以用于基本的推理除了语言理解之外，在逐步提示下工作时，一些LLM在基本推理方面的表现也不错。

构建大模型App

AI扫盲指南！什么是大模型？什么是GPT？什么prompt？什么是大模型参数？LLaMA2-70b中70b是什么？

人们常说AI大模型，那么什么是大模型呢？

大模型

RAG应用中数据处理过程需要注意的事项

产品化难题：将应用程序从原型扩展到生产有其自身的一系列挑战。

RAG 大模型

AIGC系列之一-一文理解什么是Embedding嵌入技术

如上图所示，目前生成embeding方法的模型有如下几类： 1、Word2Vec： Word2Vec 是一种词嵌入（Word Embedding）模型，是嵌入技术在自然语言处理中的一个典型应用

AIGC Embedding 嵌入技术

OCR是什么以及推荐几款开源中文OCR识别软件

学习开源ocr的模型构建，方便后续对于模型的更新。

OCR

【NLP技术分享】文本生成评价指标的进化与推翻

一个好的评价指标（或者设置合理的损失函数）不仅能够高效的指导模型拟合数据分布，还能够客观的让人评估文本生成模型的质量，从而进一步推动text generation 商业化能力。

开源模型

SD入门教程五：后期处理图片高清放大

在后期处理模块的界面中，可以看到有四大模块，我们把这些模块拆开讲讲分别有什么用。

SD 入门教程修复

无显卡+纯本地跑Qwen1.5版模型！0基础闭眼部署指南！适用绝大部分开源模型！llama2+Mistral+Zephyr通杀！

① 部署ollama推理环境！

Qwen1.5 开源模型

语言大模型100K上下文窗口的秘诀

在语言模型中，上下文窗口对于理解和生成与特定上下文相关的文本至关重要。

大模型

<...13 14 15 161718 19 20 21 22 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1