文章列表-AI魔法学院

文章列表

Ollama还是vLLM？深度解析四大顶级LLM服务框架：性能、特性与技术选型指南

基准测试显示，vLLM 的吞吐量比标准的 HuggingFace Transformers 推理高出高达 24 倍。

LLM 服务框架

大厂都在用的结构化Prompt，把写提示词变成填空题！

：提醒用户关于指令的信息，引导对话。

prompt 大模型

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

比如解决下面这道四次多项式方程：或者是一道简单的微积分：亦或者是稍微修改过的拉格朗日方程推导：

开源模型

阿里&字节发表VividTalk，只需单张照片即可根据音频生成栩栩如生的人物说话头像视频

多种角色多种语言方法对比 VividTalk不仅能够同步口型，还支持多种语言和不同的风格，包括真实风格和卡通风格等。

VividTalk 视频

CodeGeeX：Tab一下，代码自动生成

相比 Copilot 的闭源收费，CodeGeeX 完全开源，并免费使用。

大模型

RAG超参数调优食用指南

接下来将用一个完整的使用指南来展示如何对 RAG 进行超参数优化，主要针对块大小和 top-K 两个参数。

rag 大模型

马斯克怒告OpenAI案解密：Ilya看到了什么？125万亿参数Q*细节曝光，53页PDF全网疯转

，时长00:58 在给出这篇演讲时，我们还对Q*一无所知。

OpenAI 大模型

震撼科技界：清华大学与智谱AI联手，引领中文长文智能写作新纪元！

图表数据详细列出并对比了多款专用模型、开源模型及"LongWriter"系列模型在不同长度约束下的实际表现。

写作长文本

学术党狂喜，Meta推出OCR神器，PDF、数学公式都能转

就像下图所展示的，带有数学公式的 PDF，转换起来就比较麻烦。

大模型

SDXL风格插件，超越Midjourney的时刻来了

虽然很多模型创作者也迅速跟进，推出了很多SDXL的模型，但基础模型已经足以应对大部分场景。

SDXL

AIGC系列之一-一文理解什么是Embedding嵌入技术

通过学习，Embedding向量可以更准确地表示对应特征的内在含义，使几何距离相近的向量对应的物体有相近的含义。

AIGC Embedding 嵌入技术

6.2K Star！MIT出品的多语言语音合成神器，CPU实时推理吊打商业软件！

而且他们针对CPU推理做了大量优化。

MeloTTS 语音工具

AI国力战争：GPU是明线，HBM是暗线

HBM也是AI芯片中占比最高的部分，根据外媒的拆解，H100的成本接近3000美元，而其中占比最高的是来自海力士的HBM，总计达到2000美元左右，超过制造和封装，成为成本中最大的单一占比项。

GPU HBM 大模型

新测试基准发布，最强开源Llama 3尴尬了

与之前大家分数都相近的MT Bench相比，Arena-Hard区分度从22.6%提升到87.4%，孰强孰弱一目了然。

Llama 3 大模型开源

Stable Diffusion

Stable Diffusion WebUI v1.8.0重大更新！

速度方面：不过呢，虽然优化了显存，但是推理速度会相对降低，官方给出的测试数据是下降5%。

SD 画图

<...54 55 56 575859 60 61 62 63 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1