文章列表-AI魔法学院

文章列表

让AI记住你说的话、让AI给你生成几十万字的小说！StreamingLLM 让无限长token成为可能

，它可以让任何基于Transformer的语言模型（LLM）处理无限长度的文本，而不需要任何微调或额外的训练。

StreamingLLM 写作

Stable Diffusion

Stable Diffusion 30种采样器全解！

在使用StableDiffusion过程中一个核心环节——选择什么样的采样器？

Stable Diffusion采样器

大模型应用的10种架构模式

这种观念对于软件工程领域的专业人士来说，已经司空见惯，设计模式已成为程序员们的重要技能。

大模型架构

长窗口大战要终结了？谷歌魔改Transformer，推出了“无限注意力”

修改之后，对现有的模型能进行持续的预训练和微调，上下文可以自然扩展到无限长！

大模型上下文

CodeGeeX2来了!效果超LLaMA2-70B

由于代码安全性，很难使用 Github Copilot 去 AI 生成，发现清华发布了「CodeGeeX2」，基于 ChatGLM2-6B 基座模型，CodeGeeX2-6B 进一步经过了 600B 代码数据预训练

CodeGeeX2 开源模型

解读wav2lip：探究语音驱动唇部动作的技术原理！

此外，在人脸重建的训练过程中，只有在训练的中后期才开始优化口型，导致前期监督信息缺乏。

wav2lip 语音

RAG 2.0，终于把RAG做对了！

这意味着预训练是一次性的练习（与持续学习方法不同）。

RAG 大语言模型

最透彻的大模型PPO原理和源码解读

所以，在写这篇文章时，我直接从一个RLHF开源项目源码入手（deepspeed-chat），根据源码的实现细节，给出尽可能丰富的训练流程图，并对所有的公式给出直观的解释。

PPO 大模型源码解读

「Agent」通俗易懂地聊聊AI Agent（附66个开源+44个闭源Agent项目）

语言模型 (LLM) 仅限于它们所训练的知识，并且这些知识很快就会过时。

大模型

OpenAI Sora视频生成模型技术报告中英全文+总结+影响分析

（batch size）+ 足够强的算力，让模型对足够多的训练集做全局拟合（理解），在模型更好地还原细节的同时让模型出现智能涌现能力——例如在一定程度上理解真实世界的物理影响和因果关系。

sora openai 视频生成

备案通过且面向公众开放的国产精品大模型汇总，附访问链接

该办法对模型的训练的范围、语料安全要求、模型安全要求、信息安全等多方面提出了明确的要求，目前中国的AI大模型达80多个，截止目前全国只有2批大模型审核通过，累计19家（第一批8家，第二批11家）。

大模型国产

中国大模型「顶流群聊」笔记

因为优秀的 Scaling 团队可以规避徒劳无功的训练，当做训练的时候，大概率会成功，一旦不成功，也有能力马上叫停，有足够的数学能力来做这件事情。

大语言模型

为什么国产大模型都说超越ChatGPT而体验却很拉？警惕 Goodhart law 陷阱

这时候，各家大模型就可以针对这些模型，进行专门的训练，就可能会出现在测试集上表现很好，但可能在现实世界的其他应用场景中表现不尽人意。

ChatGPT 国产大模型

昆仑万维携Skywork-13B打造AI新纪元：600GB中文数据集全球开源

引言在人工智能的浪潮中，数据和算力是推动技术发展的两大驱动力。

Skywork 开源数据

RAG模型的主要痛点和解决方案

解决方案： - 通过监督训练信号或模型反馈进行检索器的微调。

rag 大模型

<...38 39 40 414243 44 45 46 47 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1