文章列表-AI魔法学院

文章列表

一文探秘LLM应用开发-Prompt(相关概念)

本文旨在让无大模型开发背景的工程师或者技术爱好者无痛理解大语言模型应用开发的理论和主流工具，因此会先从与LLM应用开发相关的基础概念谈起，并不刻意追求极致的严谨和完备，而是从直觉和本质入手，结合笔者调研整理及消化理解

prompt 大模型

LLM大模型推理输出生成方式总结

大模型在输出结果时，会有多种方式和算法，本文列举其中几种算法，包括贪心算法、n贪心搜索/采样（greedy search/sampling）、集束搜索（beam search）、TopK采样等

大模型

检索增强生成(RAG)：LLM企业级应用落地的挑战与思考

如果你正在构建LLM应用，你可能已经知道RAG很容易起步，但很难达到生产可用。

大语言模型 RAG检索增强

RAG 2.0来了，它能成为生产落地的福音吗？

RAG作为当前最流行、相对成熟的的LLM应用架构，受到了开发者的广泛关注，相关围绕RAG优化的技术层出不穷，但依旧难逃达不到生产应用要求的尴尬。

RAG 大模型

ChatGPT羊驼家族全沦陷！CMU博士击破LLM护栏，人类毁灭计划脱口而出

CMU博士发现的新方法击破了LLM的安全护栏，造起导弹来都不眨眼。

开源模型

LLM Agent最常见的九种设计模式(图解+代码)

2 ReAct 模式这是 LLM Agent 第一文，发表于 2022 年 10 月，现在看起来特别简单，但当时ChatGPT还没有面世，能够提出让 LLM 学会使用工具

LLM Agent 图解

国产编程大模型CodeGeex

CodeGeeX采用华为MindSpore框架实现，在鹏城实验室“鹏城云脑II”中的192个节点（共1536个国产昇腾910 AI处理器）上训练而成。

编程

检索增强生成 (RAG):What, Why and How?

检索增强生成（简称 RAG）是 Meta 于 2020 年推广的一种架构，旨在通过将相关信息与问题/任务细节一起传递给模型来提高 LLM 的性能。

检索增强大模型

【一步一步引导】从零详细地梳理一个完整的 LLM 训练流程

专业知识不足：当我们需要一个专业领域的 LLM 时，预训练模型中的知识就尤为重要。

大模型训练

大语言模型LLM和知识图谱KG增强的企业搜索应用

LLM并不擅长搜索每个人都大肆宣传的所有这些技术的基础是大型语言模型（LLM）。

开源模型

国内LLM陆续启动，你的Prompt库有这些模块吗

这里修猫给出一个框架，还请有心读者自行丰富，时间会认证你的积累。

prompt

LLM native策略的内部状态是否应该结构化【2023Q3】

其中Key的部分仍然是大部分由人工事先确定，也可以接受LLM自己产生一些Key。

大模型

微软打破Decoder-Only架构！大幅降低GPU内存需求，网友：把Llama3 70B弄20GB GPU上运行

微软&清华最新研究，打破GPT系列开创的Decoder-Only架构—— 提出Decoder-Decoder新型架构，名为YOCO（You Only Cache Once）。

Decoder-Decoder YOCO 架构

Transformer速查宝典：模型、架构、训练方法的论文都在这里了

一些重要的架构变化包括多查询注意力、稀疏注意力、混合专家等。

Transformer

几款开源的OCR识别项目，收藏备用

随着科技的发展，OCR场景随处可见，很多APP也集成如身份证识别，银行卡识别的功能，包括微信都支持截图文件中的文字提取。现在，各大厂商均有提供各种场景的OCR识别的API。但是，有时候我们也想自己来折腾一下。这时候，就可以借助一些主流开源框架来快速达到我们的目的。

OCR

<...3 4 5 678 9 10 11 12 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1