文章列表-AI魔法学院

文章列表

总结！大模型微调（Tuning）的常见方法

下图是细致的对比： P-tuning v2 V2版本主要是基于P-tuning和prefix-tuning技术，引入Deep Prompt Encoding和Multi-task Learning

微调大模型

实测：本地跑llama3:70B需要什么配置

打开命令行，运行命令 ollama run llama3:70b 几分钟以后下载完毕，出现>>>提示符的时候就可以正常的跟70B模型交互了下面放两张图，对比模型加载前后系统硬件占用情况的对比

llama GPU内存

如何构建基于大模型的App

试图理解LLM 的能力边界 AI 并不神秘，也不存在迷信。

构建大模型App

CodeGeeX：Tab一下，代码自动生成

CodeGeeX 可以实现一键式翻译，和自然语言的翻译一样丝滑：我们评测了模型在多语言间代码翻译上的性能：上图显示了 4 种模型在 5 种语言之间的翻译性能。

大模型

RAG 修炼手册｜一文讲透 RAG 背后的技术

下图是展示一个 2 维的向量空间的例子（实际可能是比较高的维度）。

RAG Embedding

Prompt全攻略(二):Prompt编写的要诀

此外,还有一些提高Prompt效果的技巧: 6.指定输出格式你可以指定输出的格式,如列表、图表等。

prompt

万字长文震撼来袭！揭秘Transformer——吐血解读自注意力机制的革命性突破

Transformer遵循这种总体架构，使用堆叠的自注意力机制和逐点、全连接层，分别用于编码器和解码器，如图1的左半部分和右半部分所示。

Transformer 大模型

Openai 异步客户端接入国产大模型 Kimi

[],"finish_reason":"stop","usage":{"prompt_tokens":8,"completion_tokens":12,"total_tokens":20｝｝]} 截图

Kimi Chat 大模型

中文通用大模型最全汇总

该项目一期发布了基于Llama的抽取大模型智析，使用中英文语料对LLaMA（13B）进行进一步全量预训练，并基于知识图谱转换指令技术对知识抽取任务进行优化。

大模型开源模型

ollama本地部署自然语言大模型

:2b 下载完毕后可通过命令行输出与之对话 Chatbox客户端 Chatbox 支持 ollama，可以使用图形化的对话方式

ollama 语言大模型部署

比真人还像真人！字节跳动PersonaTalk的黑科技有多强大？

第一步，它从参考视频中捕捉人物的几何特征，再将音频特征与几何特征结合，通过个性化的说话风格生成同步口型的目标几何图形。

PersonaTalk 视频

GitHub工程师分享开发Copilot所采用的提示词工程

最近，微软开源了 LMOps 工具包，其中包含了 Promptist（一种用于优化用户文本输入以生成图像的工具）和结构化提示词（一种用于在少量学习提示词中包含更多样本来生成文本的技术）。

开源模型

3.5k star！一款万能的 SQL 分析工具，厉害了！

下面这张图是市面上各种数据处理工具的对比，相比较而言，dsq还是很有优势的。

dsq 开源项目 SQL

清华、面壁智能发布：主动式Agent 2.0

ProactiveAgent流程图数据收集与处理 1.

Agent 2.0 大模型

向量数据库失宠了？OpenAI 力捧检索增强生成（RAG）技术，对行业来说意味着什么？

相关架构如下图所示：使用 LangChain 与 Llamaindex 实现检索。

检索增强生成大语音模型

<...65 66 67 686970 71 72 73 74 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1