训练魔法-AI魔法学院

训练魔法

截至2023年5月份业界支持中文大语言模型开源总结及商用协议分析

目前，业界开源的大语言模型越来越多，性能也越来越强大。然而，这些开源模型大多数由国外的机构贡献，对于英文的支持没有任何问题。但是，对于中文的支持则是有好有坏。本文将基于主流的开源大模型进行分析，介绍当前支持中文的开源大模型，并对其使用方式和主要能力进行总结。

大模型 2023-07-06

大模型中的Top-k、Top-p、Temperature详细含义及解释

本文简单介绍了GPT(GPT-3, GPT-3.5, GPT-4 etc.)系列大模型(LLM, Large Language Model)中的常见参数Top-k, Top-p, Temperature. 在使用OpenAI的接口，或自己训练相关模型时，也会经常遇到这些参数。下面我们逐步地介绍概念，并举一些例子来帮助理解。

大模型 2023-07-06

AI Agents大爆发：软件2.0雏形初现，OpenAI的下一步

AI Agent 被认为是 OpenAI 发力的下一个方向。OpenAI 的联合创始人 Andrej Karpathy 在近期的一次公开活动上提到“相比模型训练方法，OpenAI 内部目前更关注 Agent 领域的变化，每当有新的 AI Agents 论文出来的时候，内部都会很兴奋并且认真地讨论”，而在更早之前，Andrej 还评价 AutoGPT 是 Prompt Engineering 下一阶段的探索方向。

agent 2023-07-06

LangChain Agent原理介绍

本文主要详细介绍Agent的原理，LangChain是如何和ChatGPT结合实现问题拆分的。

langchain 2023-07-03

SEO知识点入门

和大家分享一下从一个SEO纯小白如何通过自学成为一个SEO高手的历程。本文内容点到为止，还希望大家对立面具体的技术点进行详细研究。

2023-07-03

手把手教你认识学会LangChain

一文帮你理解什么是LangChain。LangChain可以理解为：在一个流程的整个生命周期中，管理和优化prompt，根据prompt使用不同的代理进行不同的动作，在这期间使用内存管理中间的一些状态，然后使用链将不同代理之间进行连接起来，最终形成一个闭环。

langchain 2023-07-03

详解大模型RLHF过程（配代码解读）

本篇文章涉及的代码均来自微软的deepspeed对RLHF的实现，可配合huggingface官方的博客一起食用。本文只对算法的一些有特点的关键点进行阐述，并不对整体实现进行介绍。先上一张经典的论文图。本文重点结合代码讲解奖励模型训练和强化学习训练部分。

训练 2023-07-03

一文带你认识ELMo

Deep contextualized word representations获得了NAACL 2018的outstanding paper award，其方法有很大的启发意义。近几年来，预训练的word representation在NLP任务中表现出了很好的性能，已经是很多NLP任务不可或缺的一部分，论文作者认为一个好的word representation需要能建模以下两部分信息：单词的特征，如语义，语法；单词在不同语境下的变化，即一词多义。基于这样的动机，作者提出了ELMo模型。ELMo能够训练出来每个词的embedding，可以作为上下文 ...

embedding 2023-07-03

什么是BERT？

BERT的全称为Bidirectional Encoder Representation from Transformers，是一个预训练的语言表征模型。它强调了不再像以往一样采用传统的单向语言模型或者把两个单向语言模型进行浅层拼接的方法进行预训练，而是采用新的masked language model（MLM），以致能生成深度的双向语言表征。BERT论文发表时提及在11个NLP（Natural Language Processing，自然语言处理）任务中获得了新的state-of-the-art的结果，令人目瞪口呆。

embedding 2023-07-03

深入浅出：大语言模型中必不可少的技术——Embedding简介

本文将对embedding做一个简单的介绍，并解释为什么它在大语言模型中十分重要。本文来自DataLearner官方博客：AI大模型领域的热门技术——Embedding入门介绍以及为什么Embedding在大语言模型中很重要

embedding 2023-07-03

主流向量数据库一览

随着ChatGPT的发布，人工智能的发展迎来了新的时代。知识的存储跟表达也有了新的标准。向量这个数学表达，在目前是人与AI交互的中间媒介。所以我们有必要深入探讨向量数据库，并对当前主流的数据库做一些对比分析。

向量数据库 2023-07-03

基于本地知识的问答机器人langchain-ChatGLM

langchain-ChatGLM是一个基于本地知识的问答机器人，使用者可以自由配置本地知识，用户问题的答案也是基于本地知识生成的。github链接为：GitHub - imClumsyPanda/langchain-ChatGLM: langchain-ChatGLM, local knowledge based ChatGLM with langchain ｜基于本地知识的 ChatGLM

langchain 2023-07-01

LangChain 完整指南：使用大语言模型构建强大的应用程序

LangChain是一个强大的框架，旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口，可简化创建由大型语言模型 (LLM) 和聊天模型提供支持的应用程序的过程。LangChain 可以轻松管理与语言模型的交互，将多个组件链接在一起，并集成额外的资源，例如 API 和数据库。

langchain 大模型 2023-07-01

大模型微调经验汇总---LLM finetuning 踩坑经验之谈

大模型微调经验汇总-LLM - finetuning - 踩坑经验之谈

大模型人工智能 2023-07-01

人工智能训练的灾难性遗忘以及解决方案

人工智能为什么会产生“灾难性遗忘”？目前，解决灾难性遗忘的方案有哪些？难点在哪？神经网络存在灾难性遗忘问题是指在进行连续训练或迁移学习时，网络会忘记之前学到的知识，导致在新任务或新数据上的性能下降。这个问题在实际模型中经常出现，对于深度学习和神经网络的应用带来了挑战。

人工智能大模型 2023-06-29

<...49 50 51 52 53 54 555657 58 >

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1