训练魔法-AI魔法学院

训练魔法

万字长文，大语言模型如何宣告心理学的死亡？

在这篇文章中，我们将探讨人工智能心理学中制约领域发展，盘旋上空的三个幽灵：行为主义的遗留，相关性的困惑，以及隐性知识的挑战。每一个幽灵都暗指传统心理学曾经忽略的问题，本文将从大语言模型的视角提供新的见解。

大语音模型 2024-04-12

通往AGI之路，提示词入门

本文介绍了提示词的概念、重要性和学习资源。提示词是输入给AI模型的文本和短语，用于指导模型生成相应的文本输出。写好提示词需要一定的技巧，不同的提示词可能导致不同的输出结果。因此，学习如何编写有效的提示词对于利用AI模型非常重要。文章推荐了一个适合初学者上手的中文教程，并鼓励大家共同学习和进步。

AGI 提示词 2024-04-12

几个对我影响很大的统计学模型

文章介绍了四个统计模型在日常生活和工作中的应用：1）37%规则，用于决策时找到最优选择；2）贝叶斯方法，通过更新信念形成更精确的判断；3）一天情绪地图，帮助理解一天中情绪变化的模式；4）幸存者偏差，提醒我们在评估成功时要考虑失败的案例，避免偏差。这些模型在寻找停车位、招聘员工、看电影评价、买二手车等方面都有实际应用。

统计学大模型 2024-04-12

被时代选中的智谱 AI：成为 OpenAI，超越 OpenAI

智谱AI是一家从清华大学计算机系知识工程实验室衍生出的创业公司，专注于大型预训练模型的研发和应用。公司凭借在人工智能领域的深厚积累和独特优势，积极投入大模型的研发，并在通用大模型领域取得了显著成果。智谱AI的发展路径既受到技术因素的影响，也受到市场和社会环境的影响。在技术方面，公司始终坚持自主创新，通过不断研发和优化算法，提升模型的性能和效率。同时，公司也积极关注市场需求，将研究成果应用于实际项目中，推动商业化进程。智谱AI与OpenAI在大型模型领域有着相似的目标和方向，但两者在实现路径和商业模式上有所不同。智谱AI更注重商业化和实际应用，而OpenAI则更多依赖于资本支持和大公司的合作。这种差异使得两家公司在大型模型领域形成了不同的竞争态势。在商业化方面，智谱AI主要面向企业和机构的B端用户提供服务。公司通过提供高质量的大型预训练模型和应用解决方案，帮助企业提升智能化水平和竞争力。同时，公司也积极探索开源和商业化并存的模式，推动大型模型技术的普及和发展。随着大型模型技术的不断成熟和应用场景的日益丰富，智谱AI面临着越来越多的挑战和机遇。未来，公司将继续加大研发投入，优化模型性能和效率，拓展应用领域和市场空间。同时，公司也将积极寻求与国内外优秀企业和机构的合作，共同推动大型模型技术的发展和应用。

智谱 AI 2024-04-12

什么是ChatGPT？

ChatGPT是一种由美国人工智能研究公司OpenAI研发的自然语言处理模型，通过构建神经网络学习和模拟人类语言处理过程，具有广泛的应用前景，包括智能客服、文本创作、机器翻译、问答系统等。ChatGPT的基本原理是生成式预训练转化器，将输入语言序列转换为输出语言序列，其核心是Transformer转换器。随着人工智能技术的不断发展，ChatGPT在未来将会有更多的应用前景，如医疗、教育、商业等领域。

ChatGPT OpenAI 大模型 2024-04-11

对于大模型RAG技术的一些思考

本文介绍了在公司内部开发知识问答应用的流程，包括文档切片、向量化存储、用户问题转换、匹配与检索、答案生成等步骤。然而，在实际应用中，由于文档种类多、切分方式不合理、内部知识特殊性和用户提问的随意性等问题，导致应用效果不尽如人意。为了解决这些问题，作者采取了多种方法，如重新处理文档内容、语义切分、RAG Fusion检索增强、增加追问机制和微调Embedding句向量模型等。最终，虽然应用效果有所提升，但仍与用户期望相差甚远。作者认为，在严谨场景中，precision比recall更重要，而限制大模型的输出后，precision提升了，但recall降低了，导致给用户造成观感上的不适。总之，实现基于文档内部知识的问答应用是一项复杂的任务，需要综合考虑多种因素。

RAG 大模型 2024-04-11

大模型时代 AI 技术在金融行业的创新应用

本文重点介绍了大模型时代AI基础软件在金融行业的部署应用。文章首先分析了AI技术在金融行业的应用趋势，然后探讨了AI基础软件在金融行业的设计思路，最后展望了AI基础软件在金融行业的部署应用前景。文章指出，大模型技术将深刻影响金融行业的场景应用，通过构建大模型适配的AI基础软件，可以降低AI建设与应用的门槛，逐步转向智能化，并引领金融行业的经营与运营。同时，文章还提出了基于大模型的AI设计模式，包括AIaaS和数据驱动、知识管理系统、可解释性工具和调优自动化等方面，以实现AI基础软件对金融业务的快速赋能。最后，文章展望了大模型时代AI基础软件在金融行业交互方式变革、产品种类丰富以及商业模式创新等方面的影响，并构建了一个新兴的生态平台，以实现AI技术软件对金融行业的迅速赋能。

大模型金融 2024-04-11

大模型微调数据选择和构造技巧

本文探讨了大模型微调中如何选择数据的问题，提出了使用主动学习原则，包括数据多样性和数据不确定性。对于数据多样性，文章介绍了去重方法，如基于对比学习的语义向量和聚类算法。对于数据不确定性，文章提出了利用模型预测概率和质量打分模型来筛选模型不确定但质量达标的数据。这些技巧可以串联成一套高效的数据构造流程，适用于所有监督学习任务。

大模型微调数据选择与构造 2024-04-10

GitHub本月榜单：一个数字人技术的“非官方”实现

本月GitHub榜单上出现了一个“非官方实现”的数字人项目“AnimateAnyone-unofficial”，展示了AnimateAnyone人工智能技术在电商领域的多方面应用，如产品展示、个性化推荐、虚拟试穿/试用、故事化营销、互动体验、客服辅助、社交媒体内容和广告创新。该项目提供了GitHub地址，并介绍了其运行要求和训练方法。该数字人项目在电商领域具有巨大潜力，能够提升用户体验和营销效果，促进销售增长。

GitHub榜单数字人技术 2024-04-10

保姆级教程：手把手教你创建GPTs角色应用

本文介绍了GPTs技术，它是OpenAI为Plus会员提供的定制ChatGPT版本的技术。用户可以通过GPTs技术创建自己的智能助手，实现指令、知识和操作功能。文章还介绍了如何确认是否开通了GPTs技术，GPTs功能列表以及如何创建和测试优化自己的GPTs角色。GPTs技术的出现为个人开发者提供了快速创造多样小型产品的可能性，使得开发者可以将自己的应用上架并获得收益。

GPTs角色应用创建 2024-04-10

刚上线就崩了？字节版 GPTs 征战国内市场：无需编码，快速创建 AI 聊天机器人

字节跳动旗下AI聊天机器人构建平台Coze国内版上线，提供快速创建和部署聊天机器人的工具。Coze集成了丰富插件工具和知识库，支持自定义插件和数据库记忆能力，可灵活设计工作流。平台支持无编程经验用户，可发布到飞书、微信等平台。此外，字节跳动新成立的AI部门Flow聚焦AI应用层，已推出多款AI产品，包括娱乐和工作场景的聊天机器人。Coze等产品在隐私政策中警告可能与其他“我公司内部实体”共享用户信息，但将遵守访问控制和审批流程。

字节GPTs AI聊天机器人 2024-04-10

LLM之RAG实战（五）| 高级RAG 01：使用小块检索，小块所属的大块喂给LLM，可以提高RAG性能

本文介绍了RAG（Retrieval Augmented Generation，检索增强生成）系统，它能从知识库中检索信息以生成事实、上下文相关和特定领域的内容。文章重点讨论了RAG面临的挑战和两种先进的检索方法：从小到大的检索和句子窗口检索。前者使用较小的文本块进行检索，同时保留足够的上下文信息供大语言模型合成响应；后者则将文档解析为每个块的一个句子，并在检索时使用句子窗口提供额外的上下文。这两种方法均通过LlamaIndex实现，并提供了具体的实现步骤和示例。文章最后总结了这两种方法的应用和未来的研究方向。

LLM之RAG 小块检索 2024-04-10

LLM微调经验&认知

这篇文章主要讨论了大型语言模型（LLM）的认知和训练方面。在认知方面，文章指出知识主要来自预训练阶段，指令微调主要是为了让LLM更好地输出已具备的知识。同时，文章也提到了模型学会中文后能够理解和输出一些指令微调数据集里未见过的中文词汇，但指令微调并非数据量越多越好，数据质量可能更重要。在训练方面，文章介绍了Lora框架和int8推理等相关内容，并给出了一些微调时的实用建议，如prompt和output尽量不要重复等。此外，文章还提到了模型可能更容易理解“模型语言”这一玄学现象，并讨论了预训练阶段数据量和质量的优先级问题。最后，文章还提出了一些猜想和补充，如领域微调时模型参数越大可能越难训，以及chatGLM2的max_length起飞等问题。

LLM微调经验认知 2024-04-09

RAG 领域的新宠：为什么 AI 圈都在谈论 Jina ColBERT？

在 RAG (检索增强生成)领域，选对向量模型至关重要，它基本就决定了 RAG 系统的“天花板”，也因此，向量模型的选择总是业界的热门讨论话题。

rag 大模型 2024-04-09

评论能力强于GPT-4，上交开源13B评估大模型Auto-J

上海交通大学生成式人工智能实验室推出了一款全新的价值对齐评估工具Auto-J，旨在解决生成式人工智能技术在与人类价值对齐方面的挑战。该工具包含130亿参数，支持50+种真实场景的用户问询评估，可无缝切换两种评估范式，并输出详细、结构化且易读的自然语言评论。性能上，Auto-J的评估效果仅次于GPT-4，且显著优于其他开源或闭源模型，同时降低了评估成本。实验证明，Auto-J在多个任务上的表现均优于基线模型。此外，研究团队还公开了Auto-J的模型、训练和测试数据、场景定义文件和参考评估标准，以及用户问询场景分类器等资源，以促进该领域的研究和发展。

Auto-J 大模型 2024-04-08

<...3 4 5 678 9 10 11 12 ...>

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2024 AI魔法学院

京ICP备20027199号-1