训练魔法-AI魔法学院

Ollama的本地化又一图形工具ChatOllama，让你轻松玩转ollama，ChatGPT

ChatOllama是集成ollama与OpenAI的图形化管理工具，支持模型、指令、知识库管理及AI聊天。使用Vue3、Nuxt等技术开发，可下载代码学习。支持docker安装及本地安装，需配置OpenAI、Claude等API密钥。功能包括创建系统指令、知识库、使用ChatGPT和Claude3模型，以及模型管理。项目开源，可加入学习交流群探讨大模型技术。

ChatOllama 安装 2024-08-26

生成式AI与大语言模型的区别

文章概述了生成式人工智能（如DALL-E、Midjourney）与大型语言模型（LLMs，如GPT-3、PaLM 2）的区别与互补性。生成式AI专注于创造原创内容（图像、音乐、文本），而LLMs则擅长理解和生成类似人类的语言内容。两者结合能增强内容生成、个性化、聊天机器人功能、多模态内容创作、叙事生成、翻译与本地化以及内容摘要等应用，为多个行业带来创新与发展前景。

生成式AI 大语言模型区别 2024-08-26

大模型

Github上Star数最多的大模型应用基础服务：Dify 深度解读

Dify 大模型知识库 2024-08-26

AGI

Yann LeCun杨立昆最新观点：AGI不存在

Yann LeCun在访谈中批评了大型语言模型（LLM）作为通往通用人工智能（AGI）途径的局限性，认为它们缺乏理解物理世界、推理和规划的能力。他倡导开源人工智能以增强人类善良并防止少数公司控制信息，同时提出联合嵌入预测架构（JEPA）作为替代方法，但承认其并非完整解决方案。LeCun强调人工智能系统需要更深入理解现实世界，并认为当前LLM存在重大局限性，包括无法扎根现实和缺乏分层规划能力。他还讨论了开源AI的重要性，认为这有助于防止权力集中，促进文化多样性和民主。

AGI 大语言模型观点 2024-08-23

Agent

AI Agent新对决：LangGraph与AutoGen的技术角力

文章总结了AutoGen和LangGraph两个AI Agent框架的特点和优势。AutoGen作为微软开源的多代理框架，允许开发者定义代理交互行为，实现复杂任务协作，但主要面向特定任务且依赖用户输入。而LangGraph作为LangChain的扩展库，通过循环图精确定义LLM任务细节，支持复杂场景下的应用，提供了更精细的控制能力和开发体验，在增强RAG应用、代码生成等领域具有广泛应用前景，并有望引领未来互联网搜索的发展方向。

LangGraph AutoGen 对决 2024-08-23

语音

开发语音产品时设计唤醒词和命令词的技巧

文章总结了在设计中文、英文和日文语音产品的唤醒词与命令词时，应遵循的原则和最佳实践。包括控制字词长度、提升音节区分度、选择发音清晰且不易误唤醒的词汇、符合用户语言习惯等，以提高语音识别效果并减少误唤醒。不同语言在细节上有所差异，但总体策略相似。

语音产品唤醒词命令词 2024-08-23

微软

微软Phi-3、Mixtral 8x22B等小模型过拟合，三分之二存在数据污染

研究揭示，三分之二的大型语言模型（LLM）存在过拟合问题，主要由于基准测试数据污染。Scale AI通过人工注释创建了GSM1k数据集，测试多个热门LLM，发现许多模型在GSM1k上的表现显著下降，特别是Phi和Mistral系列，显示出系统性过拟合。但前沿模型如Gemini、GPT、Claude和Llama2系列过拟合迹象较少。GSM1k数据集未公开，以防数据污染问题，并计划定期评估主要LLM。研究还指出，过拟合模型仍具推理能力，且数据污染可能不是过拟合的唯一原因。

过拟合小模型 2024-08-22

开源

微软最新模型Phi-3 Mini开源登场！小模型，大未来！

微软推出小型AI模型Phi-3 Mini，性能超越Llama-3 8B，成为新标杆。该模型开源免费，拥有38亿参数和3.3万亿tokens，在多项测试中表现卓越，支持4k和128k tokens上下文长度，便于本地部署，成本仅为同类模型十分之一。用户可通过LM Studio平台下载并运行Phi-3 Mini，实现高效且安全的AI交互体验。

Phi-3 Mini 开源模型微软 2024-08-22

SQL

微信为什么使用 SQLite 保存聊天记录!

SQLite常被低估但实则可靠，支持TB级数据但无网络层。本文总结SQLite 2018年新增SQL功能，包括布尔字面量与判断、窗口函数、Filter子句、Insert…on conflict（“Upsert”）、重命名列等，强调SQLite在SQL方言上的强大与现代化特性，同时指出其特有功能如“Upsert”和列重命名非标准SQL部分。

SQLite 微信数据库 2024-08-22

一位芯片投资人的十年复盘：谁是中国的英伟达｜AI光年

“现在中国的创投市场，硬件赛道的融资机会肯定要比软件好。”耀途资本合伙人杨光告诉《AI光年》。杨光在国内已有十年半导体投资经验。2015年，杨光和前同事白宗义一起创立了耀途资本，布局半导体领域围绕消费电子、汽车电子、数据中心与云计算等应用场景，投资了壁仞科技、瀚博半导体、爱芯元智、云豹智能、Hailo、Vayyar和星宸科技（301536）等企业。耀途最近的一次投资是袁进辉的新项目硅基流动（SiliconFlow)。“虽然硅基流动核心是软件，但所处的赛道属于大模型基础设施层，我们也关注生成式AI基础设施变化带来的机会。”与第一次和王慧文合作创业对标OpenAI不同，袁进辉此次创业选择做大模型时代的AI基础设施（AI Infra），降低大模型应用成本和开发门槛。

AI光年芯片投资 2024-08-22

清华

震撼科技界：清华大学与智谱AI联手，引领中文长文智能写作新纪元！

在人工智能的广阔天地中，大型语言模型（LLM）已经证明了它们在多个任务上的卓越能力。然而，它们在创作长篇文本方面似乎遭遇了难以突破的障碍。不过，一项由清华大学携手智谱AI所取得的突破性进展，为这一难题提供了新的解决方案。这项被命名为"LongWriter"的成果，将AI在长文本生成方面的能力显著提升，从2000字一举扩展至超过10000字，同时确保了内容的高质量输出。这一进步得益于创新的数据构建技术、独到的模型训练方法以及严谨的评估流程，为AI在长篇文本创作领域的应用开辟了新天地。

写作长文本 2024-08-20

RAG

RAG 2.0来了，它能成为生产落地的福音吗？

RAG 2.0由RAG系统发明者发布，通过预训练、微调和对齐所有组件为单个集成系统，优化语言模型和检索器性能，克服传统分阶段优化局限，显著提升系统整体性能。基准测试显示，RAG 2.0在开放域问答、忠实度、新颖度及长上下文处理上均优于传统RAG系统，为生产级AI应用开发提供新思路。

RAG 大模型 2024-08-20

应用编排的未来是Pipeline，LlamaIndex开发预览版推出Query Pipeline，提升应用开发的灵活性

文章总结了应用程序从流程编排到灵活Pipeline的发展，特别在大模型AI时代，Pipeline成为构建AI应用的关键载体。介绍了FlowEngine和llamaindex的QueryPipeline，强调声明式Pipeline的灵活性和模块化优势，使AI应用开发更加简单、低门槛。展示了如何通过QueryPipeline构建复杂流程，并介绍了运行Pipeline及可视化流程的方法。

Query Pipeline 大模型 2024-08-20

大模型

中国首个长时长、高一致性、高动态性视频大模型，Vidu 登场

在中关村论坛，生数科技与清华大学发布中国首个长时长、高一致性、高动态性视频大模型「Vidu」，采用原创U-ViT架构，支持生成16秒1080P高清视频，具备模拟真实与多镜头生成能力，标志着在视频大模型领域的重大突破。

Vidu 大模型视频 2024-08-20

大模型

一键部署本地私人专属知识库，开源免费！可接入GPT-4、Llama 3、Gemma、Kimi等几十种大模型，零代码集成。

本文介绍了如何在本地搭建MarxKB知识共享系统，该系统支持多种大语言模型，零代码集成，便于个人和小白用户快速上手。通过Docker部署，用户可添加笔记、文档等至本地知识库，并利用大语言模型实现实时搜索与问答。文中详细讲解了Docker安装、MarxKB镜像下载与容器创建步骤，以及如何在MarxKB中创建知识库、配置并关联本地大语言模型（如ollama的llama3），最终构建一个本地文档问答系统。

知识库MaxKB 开源 2024-08-19