广州珠江工程建设监理有限公司网站app与网站

广州珠江工程建设监理有限公司网站,app与网站,东风地区网站建设公司,广告设计是干什么的大家好#xff0c;我是玄姐。▼ 《双12 AI 原生应用落地专场》直播预约保你有收获当我询问 ChatGPT 关于我的记忆时#xff0c;它列出了 33 个事实#xff0c;从我的名字、职业目标到当前的健身计划应有尽有。但它究竟是如何存储和检索这些信息的#xff1f;为何整个过程会…大家好我是玄姐。▼ 《双12 AI 原生应用落地专场》直播预约保你有收获当我询问 ChatGPT 关于我的记忆时它列出了 33 个事实从我的名字、职业目标到当前的健身计划应有尽有。但它究竟是如何存储和检索这些信息的为何整个过程会如此无缝自然经过大量实验我发现 ChatGPT 的记忆系统远比预想中简单没有向量数据库也没有基于对话历史的检索增强生成RAG取而代之的是四个独立的层级适配环境的会话元数据、长期存储的明确事实、近期对话的轻量摘要以及当前对话的滑动窗口。本文将详细拆解每个层级的工作原理以及这种设计为何可能优于传统检索系统。所有结论均来自对 ChatGPT 对话行为的逆向工程OpenAI 并未公开这些实现细节。一、ChatGPT 的上下文结构要理解记忆系统首先需要明确 ChatGPT 处理每条消息时接收的完整上下文。其结构如下[0] 系统指令 [1] 开发者指令 [2] 会话元数据临时[3] 用户记忆长期事实[4] 近期对话摘要过往聊天的标题 片段[5] 当前会话消息本次聊天内容[6] 你的最新消息前两个组件定义了模型的高层行为和安全规则并非本文重点。真正值得关注的部分从 “会话元数据” 开始。二、四大记忆层级详解1. 会话元数据Session Metadata这类信息仅在会话开始时注入一次不会永久存储也不会成为长期记忆的一部分。该模块包含设备类型桌面端 / 移动端浏览器及用户代理User Agent大致位置 / 时区订阅等级使用模式与活跃频率近期模型使用分布屏幕尺寸、暗黑模式状态、JavaScript 启用情况等会话元数据示例会话元数据- 用户订阅ChatGPT Go- 设备桌面浏览器- 浏览器用户代理macOSIntel芯片上的Chrome浏览器- 大致位置印度可能使用VPN- 当地时间约16:00- 账户时长约157周- 近期活跃度 - 过去1天内活跃1天 - 过去7天内活跃5天 - 过去30天内活跃18天- 对话模式 - 平均对话深度约14.8条消息 - 平均用户消息长度约4057字符 - 模型使用分布 * 5% gpt-5.1 * 49% gpt-5 * 17% gpt-4o * 6% gpt-5-a-t-mini * 等- 设备环境 - JavaScript已启用 - 暗黑模式已启用 - 屏幕尺寸900×1440 - 页面视口812×1440 - 设备像素比2.0- 当前会话时长约1100秒这些信息能帮助模型根据你的使用环境定制回复但会话结束后所有数据都会失效。2. 用户记忆User MemoryChatGPT 拥有专门的工具用于存储和删除关于用户的稳定、长期事实。这些信息会在数周、数月内不断累积形成一个持久的 “用户画像”。以我为例模型存储了 33 个事实包括姓名、年龄职业目标背景与过往工作经历当前项目学习领域健身计划个人偏好长期兴趣这些记忆并非模型猜测得出仅在以下两种情况下会被明确存储用户明确指令例如“记住这个” 或 “把这个存入记忆”模型检测到符合 OpenAI 标准的事实例如姓名、职位、明确偏好且用户通过对话隐含同意。这些记忆会作为独立模块注入未来的每一次提示词中。若需添加或删除内容直接告知模型即可“把这个存入记忆……”“从记忆中删除这个……”用户记忆示例- 用户姓名曼坦·古普塔Manthan Gupta- 曾任职于Merkle Science和 QoohooYC W23项目- 偏好通过视频、论文和实操结合的方式学习- 开发过 TigerDB、CricLang、负载均衡器、FitMe等项目- 正在研究现代信息检索系统LDA、BM25、混合检索、稠密嵌入、FAISS、RRF、大模型重排序3. 近期对话摘要Recent Conversations Summary这是最让我意外的部分我本以为 ChatGPT 会对过往对话使用某种 RAG 技术实则采用了轻量摘要的方式。ChatGPT 会以以下格式存储近期对话摘要列表1. 时间戳聊天标题|||| 用户消息片段 |||||||| 用户消息片段 ||||关键发现仅总结用户消息不包含助手回复最多存储约 15 条摘要仅作为用户近期兴趣的 “粗略地图”而非详细上下文。该模块能让 ChatGPT 在不同会话间保持连贯性且无需调取完整对话记录。相比之下传统 RAG 系统需要对每条过往消息进行嵌入处理对每个查询执行相似度搜索调取完整消息上下文导致更高的延迟和 token 成本。ChatGPT 的方案更简洁预先生成轻量摘要并直接注入以牺牲部分细节为代价换取速度和效率的提升。4. 当前会话消息Current Session Messages这是当前对话的常规滑动窗口包含本次会话中所有消息的完整历史未摘要处理。虽然我未能获取 ChatGPT 确切的 token 限制但模型确认了以下规则限制基于 token 数量而非消息条数达到限制后当前会话中较早的消息会被移除但记忆事实和对话摘要仍保留该模块的所有内容都会原封不动传递给模型以维持完整的会话连贯性。这也是模型能在单一会话中进行连贯推理的核心原因。三、记忆系统的协同工作原理当你向 ChatGPT 发送消息时整个流程如下会话启动注入会话元数据让模型了解你的设备、订阅状态和使用模式每条消息处理始终包含你的存储记忆事实我案例中是 33 条确保回复贴合你的偏好和背景跨会话感知通过近期对话摘要获取用户近期兴趣无需调取完整历史当前上下文维护借助当前会话的滑动窗口保障单一会话内的连贯性Token 预算控制会话持续推进时较早的消息会被移除但记忆事实和对话摘要保留维持整体连贯性。这种分层设计让 ChatGPT 既能提供个性化、上下文感知的体验又无需承担检索数千条过往消息的计算成本。四、结论ChatGPT 的记忆系统是一套平衡了个性化、性能和 token 效率的多层架构。通过结合临时会话元数据、明确长期事实、轻量对话摘要和当前会话滑动窗口它实现了一项了不起的成果既具备 “懂你” 的个性化体验又摆脱了传统 RAG 系统的计算开销。核心洞察在于并非所有内容都需要以 “传统记忆” 的形式存在会话元数据实时适配环境明确事实跨会话持久化对话摘要提供无细节负担的连贯性当前会话保障即时推理流畅。这些动态组件会随会话推进和用户偏好演变不断更新最终营造出 “系统真正了解你” 的错觉。对用户而言这意味着 ChatGPT 会随时间变得越来越个性化且无需手动管理知识库对开发者而言这是一个务实的工程启示有时更简洁、经过精心筛选的方案反而优于复杂的检索系统尤其是在你能掌控整个技术链路时。这种设计的取舍十分明确ChatGPT 为了速度和效率牺牲了部分历史细节的深度。但对大多数对话场景而言这正是最合理的平衡系统记住了真正重要的内容你的偏好、目标、近期兴趣同时保持快速响应。参考原文https://manthanguptaa.in/posts/chatgpt_memory/好了这就是我今天想分享的内容。如果你对构建企业级 AI 原生应用新架构设计和落地实践感兴趣别忘了点赞、关注噢~PS▼ 《双12 AI 原生应用落地专场》直播预约保你有收获—1—加我微信扫码加我有很多不方便公开发公众号的我会直接分享在朋友圈欢迎你扫码加我个人微信来看加星标★不错过每一次更新⬇戳”阅读原文“立即预约