不知道大家有没有这种感觉:和AI机器人短时间聊天的话还行,时间一长,就感觉对话开始变的前言不搭后语、逻辑不通。
其实这种感觉并不是错觉。
最近,微软发表的一项研究证实,即使是目前最先进的大语言模型,在多轮对话中的可靠性也会急剧下降。
研究人员对包括 GPT-4.1、Gemini 2.5 Pro、Claude 3.7 Sonnet、o3、DeepSeek R1 和 Llama 4 在内的 15 款顶尖模型进行了超过 20 万次模拟对话分析,揭示出一个被称为“迷失会话”的系统性缺陷。
数据显示,这些模型在单次提示任务中的成功率可达 90%,但当同样的任务被拆解成多轮自然对话后,成功率骤降至约 65%。
研究指出,模型的核心能力仅降低约 15%,但“不可靠性”却飙升 112%。
也就是说,AI 大模型仍然具备解决问题的能力,但在多轮对话中变得高度不稳定,难以持续跟踪上下文。
研究人员进一步分析了造成性能下降的行为机制。
首先是“过早生成”。模型在用户尚未完整说明需求前就尝试给出最终答案。一旦在早期回合中形成错误***设,模型后续便会在该错误的基础上继续推理,而不是随着新信息的加入进行修正,从而导致错误逐步放大。
其次是“答案膨胀”。在多轮对话中,模型的回复长度比单轮对话增加了 20% 至 300%。更长的回答往往包含更多***设与“幻觉”,这些内容随后被纳入对话的持续上下文,从而进一步影响后续推理的准确性。
令人意外的是,即使是配备了额外“思考词元”(thinking tokens)的新一代推理模型,如 OpenAI o3 和 DeepSeek R1,也未能显著改善在多轮对话中的表现。
研究人员指出,现有的基准测试主要基于理想的单轮场景,忽略了模型在真实世界中的行为。
因此,对于那些依赖 AI 构建复杂对话流程或智能体的开发者而言,这一结论意味着未来将要接受严峻挑战。
再来看看其他消息。
微软日前测试 Windows 11新版“画图”(Paint)应用,重点引入“自由旋转”功能。
根据微软官方描述,用户现在可以全方位角度调整形状、文本框以及任何活动的图像选区。用户选中对象后,其上方会出现一个“旋转手柄”,用户只需拖动该手柄即可向任意方向自由旋转对象,从而实现更自然的构图和布局。
除了直观的手动拖拽,微软还为需要高精度编辑的用户提供了解决方案。在“旋转”菜单下新增了“自定义旋转”选项,用户可以在此输入具体的角度数值,实现精确到 1 度的微调。返回搜狐,查看更多
{dede:pagebreak/}
涉未成年人举报专区 - *
利润腰斩,669亿“非洲之王”怎么“蔫了”?_传音_新兴市场_手机
丁磊回归一线,网易稳住了“江山”_游戏_丁迎峰_包括
马斯克否认SpaceX制造星链手机传闻,怒斥外媒“谎话连篇”_Cell_技术_硬件
Optimus机器人泡沫破裂?马斯克承认:没有一台在工厂承担「有用的工作」_人形_特斯拉_任务
明年iPhone可能难产,竟是因为日本不肯多生产一块布?_日东_玻纤_苹果
OpenAI 再不上市,财务窟窿就要把巨头们拖垮了_用户_预测_ChatGPT
杨利伟为什么后来再也没有登天?其实,他能够活着回到地球就已经是万幸,在他攀登太空的过程中,濒临死亡的26秒、寂静太空中的敲门声、舷窗玻璃的裂纹。除此之外,对于为什么不再登上太空,他本人这样回应,道出航天员的不容易。酒泉卫星发射中心的发射塔架已经换了好几茬,时间来到了2026年1月。当我们..._系统
马斯克大消息!SpaceX申请部署100万颗卫星!重磅数据,首次曝光_星链_发射_相关
特斯拉的销量已经不重要了_市场_同比_马斯克
小米汽车1月销量惨淡?高管回应:销量淡季,别过分解读_变化_同比_潘九堂
2026年手机行业或将步入寒冬 多家厂商已下调年度目标_市场_科技_魅族
离谱!零跑年会寒酸到被称“年度渡劫”,员工:办不起别办_小雷_公司_AirPods
普通人离“太空游”还有多远?_旅游_轨道_飞行高度
净利腰斩、市值万亿,特斯拉在涨什么?_Model_市场_马斯克
马斯克携SpaceX剑指“外星造城”:月球10年内完工,火星需要20年!_阿尔_登月_城市