MIT给机器人记忆加装纠错机制 逾九成物体歧义可自动修复
要点
麻省理工学院研究人员开发出一套名为 UQ-DAAAM 的机器人记忆修正系统，能够识别机器人三维环境记忆中可能出错的物体描述条目并自动改写。这项成果将在本年度神经信息处理系统大会（NeurIPS）上发表，会议官方页面已放出论文摘要。 此前的记忆系统 DAAAM 依靠视觉语言模型为…
麻省理工学院研究人员开发出一套名为 UQ-DAAAM 的机器人记忆修正系统，能够识别机器人三维环境记忆中可能出错的物体描述条目并自动改写。这项成果将在本年度神经信息处理系统大会（NeurIPS）上发表，会议官方页面已放出论文摘要。
此前的记忆系统 DAAAM 依靠视觉语言模型为车载相机拍到的物体生成详尽文字描述，并连同三维地图一起存档，供机器人日后答题调用。但当物体只被部分看到、距离较远或成像模糊时，模型可能把灰色烟囱记成屋顶上的松鼠，把墙面除颤器标成灭火器，而这类错误记忆一旦写入，就会随机器人在环境中移动而持续存在。研究人员指出，没有自我纠错机制，这些错误将直接影响取物、装配等下游任务。
从机制上看，UQ-DAAAM 的关键一步是把”自信”变成可计算的量：系统先将视觉语言模型对单条描述的置信度，与不同视角下对同一物体描述的一致性，融合成一个不确定性数值。数值越过阈值，系统就从后续帧里挑出最能消除歧义的视角——例如几帧之后清晰拍到烟囱冒烟的画面——再用大语言模型把多条描述加权融合成一条更准确的记录。研究团队给出了数学证明：这种选帧启发式无需重新运行视觉模型即可锁定最优帧，因此整套流程能在移动中的机器人上以几分之一秒的节奏实时运行。
效果方面，该修正步骤仅用每个物体两条额外描述，就能化解机器人环境中约 92% 物体的歧义，物体描述准确率较现有最先进方法提升 5%。在 OC-NaVQA 基准上，系统的不确定性削减幅度与物体、位置、时间类问答表现均优于基线方法。
与聊天机器人的容错逻辑不同，论文通讯作者、MIT 航空航天系副教授卢卡·卡尔洛内强调，物理 AI 不能靠一句”机器人可能出错”的免责声明了事，让机器人知道自己不知道什么，才是这项技术安全部署并对社会产生积极影响的前提。NeurIPS 论文摘要同样直言，现有系统把视觉语言模型的描述当作不可能出错的”神谕”，缺少检测不可靠存档描述的手段。
把这次工作放进近期研究脉络看，机器人”记忆可靠性”正在成为具身智能从演示走向日常服务的瓶颈之一：感知可以一次跑对，但长期存档的语义记忆一旦出错，错误会在后续任务中被复利式放大，先量化、再定向修正的路线或将成为此类系统的标配。该项目由美国陆军研究实验室和美国海军研究办公室部分资助，团队下一步计划把这套不确定性量化机制移植到移动机械臂等场景，并主动重访记忆中不确定性偏高的区域。
