未分类

普林斯顿团队发布空间智能基准SSoN:最强视觉模型跨视角答题仅39.7%

要点

普林斯顿大学AI Lab牵头的研究团队于10月9日将空间智能基准论文提交至arXiv,给视觉语言模型出了一张名为Same Space or Not(SSoN)的考卷:四张静态室内图像中,三张来自同一个未改动的三维场景,一张来自编辑后的变体,模型既要找出那张"不属于同一空间"的图…

普林斯顿大学AI Lab牵头的研究团队于10月9日将空间智能基准论文提交至arXiv,给视觉语言模型出了一张名为Same Space or Not(SSoN)的考卷:四张静态室内图像中,三张来自同一个未改动的三维场景,一张来自编辑后的变体,模型既要找出那张”不属于同一空间”的图,还要说清矛盾出在哪里。基准共1000道题、4000张渲染视图,覆盖7个室内场景来源和交换、细节变化、镜像、删除、移动、旋转6类3D编辑,参与团队还包括西北大学、宾夕法尼亚大学、Adobe Research与卡尔顿学院的研究者。

成绩单上的落差相当刺眼。完整1000题上,人类准确率达到83.3%;受测的6个视觉语言模型中,最强的GPT-6 Astra Pro只有39.7%,其余5个全部低于25%的随机基线。再进一步要求”选对且解释成立”,最强模型降到34.9%——合计1368次正确选择里,404次拿不出有效证据支持。分类别看,交换和细节变化是模型的相对强项,移动和旋转则是集体盲区:旋转题最强模型仅得9.54%,人类达到76.01%。连17个非生成式视觉编码器按”挑出最不相似一张”的思路作答,成绩也只在16.9%至21.7%之间,全部低于随机线。

研究团队随后在固定的100题诊断集上测试了三种”补课”方式,这组题的基线准确率只有24%。引导模型比对参照物并告知6类编辑知识的组合提示,把成绩提到48%;让模型实际执行三维重建再检查相机视角,得到47%;直接提供真值相机内参外参后,准确率升至61%,有效解释得分达到48%,移动类成绩更从20%跃升至70%。不过即便如此,没有任何一种干预让模型答对一半以上,旋转题在拿到相机参数后也只有38.89%。

空间一致性到底能不能练出来?团队对Qwen2.5-VL-7B做了对照微调:在201道来自未见房间的保留测试题上,零样本成绩为21.89%,仅用答案监督训练后升至33.33%,同时加入推理依据监督达到41.79%,其中旋转类从32.84%提高到58.21%。论文同时如实标注了局限:推理依据带来的额外增益在统计上仅具暗示性,配对检验p值为0.064,且每位人类参与者对每题只作答一次,解释质量未计入人类成绩。

SSoN把动态交互与动作控制剥开,单独检验”换一个视角还能不能理解同一个房间”这块具身智能的地基。数据集、代码与微调权重已按CC BY-NC 4.0许可公开,题目从上万个开发候选中经自动检查与人工核验筛出,以排除视觉捷径和多解。83.3%对39.7%的差距说明,在AI走进物理世界之前,跨视角的空间理解仍是必须补上的一课。

免责声明本页信息整理自互联网公开渠道,仅供资讯参考,不构成任何投资或商业决策依据;相关产品参数、企业信息可能存在滞后或误差,请以厂商官方发布为准。如内容涉及版权、准确性或侵权问题,请联系 981209856@qq.com,我们将第一时间核实处理。

柳砚舟

柳砚舟,关注大模型、算力与产业应用。