主页 > 快资讯 > 正文

大模型高分不等于真本事,360乌镇峰会发布科学推理评测基准

2026-11-10 20:01来源:中国网编辑:张易川

扫一扫

分享文章到微信

扫一扫

关注99科技网微信公众号

  11月4日,在2026年世界互联网大会乌镇峰会“人工智能赋能科学研究”论坛上,360集团副总裁张向征发布ScienceArena科学推理评测基准相关研究成果。该基准以物理、化学、生物奥赛真题为评测对象,依据官方评分细则逐项打分,并经奥赛金牌选手校准,为AI科学推理能力提供一套可追溯、可复现的评测框架。它就像一台大模型“测谎仪”,也是一把更加精细、透明的科学推理能力标尺,帮助行业判断模型是否真正具备科学推理能力。

  这一研究回应了当前大模型评测面临的共性难题:模型在基准测试中的分数越来越高,行业却越来越难判断其真实能力。基准饱和、数据污染风险以及对推理过程评价不足,正成为大模型评测面临的挑战。高分不再必然代表真本事,尤其在科学研究等严肃场景中,如果评测本身不够可信,模型能力就难以得到准确判断,AI生成的科研结论也难以真正获得行业采信。

  ScienceArena尝试为这一问题提供新的评测方法。它以真实科学竞赛题为基础,采用官方评分细则进行分步评价,并通过奥赛金牌选手的批改和批注校准自动阅卷系统。评测结果不仅能反映模型整体表现,还能通过逐题记录回查模型作答、得分及扣分依据,进一步定位推理过程中的具体失分环节和能力短板。相比只给出一个总分或排名,这种评测方式更有助于看清模型究竟会什么、不会什么,以及差距在哪里,让模型能力评估从单纯的分数比较走向更细致的能力诊断。

  据悉,ScienceArena相关论文已发布于arXiv,并被EMNLP 2026主会议接收。更重要的是,ScienceArena已在GitHub开源,相关数据集和在线评测平台也已对外开放,研究者和开发者可以直接获取数据、使用平台开展评测,并复现和检验相关结果,让这套方法能够被更多研究者使用和验证。

  更值得一提的是,从行业应用看,可信评测不仅关系到模型能力如何被衡量,也影响模型选型、技术迭代和应用部署。通过更细致、可复现的评测,开发者能够发现模型的能力短板,企业也能更准确地判断模型适用的任务范围和潜在风险,为AI在专业领域和产业场景中的应用提供更可靠的参考。

  此外,ScienceArena研究也是360持续探索AI可信技术的一部分。360智脑自研千亿参数通用大模型曾通过中国信通院“可信AIGC大语言模型基础能力”评估,360研发的幻觉检测Agent技术已能将大模型幻觉比例降低50%以上。从生成内容的可信检测,到模型科学推理能力的评测,360正围绕AI能力的可靠性与安全应用持续开展技术探索,为AI更可靠地进入产业场景提供根技术支撑。(文中图片为360授权中国网财经使用)

     投稿邮箱:jiujiukejiwang@163.com   详情访问99科技网:http://www.fun99.cn

相关推荐
超六成受访者会用AI辅助购物 今年“双十一”A 超六成受访者会用AI辅助购物 今年“双十一”A

制图:王志伟(数据来源:中国青年报社社会调查中心) 算满减、挑商品、组合优

快资讯2026-11-10

腾讯灯塔AI正式对外开放:十年内部锤炼,一句话 腾讯灯塔AI正式对外开放:十年内部锤炼,一句话

腾讯近日宣布,旗下AI数据分析平台"腾讯灯塔"正式对外开放,企业与个人用户

快资讯2026-11-10

千问上线“学习档案”,从拍题批改到学情分析 千问上线“学习档案”,从拍题批改到学情分析

10月29日,千问上线“学习档案”功能,可整合用户在千问中的拍题、作业批改

快资讯2026-11-10

七鲜小厨首家后厨烹饪无人化门店开业 全程无接 七鲜小厨首家后厨烹饪无人化门店开业 全程无接

10月28日,京东旗下七鲜小厨全球首家未来餐饮体验中心在北京长楹天街购物中

快资讯2026-11-10

增长超80%!苏宁易采云数智化员工福利采购需求 增长超80%!苏宁易采云数智化员工福利采购需求

10月28日,由中国物流与采购联合会主办的2026年员工福利数智化集采交流大会在

快资讯2026-11-10

天擎、可信浏览器双双获奖,奇安信携手鸿蒙打 天擎、可信浏览器双双获奖,奇安信携手鸿蒙打

11月5日,由华为擎云主办的2026鸿蒙办公产业峰会在武汉中国光谷科技会展中心

快资讯2026-11-10

设计抄得会,公差抄不会:iPhone Duo翻车暴露折叠 设计抄得会,公差抄不会:iPhone Duo翻车暴露折叠

苹果拆解研究OPPO铰链的传闻,如今被首款折叠机的"翻车"推到了一个尴尬的位置

快资讯2026-11-10

阿里云Token Plan全面提额:Pro档直降187元,Lite入门 阿里云Token Plan全面提额:Pro档直降187元,Lite入门

阿里云今日起对Token Plan套餐进行新一轮额度上调,覆盖Lite、Essential、Standard、

快资讯2026-11-10

小米汽车10月销量战报出炉:SU7获20万以上轿车双 小米汽车10月销量战报出炉:SU7获20万以上轿车双

凭借SU7与澎程系列的双线发力,小米汽车在10月的国内乘用车市场拿下多个细分

快资讯2026-11-10

婚外情风波升级!英伟达、黄仁勋遭股东集体诉 婚外情风波升级!英伟达、黄仁勋遭股东集体诉

11月10日消息,据央视财经消息,当地时间11月9日美股收盘五分钟后,英伟达及

快资讯2026-11-10