您的位置: 首页 > 实时讯息 >

上海人工智能实验室推出“以人为本”大模型评测体系

0次浏览     发布时间:2025-02-23 14:42:00    

“大模型能力越来越强,各类评测榜单层出不穷,模型分数越刷越高,但大模型的能力对我们个人来说究竟有什么用,我们并不知道。”2月22日,在2025全球开发者先锋大会“浦江AI生态论坛”上,上海人工智能实验室双聘研究员、上海交通大学教授翟广涛表示,大模型终究要为人服务,当前以模型为中心的先出题、再做题、算分的评价模式面临数据泄露和性能饱和两大挑战,大模型出现“高分低能”。

为了应对这种情况,上海人工智能实验室提出了“以人为本”的评测思路。上海人工智能实验室大模型开放评测平台司南正式发布“以人为本”(Human-Centric Eval)的大模型评测体系,系统评估大模型能力对人类社会的实际价值,为人工智能应用更贴近人类需求提供可量化的人本评估标注。

上海人工智能实验室提出“以人为本”的评测思路。

传统大模型基准测试普遍采用结果导向的评价标准,这种评价方式虽然能够直观反映模型性能,却忽略了人类实际需求。司南团队提出的评测方案根据人类需求设计实际问题,让人与大模型协作解决,再由人类对模型的辅助能力进行主观评分,以此补充客观评价的不足,使评估更贴合人类感知。

其中,“认知科学驱动”评估框架围绕解决问题能力、信息质量、交互体验三大核心维度,构建覆盖多场景、多领域的主观评测体系。通过模拟学术研究、数据分析、决策支持等真实人类需求,由用户与大模型协作完成任务,并基于人类主观反馈量化评估模型的实际应用价值,为下一步技术研发与产业落地提供科学参考。

为了验证“以人为本”评估方式的有效性,同时评测大模型在研究生学术研究中的应用价值,司南团队选取了当前公认的优秀模型DeepSeek-R1、GPT-o3-mini、Grok-3作为评测对象,组织有学术研究需求的研究生参与。团队根据文献综述、数据分析、可行性研究等学术研究中的常见需求,设计了人工智能、法律、金融等8个领域的相关问题,研究生与大模型协作解决。实验结果显示,所有受测模型分析准确性、思考全面性、协助高效性维度能力均势。DeepSeek-R1在解决生物、教育学科问题上表现突出;Grok-3在金融、自然领域优势明显;GPT-o3-mini则在社会领域表现良好。

澎湃新闻记者 张静

相关文章

上海市总工会“五一”期间推多项重磅活动 全城致敬劳动者

中工网讯 今年是中华全国总工会成立100周年,上海总工会成立100周年,在今年“五一”国际劳动节期间,上海市总工会准备了多个丰富多彩的活动,向全市劳动者致敬。从云端小屏到户外大屏,从穿越城市上空的无线电波到地铁广场里的集中展示,今年“五一”期间,整个申城都将被浓浓的劳模精神、劳动精神、工匠精神所围绕
2025-04-30 08:21:00

起步早、生态好、政策足!模速空间“C位出道”的阶跃星辰点赞“模都”

4月29日上午,习近平总书记在上海考察时,来到位于徐汇区的上海“模速空间”大模型创新生态社区调研。记者获悉,在“模速空间”展馆中,上海大模型独角兽企业阶跃星辰演示了旗下基础大模型的技术发展和应用情况。“国家高度重视人工智能的发展,其中基础大模型起到重要作用,是一场需要定力和实力的‘科技长征’。”阶跃
2025-04-29 23:26:00

西岸美术馆上新!蓬皮杜开启“新风景”,大卫·霍克尼带你走“瓦格纳之路”

4月28日,西岸美术馆与蓬皮杜中心新一轮五年展陈合作首个常设展“重塑景观”开幕。同时开幕的还有特展 “建造上海:1949年以来的建筑、城市与文化”,以及沉浸式艺术展“大卫·霍克尼:更大,更近”,西岸美术馆以全新的姿态,迈入一个更具前沿性与开放性的阶段。杜布菲作品《幸福的乡间》蓬皮杜中心主任罗朗·乐朋
2025-04-29 07:35:00

奔跑的力量

4月23日《广西日报》刊发文章《奔跑的力量》广西云-广西日报记者 董文锋报纸版面截图。编者按2025年是“十四五”规划收官之年,也是进一步全面深化改革的重要一年。新征程上,全区上下坚持实干为要,决心和信心更加坚定。即日起,广西云-广西日报推出全媒体专题报道——“在这里,感知经济脉动”,瞄准短期之“形
2025-04-28 19:07:00

谷歌:行政工作中使用AI平均每年可以节省122小时

谷歌表示,如果英国对其劳动力进行培训,那么英国有望从人工智能驱动的经济增长中获得4000亿英镑(约合5330亿美元)的收益。此前,英国的一些试点项目表明,员工在行政工作中使用人工智能,每年可以节省120多个小时。谷歌在上周五发布的一份关于其试点项目的报告中指出,一些简单的举措,比如允许员工使用人工智
2025-04-28 08:11:00

直击沪农商行业绩会:连续五年不良率低于1%,下一步将聚焦四个“进阶”

21世纪经济报道记者李览青 上海报道“一直以来,我们的目标就是打造‘百年老店’,稳健是上海农商银行最大的特色。”在沪农商行(601825.SH)近日召开的业绩发布会上,董事长徐力表示。徐力用“六个稳”全面回顾了2024年上海农商银行在收入盈利、业务规模、资产质量、股东回报、品牌形象和战略策略方面的稳
2025-04-27 18:59:00

网站内容来自网络,如有侵权请联系我们,立即删除!
站长邮箱 admin@99-bm.com Copyright © 99便民 鲁ICP备19046937号-5