OpenAI发布LifeVal基准 聚焦AI日常事务能力
OpenAI于11月2日发布LifeVal基准,围绕照护、健康、教育、家庭行政、个人财务、购物和政府服务等场景,评估AI模型能否把日常任务推进至可执行、可交付状态,并披露部分示例得分及该基准仍偏内部评估的限制。
驱动中国11月3日消息,OpenAI于11月2日发布名为LifeVal的新基准,用于衡量AI模型能否帮助普通人完成日常事务。该公司表示,这一评估旨在让通用AI更贴近“对人类最有用的日常帮助”。
在任务设计方面,OpenAI首先参考美国“美国人时间使用调查”和跨国“多国时间使用调查”,随后对3995名具有人口代表性的受访者开展调查,询问其最希望个人AI助手在哪些事务上提供帮助。
基于上述调查,LifeVal覆盖照护、健康、教育、家庭行政、个人财务、购物以及获取政府服务等场景。典型任务包括搬家后为孩子挑选并报名合适的幼儿园、为患糖尿病的家人制定饮食与照护计划、在预算内采购食材、整理政府表格、安排社区防洪志愿者等。
与传统基准不同,LifeVal更关注任务是否能被推进到“可执行、可交付”的状态。例如,AI不只是列出幼儿园名单,而要结合地点、预算、通勤和家庭需求进行筛选;处理财务时,也需要兼顾账单、收入和风险。OpenAI表示,模型可能需要理解聊天记录、浏览网页、整合多方信息,并给出符合个人处境的建议。
OpenAI称,过去一年已将LifeVal用于追踪和推动模型在日常任务上的改进。公开示例显示,部分任务表现较高:为孩子找幼儿园得分93.1%,组织防洪志愿者为98.0%,为糖尿病家长准备膳食计划为90.4%。
不过,LifeVal目前仍主要是OpenAI的内部评估。外界尚未获得完整任务集、评分代码、误差范围或可独立复现的排行榜,因此其结果仍需谨慎解读。