说到2024年ai圈的热门话题,当然不能错过 视频生成模型 了!
即使是在12月,国内外视频模型的更新脚步依旧没有放缓。其中以sora、可灵ai为代表。
12月9日,openai正式推出视频产品 sora 。用户可以创建任意长宽比例的分辨率高达1080p(最长 20 秒)的视频,可接收文本、图像和视频输入并生成新视频作为输出。
12月19日,可灵ai宣布基座模型再升级,视频生成推出 可灵1.6 模型,文本响应度、画面美感及运动合理性,均有明显提升,画面更稳定更生动,同时支持标准和高品质模式,特别是1.6模型的图生视频,内部评测比 1.5 模型整体效果提升195%。
视频模型竞争激烈,评测榜单也变得尤为重要。
agi-eval 通过构建上百条评测数据和专家级人工评测团队,对 sora 、及国产头部视频生成模型 进行了更深度的专业评测。
主要结论有以下3个:
结论1
结论2
结论3
详细的榜单排名如下,评测维度包括 视频-文本一致性 、视频质量(含真实性、合理性) 、运动质量 等,确保评测结果反馈模型真实水平。
注:以上数据为示例,具体评分请参考agi-eval评测社区平台的最新数据。
榜单数据经过归一化处理,与原始分值有所区别,但排名一致。
agi-eval平台链接:https://agi-eval.cn/mvp/listsummaryindex
详细评测对比:sora vs 国内视频生成模型
一起来看看详细的测评结果。
从视频生成的整体效果来看,sora在 视频质量、创作自由度、风格支持 等方面的表现更优,尤其是在 动态场景下五官的呈现 上更为细致。
示例对比
【示例1】:文本一致性
该prompt本身较为复杂,同时存在多个实体、人物状态表现,且需要模型进行正确的推理,考察的能力更加全面。
sora-1080p
该维度打分:2分 分析:要求生成的实体中,背包缺失,面包表现较差,丢失实体特征;人物动作”拿起“不符合,无法判断是否符合推理正确的物体。
可灵1.6
该维度打分:2.67分 分析:要求生成的实体中,面包缺失,”拿起“的动作有趋势但表现较差,同样无法判断是否符合推理正确的物体。
pixverse-v3
该维度打分:3.5分 分析:要求生成的实体及人物动作“拿起”均满足,也能达成正确的推理,理解需要拿的是面包,但不符合镜头跟随和人物动作“来到”,相对来说已经表现得不错。
minimax-video-01
该维度打分:3分 分析:要求生成的实体中,面包缺失,“拿起”动作不符合,但推理正确,理解需要拿的是面包。
该prompt实体较简单,但倾向于考察水流、热气、颜色渐变等细节,流畅的细节变化通常来说较为困难。
sora-1080p
该维度打分:2.67分 分析:忽略prompt要求的重点,未体现出变色的过程。
可灵1.6
该维度打分:4分 分析:变色过程不完全符合要求,但相对来说较好。
pixverse-v3
该维度打分:3分 分析:未体现正在加水,变色有体现,但不符合逐渐变白的要求。
minimax-video-01
该维度打分:2.67分 分析:同样未体现出变色的过程,也无法看出是热水。
【示例2】:物品生成稳定性(突然出现或消失)
该prompt重在考察运动细节及实体之间的交互,模型在“切口处涌出了草莓酱”上表现得各有差异。
sora-1080p
该维度打分:2.5分 分析:该视频中果酱多次忽然出现和忽然消失,蛋糕忽然出现缺口,仅针对稳定性较差。
可灵1.6
该维度打分:3.5分
分析:能看到刀的动作导致蛋糕出现切口,果酱的出现比较突兀不合理。
pixverse-v3
该维度打分:3.5分 分析:果酱和刀的形态稳定,蛋糕的切口出现较为突兀。
minimax-video-01
该维度打分:3分 分析:刀和蛋糕的形态较稳定,符合切开的状态,但果酱忽然大量出现不合理。
【示例3】:实体畸形
sora-1080p
该维度打分:2.67分 分析:背景鸟群出现明显畸形及不合理滞空,背景行人有粘连及行走姿态明显不合理,整体观感上较为明显。
可灵1.6
该维度打分:4分 分析:主体人物及建筑物整体的形态均较好,部分背景人物出现轻微畸形,整体对观感影响较小。
pixverse-v3
该维度打分:3分 分析:主体人物手指有轻微粘连形变,背景建筑物发生形变,观感上稍有不合理。
minimax-video-01
该维度打分:3.5分 分析:主体人物手指轻微形变,左侧出现的背景人物面部有轻微扭曲,观感上稍有不合理。
sora-1080p
该维度打分:2.5分 分析:人物有明显的穿模,门发生的形变也较明显,影响严重。
可灵1.6
该维度打分:3.5分 分析:人物整体形象较好,无明显畸形,部分镜头中人物手部存在形变,造成一定的影响。
pixverse-v3
该维度打分:3分 分析:人物手指形变持续存在且较严重,较影响视觉效果。
minimax-video-01
该维度打分:3.5分 分析:人物整体形象较好,无明显畸形,部分镜头中人物手部存在形变,造成一定的影响。
【示例4】:镜头技巧
sora-1080p
该维度打分:3分 分析:拉镜有所表现,但升镜体现较差,视频整体镜头表现较单一。
可灵1.6
该维度打分:4分 分析:视频能较好的体现升镜、拉镜,场景变化的过度比较自然,整体流畅。
pixverse-v3
该维度打分:3.5分 分析:升镜体现较好,但拉镜未明确表现,视频整体场景转化较流畅。
minimax-video-01
该维度打分:3分 分析:拉镜有所表现,但升镜体现较差,视频整体效果较为突兀。
是怎么评测的?
针对基础模型,agi-eval采用了不同的评测方法及不同的评测方式,包含人工主观评测、模型打分(modeleval)、众包评测三种方式,考察模型在不同版本下是否有能力下降、风格等影响导致榜单结果差异,反馈模型综合能力。
人工评测
评测说明 给定prompt的视频,人工从视频文本一致性、视频质量、运动质量等维度综合给被测视频打1-5绝对值分,并标注出被测视频的错误标签;视频采用多轮标注的方式,2人打分结果相同则为该prompt结果,若2人打分diff则进入3标,最终3人平均为被测视频最终分数。
评测思路
视频文本一致性:是否按照prompt的要求生成视频,包括对物体、人物、场景、风格、运动细节等所有相关要素的描述是否完整遵循。
视频质量
合理性:视频在逻辑、结构、设计、运动轨迹等维度是否符合常规,即,是否符合物理规律。
真实性:视频具有逼真效果,无明显ai痕迹。
运动质量:视频中的运动表现是否流畅、连贯、动态效果是否丰富。
评测集介绍
根据一致性、运动质量、画面质量等关键性能指标,构建了包含500条中英文对照样本的黑盒测试集,覆盖了从动作生成到情绪生成多种复杂场景和能力项及应用场景;在构建中也结合到了物理常识和百科知识,评估生成视频的真实感和逻辑性。
评测案例
任务类型:相互影响多实体生成
prompt:一只猫叫醒了正在睡觉的主人。 模型答案:
评测分析: 视频综合打分:3分 一致性:4分,实体生成符合要求,但对于“叫醒”的动作过程体现不完整。 视频质量:3分,运动过程中人物肢体、猫面部都呈现出变形。 运动质量:3分,运动基本连贯,最后猫爪收回动作不自然,机械感较明显。
任务类型:实体&动作生成
prompt:跳水运动员们正在热身。 模型答案:
评测分析: 视频综合打分:1分 一致性:1分,要求的实体及动作完全未体现。 视频质量:1分,视觉中心的主体畸形,场景下方也存在变形不连贯。 运动质量:2分,下方凭空出现实体,运动连贯性、动态效果、运动幅度均差。
agi-eval评测平台
鉴于传统评测方式难以充分反映模型的真实水平,agi-eval创新性地提出了 人机协作评测模式 ,探索建设高质量评测社区建设。
在这种模式下,参与者可以 与最新的大模型共同完成任务 ,既有助于提高任务完成度又便于建立更加直观的区分度。
基于前期的一些用户实验表明,通过这种方式不仅可以获得更为简洁、完善的推理过程描述,还可以进一步提升用户与大模型之间的互动体验。
未来,随着更多类似平台的出现和发展,相信人机协作将成为评测领域的一个重要发展方向。
人机社区链接:https://agi-eval.cn/llmarena/home
agi-eval 平台基于 真实数据回流、能力项拆解 等方式,自建万量级私有数据,并经过多次质检保证准确率。
黑盒100%私有化数据,可保证评测数据不可“穿越”。
从数据建设到模型评测,实现全层级能力项目,一级能力涵盖指令遵循、交互能力、认知能力(含推理、知识、其他认知能力等);完美实现自动与人工评测相结合。
对于 chat模型 ,平台官方榜单结合主观、客观评测结果,中英文权重分布均衡。
客观评测基于模型打分,可处理具有一定自由度问题,准确率95% ;主观评测基于三人独立标注,并记录细分维度标签结果,全面诊断模型问题。
想要申请文生视频测评的朋友可以直接联系agi-eval团队。
agi-eval团队介绍
agi-eval是由 上海交通大学、同济大学、华东师范大学、datawhale 等高校和机构合作发布的大模型评测社区,以“评测助力,让ai成为人类更好的伙伴”为使命。平台旨在打造公正、可信、科学、全面的评测生态,号召大众共同投入到大模型评测工作,参与数据构建及丰富有趣的人机协作比赛,与大模型协同完成复杂任务,实现评测方案共建。
agi-eval多模态评测可承接全模态(any toany)模型评测(部分榜单待上线),欢迎各位模型厂商提报评测合作交流。
文生视频测评申请方式
请使用单位邮箱,将测评研究目的、计划,研究机构、申请者介绍和亚博电竞网站的联系方式(手机或微信),发送到邮箱。 邮箱:agieval17@gmail.com,标题是:agi-eval文生视频测评申请
穴穴想要大棒 | 9天前 |
性感瑜珈老师_e奶蝶_用乳交来教学生_被3位肌肉猛男4p激情狂操 |
亚洲伊人双插阴道视频 | 4天前 |
美女黄网站aa级 |
变态强奸美女的作文 | 5天前 |
被木马处调教h男男 |
国产视频一区二区三区四区五区 | 0天前 |
ⅹhamster69 |
老师粗大鸡吧狠插猛干无套内射视频 | 6天前 |
操哭我黄片禁18在线观看 |
日本三级亚州片 | 4天前 |
光光12c大灯黄色电影 |
日韩影黄 | 0天前 |
和短发美女啪啪啪thepom |
农夫番剧库存在哪看 | 6天前 |
女生把坤坤发到男生坤坤里 |
瑟瑟666666 | 1天前 |
久久久老色哥 |
97岁的小美女大白天操逼 | 6天前 |
艾粟粟众筹 |