蚂蚁百万多模态AI数据集解读来了!
出处:
mp.weixin.qq.com
随着多模态大模型技术的发展,我们能用 AI 做的事情越来越多,比如让模型理解图片、生成视频和克隆声音。但与此同时,一个现实的问题也摆在了我们面前,AI 生成的内容越来越逼真,虽然带来了一定的技术便利性,比如社交媒体上,大家可以很轻松地给视频添加特效,也可以很方便地使用类似即梦这样的软件生成图片或者视频,但是技术的进步同时也会带来一些恶意行为,技术本身是无罪的,但是有的人使用AI去生成逼真的图片,或者视频,如何分辨真假,保证信息安全,成了一个重要的挑战。为应对这一全球性挑战,由中国图象图形学学会、蚂蚁集团、云安全联盟CSA大中华区主办,广泛联合学界、机构共同组织发起2025全球AI攻防挑战赛。比赛结束后,蚂蚁安全与智能实验室发布了一个百万量级的名为 OpenMMSec 的开放式多模态AI安全基准数据集,近期全面开源了。