合成影片逼真 威胁美大选

科技公司和学术机构携手推出「揪出深度伪造(deepfake)影像挑战赛」来改善工具,检测由人工智慧(AI)造假的影片和其他媒体。脸书(Facebook)5日宣布投入1000万美元在这项计划中,目标是阻止被视作是破坏网络资讯完整性的重大威胁。脸书、微软(Microsoft)和全球AI产业联盟人工智慧伙伴关系(Partnership
on AI),结合麻省理工学院(MIT)、康乃尔大学(Cornell
University)、牛津大学(University of
Oxford)、加州大学柏克莱分校(University of
California-Berkeley)、马里兰大学(University of
Maryland)和纽约州立大学阿尔巴尼分校(University at
Albany)等学术机构致力打假。这是打击散播造假影片或录音乱象的广泛行动之一。脸书科技长施洛普佛(Mike
Schroepfer)说:「此挑战目标为制作出让所有人都能使用的技术,侦测AI是否被用来窜改影片,借此误导观众。」施洛普佛说,AI生成影片中真人的言行举止都可被造假,深度伪造技术「对查明网络资讯的真伪有重大影响,不过科技业目前还没有大规模的数据或标准进行检测」。关注“新海外”
海外资讯一手掌握声明:本页面内容,旨在为满足广大用户的信息需求而免费提供,并非广告服务性信息。页面所载内容,仅供用户参考和借鉴。

使用AI软件制作的「DeepFake」合成影片,如今效果相当逼真,外国研究报告估计,DeepFake将对2020年美国总统大选构成影响甚至威胁。美国会的情报委员会近期也特地开会,与AI专家讨论Deepfake因应;加州大学柏克莱分校与南加大专家更研发出新一套AI侦测系统,训练AI来观察政要的「软性生物特征」(soft
biometric
signature)来进行影片的真假辨识。只要有足够多的语音数据,人工智能就可合成逼真的语音记录,虽然现阶段利用DeepFake制作影音还有不少破绽,但以技术发展速度,预计5年内足以骗过不懂分辨的人。事实上,DeepFake的影响也冲击到美国法规,例如近期美国维吉尼亚州就正式颁布新令,7月起扩大非自愿色情禁令的范围,将逼真的影片或照片纳入其中。为了辨识DeepFake,加州大学柏克莱分校更联同南加大,开发出AI侦测系统,来辨识政要人士「软性生物特征」,例如个人说话时在潜意识之下的身体、头部、双手和眼睛等细微移动,目前辨识真与假影片的准确率可达95%。加州大学柏克莱分校计算机科学家Hany
Farid指出,已开始为2020年美国总统参选人建立相同系统,更向CNN透露希望能在12月推出,让记者能在网站查核影片的真伪。中国法学专家也认为,通过
AI换脸等技术达到造假影片等不法行为,就是对科技的侮辱,借此形成产业的危害更是不可低估。关注“新海外”
海外资讯一手掌握声明:本页面内容,旨在为满足广大用户的信息需求而免费提供,并非广告服务性信息。页面所载内容,仅供用户参考和借鉴。

微软公司(Microsoft Corp)总裁史密斯(Brad
Smith)今天表示,基于人权考量,微软最近婉拒加州执法机构在员警车辆及随身配戴的摄影机中加装脸部识别科技的要求。微软认为,由于人工智慧(AI)的学习材料多为白人及男性影像,若替执法单位加装脸部识别科技,恐导致不成比例的无辜女性和少数族群遭拦下来问话。许多研究计划发现,AI在识别女性和少数群体上,错误率偏高。史密斯未点名机构名称,仅表示对方希望「每次进行拦检都能执行脸部扫描」。他说,经思考可能造成不平等影响后,「我们表态指出这项科技并不适合你们」。他在史丹佛大学(Stanford
University)关于「以人为本的人工智慧」会议上发言指出,微软也曾拒绝在某国监视录影机铺天盖地的首都设置脸部识别系统,因为该国被非政府组织「自由之家」(Freedom
House)列为不自由国度,设置脸部识别系统恐压迫当地的集会自由。然而,微软确实同意提供这项科技给美国某间监狱,因他们认定监狱环境较为侷限,且能改善这间机构内部的安全性。史密斯解释微软的各项决定,都是该公司致力维护人权的一环。他说,科技突飞猛进让各国政府有能力执行全面性监控、部署自动化武器并采取其他恐无法逆转的步骤,因此维护人权的工作更趋关键。关注“新海外”
海外资讯一手掌握声明:本页面内容,旨在为满足广大用户的信息需求而免费提供,并非广告服务性信息。页面所载内容,仅供用户参考和借鉴。

发表评论

电子邮件地址不会被公开。 必填项已用*标注