首页
党建
健康
科教
旅游
清风天府
税务
城乡社区
文化
德阳
广元
泸州
南充
遂宁
天府新区
新浪微博
首页
资讯
评论
文化动态
专题活动
留学移民
招考资讯
校园内外
科研成果
科技动态
创新创业
科教人物
您当前的位置:
首页
>
科教
>
科技动态
> 正文
“AI换脸”被滥用 科技莫成“黑产”帮凶
时间:2019-07-18 10:00:05
来源:新京报
编辑:陈姝悦
AI“换脸”技术被应用于色情视频,本身就是对科技的侮辱,借此形成“黑色产业链”,造成的社会危害更是不可低估。
科技的发展推动了社会进步,同时也带来很多风险和隐患。从前,很多人只知道运用软件Photoshop(PS)能够修改图片,如今,AI(人工智能)直接将“修图”技术进化成“换脸”。近日,新京报记者在调查时发现,互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的淫秽视频,在百度贴吧、闲鱼等主要网络平台均有出售。
如果有人觉得,明星艺人被美化也好、丑化也罢,都不关自己的事,那就大错而特错了。因为,在现实中,“AI换脸”已经不仅仅是一门技术,一条依附于“AI换脸”的“黑色产业链”已经形成。据新京报记者的调查报道称,有的商家不仅提供成品的视频,还接受买家的订制,只要买家提供20张照片,就可以搞出任何人的“小电影”。还有的商家“授人以渔”,售卖教学视频供人学习,出示学生证还能打七折。
互联网不是法外之地。“AI换脸”技术被应用于淫秽视频,本身就是对科技的侮辱,借此形成“黑色产业链”,造成的社会危害更是不可低估。
首先,“AI换脸”为淫秽视频的传播提供了新的兴奋点,让那些本来未必会接触淫秽视频的未成年人群体,因为“追星”情结而增加了“看一看”的兴趣,最终误入其中,难以自拔。
其次,在“AI换脸”技术下,每个人都可能成为受害者。尤其是普通人,一旦被“AI换脸”成为“小电影”的主角,由于身边人的鉴别能力较弱,大多数人在转发信息时更注重内容的轰动性和刺激性,而非可靠性,就算是一个做工粗糙的视频,也可能会在“以讹传讹”中给无辜的当事人带来极大的精神伤害。
第三,“AI换脸”的应用场景不仅是色情视频,还可能被用于电信诈骗。如果有人通过“换脸”向“被换脸者”的亲友索要钱财,就算诈骗不成功,也可以造成损害当事人名誉的影响。
第四,“AI换脸”技术具有一定的趣味性和挑战性,会吸引更多人尝试其训练模型的乐趣,从接受者变成参与者。特别是青少年对新事物的接受能力强,计算机技术水平往往较高,其中一些法制观念或道德意识较弱的人在“小试身手”后很容易踩过界,变成“黑色产业链”的一环。
尽管“AI换脸”技术的主要危害在于使用者的滥用,但因“AI换脸”自带“混淆人格”的功能属性,因此,相关部门对“AI换脸”行为的法律限制和行为规范也应更具针对性。首先,公安部门、网络监管者、网络贴吧和电子商务平台的经营者,都有义务清除违法售卖的包含“AI换脸”技术的违法色情视频。对于面向公众销售的或代为制作换脸视频的营利性行为,应坚决予以禁止。
其次,让“AI换脸”技术的爱好者意识到,不管是否使用“AI换脸”技术,在中国境内,凡是传播具有性行为、性器官、裸体的图像或视频都是具有法律风险的,“换脸”技术并不能消除原始素材的违法性,将之作为“技术成果”与大家分享是有风险的。
第三,制作者应防范自己的“换脸”视频被人利用,用于各类欺诈和侵权活动。不要因为觉得“好玩”,就随便帮人制作“爸爸妈妈我要钱啊”之类的视频。
第四,未经当事人授权的“换脸”行为,是对公民人格权和肖像权的侵犯。掌握“AI换脸”技术的人,应该对他人多怀尊重之意,不可轻易“戏之”,更不可没有底线地将“换脸”技术用于非法牟利,否则难免会遭到法律的严惩。
爆料电话:028-66270555 编辑邮箱:2589145508@qq.com 微信公众号:科教新观察(sckejiao)
相关新闻
·“技术+模式”激发商业航天发展红利
·北京用卫星遥感监管裸地每月一“拍”
·柔性电子技术 惊艳远不止于折叠屏
·5G基站或进室内 辐射很小别担心
文化动态
[更多]
秦行宫遗址博物馆免费开放
故宫博物院举办良渚与古代中国展
我们需要什么样的偶像文化
四川:打造过硬“网络文学川军”
“乡村美学讲堂”走进都江堰市 升华乡村美学的
·校园内外
[更多]
四川托普学院工作组赴丹巴县开展扶贫软件项目部
绵阳市盐亭华宸国际学校二期工程预计2020年秋季
金简教育联盟工作总结会在简阳市贾家镇中心小学
简阳市“社区雏鹰”青少年服务计划启动仪式在
绵阳市大堰小学积极开展暑期关爱留守儿童活动
科技动态
[更多]
北京用卫星遥感监管裸地每月一“
北京正在构建天地空一体化监测体系来治理大气污染:覆盖全市16…
“AI换脸”被滥用 科技莫成“黑产”帮凶
华为进军电视行业——“智慧屏”能否让用户回归
5G基站或进室内 辐射很小别担心
·学生记者团
[更多]
《舅舅回乡记》
责任与幸福
十年树木 百年树人
源于爱的职业
《不寻常的教师节》
关于我们
|
国新办批复文件
|
团队介绍
|
招贤纳才
|
刊登广告
|
本站地图
|
联系方式
| 法律顾问:
四川英特信联合律师事务所
友情链接:
武侯区教育局
崇州市教育局
四川教育在线
龙泉教育网
大邑教育网
新津教育网
邛崃教育网
蒲江教育网
成都全搜素新闻网
黄河新闻网科教频道
四川省科技厅
四川省教育考试院
四川省教育厅
四川日报网
四川在线
四川新闻网
国家机关
|
驻外机构
|
社会团体
|
新闻网站
|
媒体网站
|
地方政府
|
城市网站
|
地方网盟
中国互联网违法和不良信息举报中心
|
中国互联网视听节目服务自律公约
|