首页> 技术观点 > 科技向善|触碰法律底线的AI黑科技,该退场了

科技向善|触碰法律底线的AI黑科技,该退场了

发布时间:2023-06-26

近日,某女性的照片在网络上引起了不小的舆论风波,本来该女性发布的照片是正常生活照,但是被有心人利用AI的软件一键脱衣,并在网络上广泛传播,给当事人造成了极其不好的影响。如此龌龊的互联网行径,引发了国内很多女性的恐慌。这些虚假的图像或视频不仅导致受害者名誉和形象受损,带来难以想象的精神压力,甚至很可能被用做勒索、骚扰的手段。

 

不少网友怒斥“人工智能不应该用在这上面”。利用AI技术“脱去”女性衣服,属于情节严重的侮辱女性的行为。希望有关部门强化源头治理,坚决取缔这种非法应用,还要倒查到底是谁在开发这种龌龊的APP,追究相关APP的开发运营者相关法律责任。

“一键脱衣”APP可以说是毫无下限,那么目前应用市场中该类型的移动应用具体情况是怎样的呢?

(一)疑似具有脱衣功能的移动应用概况分析

根据爱加密移动应用大数据平台提供的数据,大数据平台监测范围覆盖1400+个应用渠道截止到当前共计疑似具有脱衣功能的Android 536款。根据该功能的应用所属区域来看,广东省应用数量占总量的35.07%,位居第一;北京市应用数量占总量的18.84%,位居第二;上海市应用数量占总量的6.72%,位居第三。下图为移动应用区域分布top10的情况:

移动应用区域分布TOP10

(二)疑似具有脱衣功能的移动应用案例分析

在AI技术的加持之下,脱衣类功能的应用实现人物替换、背景替换都会很逼真,有的软件甚至通过敏感词汇和功能介绍诱导下载。

(1)点击哪里擦除哪里

该应用是一个可以单击去除身体部位的脱衣应用,相应的部位会通过暴露皮肤的颜色来进行填充,看起来就像是真的脱衣一样:

(2)利用敏感字眼吸引下载

该应用采用“真人去衣服”、“美女资源”等字眼来吸引用户点击下载使用:

任何新技术和工具的创新都是一把双刃剑,既可为日常生活带来便利,甚至于可以改变未来的生活状态和方式,也会出现被别有用心之人利用而作恶的可能性。这种“一键脱衣”技术,可能会对人们的身心健康造成不良影响,还可能会对社会稳定和公共秩序造成影响,比如引发社会纷争、破坏社会道德风尚等。希望相关监管机构能加强法律法规的制定和实施,对恶意使用“一键脱衣”技术的行为进行严厉打击和惩罚,加强技术监管和管理,公众也要提高法律意识和安全意识,保护自身合法权益。

(三)脱衣类移动应用植入恶意程序情况概况

“一键脱衣”类APP持续引发了公众对个人隐私安全的关注和讨论,受高额利益驱使,一些人员通过制售木马病毒、开发攻击软件,窃取数据牟利,威胁企业、个人数据安全,甚至威胁关键信息基础设施安全。本章主要介绍全国移动互联网恶意应用的分布情况并进行分析。

(1)主要恶意程序风险描述

截至当前,该功能的应用中含有恶意程序的有35款,其中恶意程序类型以“流氓行为”为主,这些恶意程序主要存在对移动用户的隐私数据收集、恶意扣费、流量资源消耗、系统破坏和广告推送等多种恶意行为,对移动用户的个人信息及财产安全带来巨大的威胁。详见下图:

恶意程序类型统计表

(2)恶意应用区域分布情况

从区域分布来看,北京市存在恶意应用的数量占恶意应用总量的28.57%,位居第一;广东省存在恶意应用的数量占恶意应用总量的14.29%,位居第二;上海市存在恶意应用的数量占恶意应用总量的8.57%,位居第三。详情见下图:

各恶意应用区域分布top10

(四)共同营造健康、和谐、有序的网络环境

网上不少非法网站还提供“一键脱衣”的AI技术,并且这些技术主要针对女性,即使上传的是男性的照片,这些网站仍会P上女性的裸体。如此龌龊的黑科技,侵犯到当事人的多项权利,也触犯了国家法律和道德底线。我国刑法规定了侮辱罪”传播淫秽物品罪”,网络本身就是一个公共空间,利用AI技术脱去女性衣服,属于情节严重的侮辱女性的行为,已经达到可以追究刑事责任的程度。今年1月10日开始施行的《互联网信息服务深度合成管理规定》中提出:任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

作为公众,在遇到此类事情时应勇敢向平台举报,拿起法律武器保护个人隐私和权益,远离不良信息和行为。无论是人工智能还是其他科技,最终目的都应该是向善的,存敬畏,莫侥幸,滥用技术从事危害他人权益的行为,必将受到道德的谴责和法律的制裁。

 

爱加密倡导健康、文明的网络环境,积极推动网络伦理和道德建设,加强对网络违法和不良行为的监管和打击,为网络空间的健康发展和人民群众的身心健康保驾护航。

 

 

加入收藏