7月13日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》(以下称《办法》),自2023年8月15日起施行。国家互联网信息办公室有关负责人表示,出台《办法》,旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。
生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。以ChatGPT为代表的生成式人工智能在社会变革中具有重要作用,但其可能存在数据违法收集、知识产权侵权、生成虚假信息等问题不容忽视。
近期屡屡登上热搜的“AI换脸”、“一键脱衣”是基于生成式人工智能技术生成虚假信息的典型案例。“一键脱衣”类文章,详见前文《科技向善|触碰法律底线的AI黑科技,该退场了》。生成式人工智能服务产生的内容逼真度高、迷惑性强,极易误导用户,容易传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。
目前,“AI换脸”诈骗频繁发生,主要有冒充熟人诈骗钱款、冒充明星虚假宣传、盗开账户诈骗钱款等手法。不法分子利用AI技术,通过声音合成,伪造成特定人物的声音,通过AI换脸,伪装成特定人物,实时与他人进行视频通话。更换后的面部表情自然,以假乱真,有人被骗走数百万,而生成露脸说话视频成本极低,且只需提供正面照就能生成视频,不仅眼睛、嘴巴、头会动,如果提供文字口型也能对上,一个晚上就能完工。
深度伪造是人脸识别系统主流攻击手段,另一主流手段为对抗样本。
1.深度伪造:可让攻击者基于受害者静态照片冒充受害者通过人脸识别。有人脸核身深度伪造、实时音视频伪造等。
2.对抗样本:通过对抗贴纸让攻击者冒充受害者欺骗人脸识别。
攻击者A佩戴对抗贴纸被识别为B
生成式人工智能技术带来的人脸识别风险,涉及登陆、注册、修改密码、找回密码、额度调整、信用卡激活、银行卡绑定、远程投保、证券开户、保险理赔等多种业务场景。
针对企业在业务场景中遇到的安全隐患,爱加密推出“查、打、防”三位一体的人工智能安全应用体系,从人工智能应用的生命周期进行检测、治疗和预防。
查-检测:采用主流、最前沿的安全测评方法对指定人工智能系统进行测试 ,提供全面的测评服务和可视化的测评报告。
打-治疗:通过对输入样本安全进行检测 ,识别输入信息的真伪度 ,从而提升 AI 模型的安全性 ,打击对AI系统攻击的不法行为。
防-预防:利用多种算法、扰动、迭代次数综合评价AI模型的安全性 ,实战化的攻防训练靶场 ,持续提升AI防御能力。
爱加密人脸安全综合防护系统,通过人脸环境监测信息、活体识别、图像鉴伪、智能核身、反诈数据等多维度信息对用户人脸图像进行智能风险评估、风险评级,迅速识别虚假认证风险。在确认威胁之后,系统支持自动执行防御策略,设备执行命中防御策略之后对应的防御处置,可以有效阻断风险操作。在防御策略管理模块,业务人员可以配置设备维度、异常行为等维度的策略,并支持上线审核等操作。
当前,生成式人工智能正在加速发展,不断催生新场景、新业态、新模式和新市场,作为可持续信赖的网络安全践行者,爱加密坚持发展和安全并重,将技术创新应用于更多的业务安全场景,不断开拓,为不同行业用户提供全面、专业的人工智能安全应用体系,助力生成式人工智能向上向善发展。
上一篇: 没有了