7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。以ChatGPT为代表的生成式人工智能在社会变革中具有重要作用，但其可能存在数据违法收集、知识产权侵权、生成虚假信息等问题不容忽视。

近期屡屡登上热搜的“AI换脸”、“一键脱衣”是基于生成式人工智能技术生成虚假信息的典型案例。“一键脱衣”类文章，详见前文《科技向善|触碰法律底线的AI黑科技，该退场了》。生成式人工智能服务产生的内容逼真度高、迷惑性强，极易误导用户，容易传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。

目前，“AI换脸”诈骗频繁发生，主要有冒充熟人诈骗钱款、冒充明星虚假宣传、盗开账户诈骗钱款等手法。不法分子利用AI技术，通过声音合成，伪造成特定人物的声音，通过AI换脸，伪装成特定人物，实时与他人进行视频通话。更换后的面部表情自然，以假乱真，有人被骗走数百万，而生成露脸说话视频成本极低，且只需提供正面照就能生成视频，不仅眼睛、嘴巴、头会动，如果提供文字口型也能对上，一个晚上就能完工。

深度伪造是人脸识别系统主流攻击手段，另一主流手段为对抗样本。

1.深度伪造：可让攻击者基于受害者静态照片冒充受害者通过人脸识别。有人脸核身深度伪造、实时音视频伪造等。

2.对抗样本：通过对抗贴纸让攻击者冒充受害者欺骗人脸识别。

攻击者A佩戴对抗贴纸被识别为B

生成式人工智能技术带来的人脸识别风险，涉及登陆、注册、修改密码、找回密码、额度调整、信用卡激活、银行卡绑定、远程投保、证券开户、保险理赔等多种业务场景。

针对企业在业务场景中遇到的安全隐患，爱加密推出“查、打、防”三位一体的人工智能安全应用体系，从人工智能应用的生命周期进行检测、治疗和预防。

查-检测：采用主流、最前沿的安全测评方法对指定人工智能系统进行测试 ，提供全面的测评服务和可视化的测评报告。

打-治疗：通过对输入样本安全进行检测 ，识别输入信息的真伪度 ，从而提升 AI 模型的安全性 ，打击对AI系统攻击的不法行为。

防-预防：利用多种算法、扰动、迭代次数综合评价AI模型的安全性 ，实战化的攻防训练靶场 ，持续提升AI防御能力。

爱加密人脸安全综合防护系统，通过人脸环境监测信息、活体识别、图像鉴伪、智能核身、反诈数据等多维度信息对用户人脸图像进行智能风险评估、风险评级，迅速识别虚假认证风险。在确认威胁之后，系统支持自动执行防御策略，设备执行命中防御策略之后对应的防御处置，可以有效阻断风险操作。在防御策略管理模块，业务人员可以配置设备维度、异常行为等维度的策略，并支持上线审核等操作。

当前，生成式人工智能正在加速发展，不断催生新场景、新业态、新模式和新市场，作为可持续信赖的网络安全践行者，爱加密坚持发展和安全并重，将技术创新应用于更多的业务安全场景，不断开拓，为不同行业用户提供全面、专业的人工智能安全应用体系，助力生成式人工智能向上向善发展。