3月27日,抖音安全中心发布《抖音关于不当利用ai生成虚拟人物的治理公告》称,日前,抖音站内仍有不当使用ai技术,生成虚拟人物发布内容的账号,平台进行了严厉处置。
去年,抖音发布《关于人工智能生成内容的平台规范暨行业倡议》,明确平台不鼓励利用ai生成虚拟人物进行低质创作,将严格处罚违规使用ai生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
日前平台发现,站内仍有不当使用ai技术生成虚拟人物发布内容的账号,平台进行了严厉处置。
其中典型行为包括:
1、生成境外虚假人设,消费爱国心理、博取关注。用虚假外国人的形象,以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。
2、生成俊男美女虚假形象,骗取互动,交友导流。直接称用户为“你”“娘”“妈妈”“老公”等,发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容,将用户导流至私人聊天工具,甚至进行诈骗。
3、生成精英人士虚假人设,发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容,低质吸粉,甚至引流到站外以卖课、入群等方式获利。
针对违规使用ai生成虚拟人物的行为,平台会对违规视频下架,对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置,并利用模型、技术识别能力等手段,进行长期系统的识别发现和处置。
同时,平台已掌握部分黑产团伙不当使用ai生成虚拟人物用于犯罪的线索,将报警打击。
人工智能技术的快速发展,丰富了互联网内容生态,但也带来技术滥用的挑战。平台重申,创作者、主播、用户、商家、广告主等平台生态参与者,在抖音应用生成式人工智能技术时,须遵循以下规范:
1、发布者应对人工智能生成内容进行显著标识,帮助其他用户区分虚拟与现实,特别是易混淆场景。
2、发布者需对人工智能生成内容产生的相应后果负责,无论内容是如何生成的。
3、虚拟人需在平台进行注册,虚拟人技术使用者需实名认证。
4、禁止利用生成式人工智能技术创作、发布侵权内容,包括但不限于肖像权、知识产权等。一经发现,平台将严格处罚。
5、禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现,平台将严格处罚。
治理违规内容是抖音的长期工作,平台号召广大用户共同监督,如发现不当使用人工智能生成内容的情况,可以在站内举报或发送详情至举报邮箱:feedback@douyin.com,平台将在第一时间核实处理。
抖音安全中心
2024年3月27日
此外,3月26日,微信安全中心发布《针对在微信使用“外挂”行为的打击公告》,《公告》指出,微信明确禁止使用各类外挂。
日前有部分用户存在多次违规使用外挂软件,或在朋友圈发布外挂售卖信息的行为。对此,微信安全团队进行了专项清理,并将持续加大清理力度。
![](/uploads/image/njc7w20240328/8e39-ce6384acff772c876ed9bcdeba803698.png)
上述行为一经发现确认,微信将依据国家相关法律法规及《腾讯微信软件许可及服务协议》《微信个人账号使用规范》,根据违规严重程度进行阶梯式处理;对于多次违规者,将加重处罚。
![](/uploads/image/njc2w20240328/dfd3-5fd9aee59dd445573dbbda63b59a96c1.png)
![](/uploads/image/njc7w20240328/8786-fb3d2756f1a4679d0f03908580bd6563.png)
常见的微信外挂类型
一类是以各种噱头诱导用户直接下载使用的:
-
一键转发朋友圈:可以批量转发朋友圈图文以及好友发送过来的短视频;
-
android模拟器:在电脑上模拟手机端登录微信,实现和微信手机端一样的操作;
-
红包外挂:当微信收到红包消息之后,自动完成微信抢红包的操作;
-
皮肤微信:可以更换微信logo图标,自定义微信主题;
-
微信多开:在一台设备上使用多个微信号。
另一类是利用群控技术开发的外挂,通常被包装成“微营销”神器:
-
微信群控:通过虚拟定位、批量打招呼等方式,实现批量添加好友,自动化批量发朋友圈,一键点赞,一键评论等功能;
-
微信机器人:微信群营销,实现定时群发,自动回复,自动聊天等控制功能。
外挂软件不仅破坏了微信平台的生态平衡和正常运营,还为恶意营销行为提供了便利条件,对正常用户造成骚扰。
而且使用外挂软件存在多种风险:
-
有隐私风险:外挂软件存在收集泄露用户隐私信息、盗取用户账号密码等风险;
-
威胁财产安全:很多外挂软件还会植入木马病毒,使用外挂可能被坏人利用,威胁资金安全;
-
被利用骚扰别人:可能在不知情情况下,被利用来骚扰别人,影响好友关系;
-
助长坏人犯罪:容易被违法犯罪分子利用,用以发布不良信息、实施欺诈,助长违法犯罪的发生;
-
影响使用微信的稳定性:外挂软件可能缺乏稳定性,容易造成微信运行崩溃,进而引起聊天内容或其他重要数据丢失等风险。
微信安全中心表示:
请从官方渠道下载微信客户端,不要使用具有多开、自动抢红包、一键群发等功能的“李鬼”微信,也不要使用其他破坏微信软件或具有外挂功能的插件及软件;如果你目前正在使用外挂,请马上卸载。
来源:微信安全中心、抖音安全中心