QQ第一季度平台累计打击违规账号411万个

2024-05-24 5月24日，腾讯QQ发布2024第一季度QQ平台生态治理公告。公告显示，第一季度平台累计打击违规账号411万个，并重点整治涉网络赌博、诈骗、未成年人负面影响的有害内容。

具体来看，整治赌博活动方面，2024年第一季度，QQ共封禁或限制账号功能30万个，封禁群组5.3万个；对于涉嫌多次违规的账号，也将加重处罚力度。网络诈骗方面，2024年共处置诈骗账号189万个。涉未成年人违法和不良信息方面，共处置有害信息15.6万条，处置有害账号及群组29.6万个。

互联网产品所面临的主要挑战之一是网络黑灰产的持续作恶。大数据、人工智能、区块链等新技术、新业态的发展，也使得网络黑产非法牟利的技术和手段不断变形升级。

QQ安全团队称，为了有效对抗黑灰产，在充分保障用户隐私的情况下，利用安全大数据、社交图计算、安全多模态大模型等手段构建了一套全方位的安全技术防御体系，实现上游严格管控黑灰产账号资源、中游及时准确识别各类风险、下游精准打击处置违规内容。随着新版QQ安全加固的落地，其针对所有端的协议都完成了自动化管理覆盖，平台整体风险流量相比2022年初下降超90%。

据介绍，以违规内容识别打击为例，借助大模型对通识和社交知识的学习积累和应用能力，QQ平台能够准确鉴别各类色情低俗内容。针对“AI换脸”新型诈骗，平台也储备了异常环境检测、风险账号识别和异常操作分析等多重技术手段，一旦出现此类风险可以对疑似被诈用户下发提醒或直接拦截阻断，保障用户隐私和财产安全。

同时，平台还根据不同用户特点，在“加好友、加群、沟通、分享屏幕”等业务场景部署多重安全防护措施，通过安全弹框、状态栏消息、公众号推送等多种形式的安全提醒每天触达约30余万名用户，及时有效提醒广大用户警惕网络风险。