一是违规AI产品。利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序。提供“一键脱衣”等违背法律、伦理的功能。在未经授权同意情况下，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私。二是传授、售卖违规AI产品教程和商品。传授利用违规AI产品伪造换脸视频、换声音频等教程信息。售卖违规“语音合成器”“换脸工具”等商品信息。营销、炒作、推广违规AI产品信息。三是训练语料管理不严。使用侵犯他人知识产权、隐私权等权益的信息。使用网上爬取的虚假、无效、不实内容。使用非法来源数据。未建立训练语料管理机制，未定期排查清理违规语料。四是安全管理措施薄弱。未建立与业务规模相适应的内容审核、意图识别等安全措施。未建立有效的违规账号管理机制。未定期开展安全自评估。社交平台对通过API接口接入的AI自动回复等服务底数不清、把关不严。五是未落实内容标识要求。服务提供者未对深度合成内容添加隐式、显式内容标识，未向使用者提供或提示显式内容标识功能。内容传播平台未开展生成合成内容监测甄别，导致虚假信息误导公众。六是重点领域安全风险。已备案AI产品提供医疗、金融、未成年人等重点领域问答服务的，未针对性设置行业领域安全审核和控制措施，出现“AI开处方”“诱导投资”“AI幻觉”等问题，误导学生、患者，扰乱金融市场秩序。

一是利用AI制作发布谣言。无中生有、凭空捏造涉时事政治、公共政策、社会民生、国际关系、突发事件等各类谣言信息，或擅自妄测、恶意解读重大方针政策。借突发案事件、灾难事故等，编造、捏造原因、进展、细节等。冒充官方新闻发布会或新闻报道，发布谣言信息。利用AI认知偏差生成的内容进行恶意引导。二是利用AI制作发布不实信息。将无关图文、视频拼凑剪辑，生成虚实混杂、半真半假的信息。模糊修改事件发生的时间、地点、人物等要素，翻炒旧闻。制作发布涉财经、教育、司法、医疗卫生等专业领域的夸大、伪科学等不实内容。借助AI算命、AI占卜等误导欺骗网民，传播迷信思想。三是利用AI制作发布色情低俗内容。利用AI脱衣、AI绘图等功能生成合成色情内容或他人不雅图片、视频，衣着暴露、搔首弄姿等软色情、二次元擦边形象，或扮丑风等导向不良内容。制作发布血腥暴力场景，人体扭曲变形、超现实怪物等恐怖诡谲画面。生成合成“小黄文”“荤段子”等性暗示意味明显的小说、帖文、笔记。四是利用AI假冒他人实施侵权违法行为。通过AI换脸、声音克隆等深度伪造技术，假冒专家、企业家、明星等公众人物，欺骗网民，甚至营销牟利。借AI对公众人物或历史人物进行恶搞、抹黑、歪曲、异化。利用AI冒充亲友，从事网络诈骗等违法活动。不当使用AI“复活逝者”，滥用逝者信息。五是利用AI从事网络水军活动。利用AI技术“养号”，模拟真人批量注册、运营社交账号。利用AI内容农场或AI洗稿，批量生成发布低质同质化文案，博取流量。使用AI群控软件、社交机器人批量点赞跟帖评论，刷量控评，制造热点话题上榜。六是AI产品服务和应用程序违规。制作和传播仿冒、套壳AI网站和应用程序。AI应用程序提供违规功能服务，例如创作类工具提供“热搜热榜热点扩写成文”等功能，AI社交、陪聊软件等提供低俗软色情对话服务等。提供违规AI应用程序、生成合成服务或课程的售卖、推广引流等。七是侵害未成年人权益。AI应用程序诱导未成年人沉迷、在未成年人模式下存在影响未成年人身心健康的内容等。

1.恶搞儿童、博取眼球。包括用道具刀假装砍儿童肢体，制造“万万没想到”场景；在孩子身上扔食物、乱涂画，进行所谓“惩罚教育”。2.虚假摆拍、制造争议。部分账号摆拍亲子冲突剧情，让未成年人演绎分手、相亲感悟，教唆孩子模仿成人抽烟。3.不当言行、歪曲导向。在部分短视频中，未成年人频繁展示奢侈品开箱或巨额现金场景，进行网络炫富。有视频打着揭露批判、警示教育的名义，刻意让未成年人演绎不当行为、作出危险动作，发布同质化文案渲染炒作，造成不良示范。4.违规引流、规避打击。部分账号以“举牌”售卖所谓定制图片、发布定制舞蹈等名义，引流添加好友，通过“一对一”交流等隐蔽形式传播低俗色情内容。

1.恶意虚假摆拍问题。打造悲惨人设，假冒新就业群体身份，虚构“苦情”戏，利用公众善意卖惨营销。通过自我包装、作秀等手段，编造“社会名流”“成功人士”等虚假人设和情节，虚夸“爽剧”经历，收割流量牟取利益。打着“助农”“扶贫”名义，编造悲情剧本引流敛财。打造低俗恶俗人设，摆拍编造打架斗殴、谩骂吐脏、无底线骚扰等低俗恶俗内容。2.散布虚假信息问题。以“剪切拼凑”“断章取义”“故意模糊时间地点”“冒用身份”等方式恶意制造不实信息。编造、夸大渲染家庭矛盾、职场冲突、暴力案事件，制造社会焦虑、网络戾气，挑动群体对立。利用“换脸”“换声”“P图”等手段编造不实内容。假借“科普”“解读”名义，或假冒、“碰瓷”权威机构、专家学者，恶意编造、散布涉经济、法律、历史、医学等专业领域虚假信息。3.违背公序良俗问题。以“户外搭讪”“街头采访”等方式尾随陌生路人进行语言、肢体骚扰，或在互动交流中以“撩妹”“相亲”“求吻”等话题为噱头，诱导受访者口述隐晦色情内容。在短视频标题、配文中故意关联低俗、“软色情”字眼或话题，在短视频内容中突出呈现低俗声音、暴露着装、诱惑动作等，刻意制造性暗示、性挑逗氛围诱导用户低俗互动。4.违规引流营销问题。利用“情感交流”“国学文化”“中医养生”“快速致富”等噱头，诱骗老年人等特定群体非理性消费。使用“揭露行业秘密”“曝光行业内幕”“举报行业骗局”“我被行业封杀”等夸张、煽情的“标题党”文案博眼球吸粉引流。打着“网络打假”“维权斗士”等旗号发布虚假“打假”“测评”“探店”内容，误导用户对相关品牌形象、商品质量、服务水平认知。

1.严打挑动互撕、引战的“大粉”“粉头”账号。工作中发现，“时**安”“李**干”“乌**冰”等“粉头”账号频繁侮辱谩骂运动员、教练员，设置所谓“唯粉”标准鼓动“捧一踩一”，有些还打着“维权”等旗号恶意批量举报投诉，甚至组织扰乱公共秩序的线下聚集活动等。网信部门要求网站平台依法依约对存在上述问题的1376个违法违规账号予以关闭处置，同步解散相关违规群组5803个。2.惩处编造谣言、恶意炒作的“自媒体”账号。“贺*龙”“杜*言”“舜**Sean”“春**影”“星**梦”等“自媒体”账号多次炮制有关人员选拔、赛事保障等谣言信息，通过恶意解读赛场行为挑动评论区“骂战”，虚构拼接低俗图文信息炒作“运动员CP”，煽动网民情绪，无底线博取流量。网信部门指导网站平台依法依约对1500余个相关“自媒体”账号采取关闭、禁言和暂停营利权限等措施。3.清理冒用运动员名义的账号群组。据反映，一些人员打着国家队运动员、教练员等旗号开设或者组建专门账号、群组、贴吧和超话，诱导非理性应援，挑动群体对立，甚至借此敛财牟利，对广大网民特别是未成年人造成负面影响。国家队运动员、教练员纷纷发声，明确表示解散粉丝群组，呼吁聚焦赛场、支持体育活动本身。在此基础上，网信部门会同体育主管部门加大管理力度，督促网站平台关闭假冒运动员、教练员开设的账号531个，解散违规建立的粉丝群组3226个、超话1264个、贴吧336个。4.查处一批违规售卖涉运动员商品的商家店铺。在电商和社交平台发现，一些不法分子违法售卖运动员联系方式、证件号码、行程安排等个人信息，一些账号违规提供运动员有偿代拍、私拍活动等商品服务，一些店铺假冒仿冒运动员签名制作所谓“限量版”球拍、运动鞋借机牟取暴利。网信部门督促网站平台进行跨平台联动处置，累计下架违规售卖商品123件，关闭店铺6家。5.及时处置存在不良导向的产品功能。网信部门督促网站平台密切跟踪研究网上体育饭圈问题新情况、新表现，动态调整优化产品功能和社区规则。工作发现，个别平台违规上线对运动员容貌、人气进行恶意评比的榜单，推出诱导网民刷量控评、应援集资的“签到”“打卡”等功能。网信部门督促相关平台深入开展整改，及时下线违规产品功能，有力遏制相关问题反弹风险。