抖音ai人工智能系统违规吗？

抖音近日推出的AI系统引发了广泛关注。这一系统涵盖了视频创作、图文创作和直播创作等多个领域，为用户提供了从智能生成脚本到数字人出镜的一站式解决方案。然而，随着AI技术的广泛应用，其合规性问题也日益凸显。

抖音AI系统的主要功能包括智能生成视频图文、直播背景和数字人等。例如，用户只需输入商品信息，系统就能自动生成营销文案和视频内容。此外，AI数字人功能还能帮助商家解决真人出镜的难题。这些功能大大提升了内容创作的效率，为用户带来了便利。

然而，AI系统的广泛应用也带来了潜在的违规风险。根据抖音发布的公告，近期平台发现有不当使用AI技术生成虚拟人物发布内容的账号。这些违规行为主要包括：

1. 生成虚假人设，消费爱国心理、博取关注。例如，用虚假外国人的形象，以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。

2. 生成俊男美女虚假形象，骗取互动，交友导流。直接称用户为“你”“娘”“妈妈”“老公”等，发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。

3. 生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。

针对这些违规行为，抖音采取了严厉的处置措施。平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。同时，平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。

从法律法规的角度来看，国家网信办等七部门联合发布的《生成式人工智能服务管理暂行办法》为AI系统的应用提供了明确的指导。该办法要求AI服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。此外，提供者还应当与注册其服务的生成式人工智能服务使用者签订服务协议，明确双方权利义务。

抖音在应对AI系统违规问题方面采取了积极措施。平台明确要求创作者、主播、用户、商家、广告主等平台生态参与者在应用生成式人工智能技术时，须遵循以下规范：

1. 发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。

2. 发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。

3. 虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。

4. 禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。

5. 禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。

抖音AI系统的推出无疑为用户带来了便利，但同时也带来了新的挑战。平台需要在鼓励创新和规范应用之间寻求平衡，确保AI技术的健康发展。用户在使用AI工具时也应提高警惕，遵守相关法律法规，共同营造健康的网络环境。