警惕“AI合成”滥用存多重风险 亟待立法规范强化监管

人工智能合成技术的快速发展正在带来前所未有的机遇，但同时也伴随着多重风险。 从深度伪造到知识产权侵权，AI合成内容的滥用正在对个人隐私、社会安全和文化创新构成严重威胁。面对这一挑战，全球主要经济体正在加速推进相关立法，以规范AI合成技术的应用。

美国国会近期通过的《内容来源保护和防止编辑和深度伪造媒体完整性法案》 （简称“COPIED法案”）被视为AIGC监管的新篇章。该法案要求美国国家标准与技术研究所（NIST）制定新的标准和水印系统，为标记、认证和检测人工智能生成的内容制定新的联邦透明度准则。更重要的是，法案赋予了个人创作者和内容所有者直接起诉未经许可使用其创作内容的人工智能公司的权利。

与此同时， 欧盟也在积极推进AI立法。 7月12日，欧盟理事会通过了《人工智能法案》的最终版本，该法案将于2024年8月1日在欧盟范围内生效。作为全球首部全面规范人工智能的法律，该法案将AI系统分为四个风险级别，并对不同级别的AI系统设定了相应的监管要求。例如，对于“高风险”AI系统，法案规定了严格的监管与合规要求，确保技术发展与人类福祉相适应。

这些立法举措反映了各国政府对AI合成技术潜在风险的高度重视。然而， AI合成技术的监管仍面临诸多挑战。 首先，技术的快速发展使得立法往往滞后于实践。其次，AI合成内容的识别和溯源仍存在技术难题。再者，如何在保护创新和防止滥用之间找到平衡，仍是一个需要不断探索的问题。

面对这些挑战， 加强国际合作显得尤为重要。 正如欧盟《人工智能法案》可能成为其他司法管辖区人工智能法律或法规的蓝本一样，各国在AI合成技术监管方面的经验也需要相互借鉴。同时，国际社会还需要共同制定AI合成技术的伦理准则和技术标准，以应对跨国界的AI合成内容滥用问题。

AI合成技术的发展正在重塑我们的社会和文化生态。如何在享受技术红利的同时，有效防范其潜在风险，需要政府、企业和公众的共同努力。只有通过持续的立法完善、技术创新和公众教育，我们才能构建一个安全、可信、可持续的AI生态系统，让AI合成技术真正造福人类社会。