噩耗！SD3、FLUX.1等开源文生图模型，可能将无法使用

加州议会近日通过的AB-3211法案，可能给开源AI文生图模型的开发者带来巨大挑战。这项法案要求AI生成的内容必须嵌入详细的元数据，以识别其是否由AI生成，并提供相关生成信息。对于开源模型开发者而言，这无疑增加了巨大的技术难度和法律风险。

根据法案规定，如果开源的文生图模型被用于生成误导性或有害的内容，开发者需要承担法律责任。这意味着，即使开发者无法控制模型的最终用途，也可能面临最少2.5万美元，最高10万美元的罚款。此外，法案还要求开源模型必须提供来源检测工具，并进行广泛的对抗性测试，以防止被用于添加虚假来源数据。这些要求无疑大大增加了开源模型的开发和维护难度。

开源AI模型面临的法律困境远不止于此。版权问题是另一个棘手的难题。以美国唱片业协会（RIAA）起诉AI音乐公司Suno和Udio的案例为例，RIAA指控这两家公司未经许可使用已上市发行的音乐训练AI工具，要求每件侵权作品支付15万美元的赔偿金。这凸显了AI训练数据的版权问题。

更复杂的是AI生成内容的著作权归属问题。目前，各国法律普遍认为，只有人类创作的作品才能受到著作权法的保护。这意味着，如果内容完全由AI生成，那么它可能不构成法律意义上的作品。然而，如果人类以AI生成的内容为素材进行再创作，那么这个再创作的成果可以被视为作品。例如，美国版权局在处理《Zarya of the Dawn》漫画的版权登记时，就明确区分了AI生成的图画和人类创作者对文本和图画的选择、编排，后者被视为具有独创性的汇编作品。

面对这些法律困境，开源AI模型的未来发展前景充满不确定性。一方面，严格的法律要求可能会抑制创新，特别是对于资源有限的小公司和独立开发者。另一方面，这也可能推动技术的进步，促使开发者寻找更安全、更合规的解决方案。

对于开源AI模型开发者而言，可能的应对策略包括：加强与版权方的合作，确保训练数据的合法性；开发更先进的内容溯源技术，以满足法案要求；探索新的商业模式，如提供有偿的合规服务等。

无论如何，AB-3211法案的通过标志着AI生成内容的法律监管正在逐步加强。这不仅影响开源AI模型的未来，也将对整个AI产业的发展产生深远影响。在这个AI技术飞速发展的时代，如何在创新与监管之间找到平衡，将是所有参与者面临的共同挑战。