AI模型法律风险解析与合规指引:企业如何规避“智能陷阱”?

ChatGPT掀起全球AIGC军备竞赛,国内大厂竞逐“百模大战”。但技术狂飙背后,某企业因未完成算法备案被网信办约谈【1】、某AI绘画平台因数据侵权遭集体诉讼【2】等案例频现——企业如何在创新与合规间找到平衡点?本文结合最新法规与实务案例,为企业梳理AI模型开发与应用中的合规要点。

、 准入资质:构筑AI商业化的第一道防火墙
合规要求
1.算法备案:根据《生成式人工智能服务管理暂行办法》第17条及《互联网信息服务算法推荐管理规定》第24条,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应在AI模型上线起十个工作日内完成算法备案手续,且备案结果应在显著地方予以公示。2.安全评估:根据《生成式人工智能服务管理暂行办法》第17条及《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第3条,利用生成式人工智能技术向境内公众提供生成内容服务,且提供具有舆论属性或者社会动员能力的生成式人工智能服务的组织、个人,需要在AI模型上线前完成模型的安全评估。

3.牌照资质:除了相关的算法备案和安全评估手续,AI模型相关产品在进入市场前,还必须依照相关法律规定取得相应的资质证照。例如,如果AI模型相关产品提供的服务属于经营性互联网信息服务,则需要取得ICP证,如果AI模型相关产品提供电商服务平台服务的,需要取得EDI证。

合规路径
  1.依照相关法律规定,及时向网信部门履行算法备案和安全评估手续,并取得相应的其他牌照资质。  2.定期更新备案信息,确保备案内容的准确性和完整性。如果模型发生重大变更或迭代,应及时重新备案。

二、数据治理:破解AI训练的“原罪”难题
风险警示
根据《生成式人工智能服务管理暂行办法》第7条,生成式人工智能服务提供者在进行模型训练时所应当履行的合规义务,其应当使用具有合法来源的数据和基础模型,不得侵害他人依法享有的知识产权,涉及个人信息的应当取得个人的同意或者符合法律、行政法规规定的其他情形。实践中,违反训练数据合规义务的风险包括但不限于以下风险:

(1)AI 模型开发者使用爬虫等手段绕过或违反目标平台的Robots协议等技术限制的,可能构成侵犯著作权、不正当竞争等民事侵权行为,严重时还可能触犯非法侵入计算机信息系统罪、破坏计算机信息系统罪、非法获取计算机信息系统数据罪等刑事责任。

(2)在个人信息方面,未经授权爬取或过度收集个人信息的行为可能违反《网络安全法》、《个人信息保护法》等法律规定。

(3)未经他人同意使用他人享有版权的作品进行模型训练在我国法律项下尚未明确能否构成合理使用,可能侵犯版权作品的复制权和改变权等。

合规路径
企业应建立健全训练数据合规审查机制,例如:
三、内容风控:把牢AI输出的“安全阀门”
风险警示
1.内容安全:根据《生成式人工智能服务管理暂行办法》第4条,模型服务提供者需保证服务生成内容合规,承担对服务生成内容的审核义务。2.版权风险:AI生成内容与他人在先的版权作品构成实质性相似,导致侵权风险。如广州互联网法院判例(2024)粤0192民初113号认为AI生成的奥特曼图像与正版奥特曼图像构成实质相似,判定模型服务提供方承担侵权责任。

3.标识义务:根据《生成式人工智能服务管理暂行办法》第12条和《互联网信息服务深度合成管理规定》第17条,AI模型服务提供者在提供可能导致公众混淆或者误认的深度合成服务时,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。

4.信息披露义务:AI本身为黑盒,输出的内容可能存在不正确、幻觉、偏见、伦理道德问题等不可控的情形,根据《生成式人工智能服务管理暂行办法》第10条,提供者应当明确并公开其服务的适用人群、场合、用途,指导使用者科学理性认识和依法使用生成式人工智能技术。

合规路径
1.内容安全方面,建立健全AI生成内容审核机制,部署内容安全过滤模型(如关键词屏蔽、图像敏感内容识别);发现违法违规内容时,应当及时采取停止生成、停止传输、消除等处置措施,并向有关主管部门报告。2.版权风险方面:

a)要求模型的技术支持者(开发者)对模型训练资料做不侵权保证;

b)通过调整模型参数,避免模型生成内容和原始版权内容过度相似;

c)建立侵权筛查机制(如使用图像/文本比对工具检测AI生成内容和在线权利内容的相似度);

d)对合作方提供的训练素材进行授权核查(例如图片是否存在不得商用或者限制生成衍生品等限制)。

3.标识义务方面,依法履行AI生成内容标识义务,例如由AI模型生成的广告图片/音视频中显著标识“由人工智能生成”或“由AI生成”等信息。

4.信息披露义务方面,可采用技术手段控制AI的不可控情形,进行输出内容的管控,或在用户协议中加入相关提示和免责声明。

 

四、版权迷局:AI生成内容的权利归属
AI生成内容的权利归属尚存争议,传统著作权法理论认为著作权法仅保护人类的智力成果,AI生成物因缺乏“人类智力投入”而无法获得版权保护。对AI生成的内容需要人类参与到何种程度才能形成独创性贡献以及版权归属,当前并没有形成统一定论。目前北京互联网法院(2023)京0491民初11279号案【3】 认为用户输入提示词等行为可以构成独创性贡献,判定用户为AI生成物的版权人。但该判例出来后引发了法律界和学术界的广泛争议和讨论。

实践中通常会通过用户协议予以明确约定AI生成物的的权利归属、后续利用范围和限制等。如Deepseek用户协议中约定由Deepseek输出内容的任何权利、所有权和利益归属于用户;Kimi用户协议中约定用户使用Kimi所生成内容的版权由用户自行维护并对其独立判断后使用,基于Kimi生成内容产生的任何知识产权问题由用户自行处理。

 

结语
总之,AI模型的应用为企业带来了巨大的机遇,但同时也伴随着诸多法律风险。企业应高度重视各环节的法律风险,严格遵循合规建议,确保业务的稳健发展。希望本文的分析和建议能为企业在AI模型的应用中提供有益的参考。
【1】2024年7月22日,重庆网信部门通报“灵象智问AI”因未经安全测评备案、违规提供生成式人工智能服务,被网信部门依法对运营主体开展执法约谈,责令立即停止相关服务。 【2】2023年12月,四位画师通过个人社交媒体宣布《小红书AI侵权案》已正式立案,起诉小红书的AI模型库侵权。画师们认为小红书旗下的AI绘画产品Trik未经授权使用了他们的原创作品作为训练数据,生成了与原作高度相似的图片,侵犯了创作者的合法权益,该案目前尚未有最终结果。

【3】“AI文生图”著作权案,法院认为从原告构思涉案图片起,到最终选定涉案图片止,这整个过程来看,原告进行了一定的智力投入,比如设计人物的呈现方式、选择提示词、安排提示词的顺序、设置相关的参数、选定哪个图片符合预期等等,且体现出原告的个性化表达,因此原告是涉案图片的作者,享有涉案图片的著作权。

 

作者:

合伙人 张晓宇律师

高级合伙人 沈建人律师