你用 Midjourney 生成的图版权归谁用 ChatGPT 写的文章能标原创吗用 AI 换脸做视频踩了哪些法律红线本文从技术开发者、内容创作者、企业合规三个视角系统梳理 AI 生成内容的法律风险与合规实践。目录前言AI 的版权困局比你想象的更紧迫第一章AI 生成内容的版权归属——法律界的头号争议第二章AI 绘画——从训练数据到生成输出的版权迷局第三章AI 文案——原创性认定与学术诚信边界第四章深度伪造——技术滥用与刑事责任红线第五章中国 AI 监管法规体系全景解读第六章全球 AI 立法对比速览第七章开发者与内容创作者的合规实操指南总结AI 时代的版权思维模型前言AI 的版权困局比你想象的更紧迫2023 年以来全球范围内 AI 版权诉讼激增2023 年 1 月三位艺术家起诉 Stability AI、Midjourney、DeviantArt指控其未经许可使用艺术家作品训练模型2023 年 9 月《权力的游戏》作者乔治·RR·马丁等 17 位作家起诉 OpenAI指控 ChatGPT 使用盗版书籍训练2023 年 12 月《纽约时报》起诉 OpenAI 和微软指控数百万篇文章被用于训练 GPT 模型2024 年 2 月美国版权局明确表示纯 AI 生成内容不受版权保护2024 年 6 月中国北京互联网法院作出全国首例AI 生成图片著作权案判决认定有独创性智力投入的 AI 生成图片受著作权法保护与此同时深度伪造诈骗案件也呈爆发式增长2024 年初香港某跨国公司 CFO 被深度伪造视频诈骗转账 2 亿港币。诈骗者用 AI 合成了公司高管的多人视频会议画面和声音。技术飞速发展法律的滞后性前所未有地暴露。作为技术开发者、内容创作者和企业你必须比法律多想一步。本文将在现行法律框架下尽可能明确地告诉你什么能做、什么有风险、什么是绝对红线。第一章AI 生成内容的版权归属——法律界的头号争议1.1 核心问题AI 生成的内容版权归谁这个问题看似简单实则涉及三层递进式的法律难题第一层AI 本身能不能成为作者 ↓ 第二层AI 的使用者能不能成为作者 ↓ 第三层如果使用者是作者AI 训练数据的版权方有没有权利1.2 各国现行立场一览国家/地区核心立场标志性事件/法规美国纯 AI 生成内容不受版权保护有人类创造性贡献的可以保护2023 年 3 月美国版权局《版权登记指南包含 AI 生成材料的作品》中国有独创性智力投入的 AI 生成内容可以受保护纯 AI 生成的不保护2024 年北京互联网法院首例 AI 图片著作权案欧盟AI 生成内容需标注版权归属尚在立法讨论中EU AI Act2024 年通过英国1988 年 CDPA 规定计算机生成作品的作者是为创作做出必要安排的人但 2024 年面临修订1988 年《版权、设计和专利法》第 9(3) 条日本允许为训练目的使用版权作品2024 年修订案中维持但不允许侵权输出2024 年《著作权法》修正案1.3 中国首例 AI 图片著作权案的里程碑意义案件概要北京互联网法院2024 年项目详情案情原告使用 Stable Diffusion 生成了一张图片并发布在小红书被告未经许可转载使用争议焦点AI 生成的图片是否构成作品原告是否享有著作权法院认定原告在提示词设计、参数调整、筛选修改过程中投入了独创性智力劳动该图片构成著作权法意义上的作品判决结果被告侵权赔偿原告 500 元 公开道歉关键启示中国法院的裁判逻辑是看人的投入而不是看工具。如果你只是输入一句话如画一只猫AI 一键出图 →不受保护如果你精心设计提示词、反复调整参数、多轮筛选优化 →可能受保护这个判例为 AI 创作提供了重要的法律参照但不是每个 AI 生成物都能自动获得版权保护。独创性智力投入的程度是争议的核心。第二章AI 绘画——从训练数据到生成输出的版权迷局2.1 训练数据的版权争议AI 绘画模型Stable Diffusion、Midjourney、DALL·E需要在海量图片上训练。这些图片从哪里来LAION-5B 数据集Stable Diffusion 的训练数据来源之一从互联网抓取了 58.5 亿张图片及其文本描述。其中包含大量受版权保护的作品。争议核心 ┌─────────────────────────────────────────────────────────┐ │ │ │ 模型方这是合理使用Fair Use—— │ │ 模型学的是风格、规律、统计分布不是复制具体作品 │ │ │ │ VS │ │ │ │ 艺术家/版权方你们未经许可拿了我的作品做商业产品—— │ │ 不管你内部怎么学我的作品被白用了是事实 │ │ │ └─────────────────────────────────────────────────────────┘2.2 三大主流 AI 绘画工具的商业使用条款工具免费/个人使用版权付费用户版权训练数据声明侵权赔偿条款Midjourney不可商用拥有作品版权可商用未公开训练数据来源无明确赔偿承诺DALL·E (OpenAI)拥有生成内容所有权同左授权数据 公开数据无Stable Diffusion开源CC0 公共领域基本不主张权利—公开LAION—Adobe Firefly可商用同左Adobe Stock 授权内容 公共领域版权最干净IP 赔偿承诺国内平台各平台条款不同需逐平台确认不透明一般不承诺⚠️重要提醒平台声称你拥有版权不代表这个版权在法律上有绝对保障。如果模型训练数据本身侵权输出内容可能面临衍生侵权风险。Adobe Firefly 是目前唯一提供 IP 侵权赔偿承诺的主流工具但仅限于企业版用户。2.3 用 AI 绘画的六大风险场景风险场景风险等级具体说明生成与现有作品高度相似的图 高AI 可能记忆了训练集中的特定作品输出近似复制品生成含他人商标/形象 高比如生成米老鼠风格的内容迪士尼法务部不是开玩笑的生成含真实人物肖像 高侵犯肖像权名人还会追讨商业损失用他人作品做 img2img 高未经许可将他人作品作为输入进行二次创作侵权风险极大训练 LoRA 使用他人作品 中用 20 张某画师的作品训练 LoRA 来模仿其风格法律灰色地带商用但平台条款模糊 中使用条款可能变更需定期复查2.4 实操安全法则✅ 安全做法 1. 用于灵感参考、内部讨论 → 风险最低 2. 生成后做实质性修改非简单调色/裁剪→ 增加人类创作成分 3. 使用版权干净的训练数据工具如 Adobe Firefly 4. 避免在提示词中指定XX 艺术家风格或XX 角色 5. 商业用途时保留创作过程记录提示词、参数、修改步骤 6. 生成内容上线前做反向图片搜索排查与现有作品的高度相似 ❌ 绝对红线 1. 用 AI 直接临摹特定在世艺术家的作品并商用 2. 生成知名 IP 角色米老鼠、皮卡丘等商用 3. 用他人照片生成肖像并公开发布 4. 声称 AI 绘画是纯手工原创涉嫌虚假宣传第三章AI 文案——原创性认定与学术诚信边界3.1 AI 写的东西能标原创吗法律层面中国《著作权法》保护的是具有独创性的智力成果。如果你只是输入写一篇关于春天的散文AI 输出 → 你的智力贡献太低难认定为你的作品你提供了详细大纲、核心观点、独特素材AI 只是辅助成文 →更有机会被认定为你享有著作权平台规则层面平台对 AI 生成内容的态度微信公众号不禁止但原创声明仅适用于独立创作内容CSDN / 掘金要求标注 AI 辅助创作纯 AI 内容可能被限流知乎对 AI 生成内容有明确标识要求禁止批量 AI 刷文小红书算法可识别 AI 生成内容影响推荐权重亚马逊 Kindle要求作者主动声明 AI 使用情况学术期刊大多数不允许 AI 列为作者但允许 AI 辅助需声明3.2 学术与职场中的 AI 使用边界场景可以使用 AI需要声明绝不能使用润色自己的论文草稿✅建议-让 AI 直接生成论文全文--❌ 学术不端用 AI 生成代码并提交作业⚠️ 看学校规定必须-用 AI 辅助写工作报告✅ 常见看公司规定-用 AI 生成的数据直接用于决策--❌ 未经验证的 AI 数据让 AI 帮你回复邮件✅不需要-3.3 AI 检测工具的可靠性当前主流 AI 文本检测工具包括 GPTZero、Turnitin AI Detection、Originality.ai 等。关键数据检测工具对 GPT-4 生成文本的检出率误报率将人类文本判为 AIGPTZero~85%~5%Turnitin AI~80%~1%论文场景优化OpenAI 官方检测器已下架2023.7准确率太低⚠️核心风险AI 检测工具并非可靠证据。OpenAI 自己的检测器因准确率过低而下架。在学术纠纷中仅凭 AI 检测报告判定学术不端存在重大争议。不要过度依赖检测工具更不要用检测结果作为唯一标准去指控他人。第四章深度伪造——技术滥用与刑事责任红线4.1 什么是深度伪造Deepfake深度伪造是指利用深度学习技术主要是 GAN、AutoEncoder、Diffusion 等生成或篡改音视频内容使其中的人物表现出未曾发生过的言行。深度伪造技术图谱 ├── 人脸替换Face Swap │ └── 将 A 的脸换到 B 的身体上 → 最常见、最危险 │ ├── 人脸重现Face Reenactment │ └── 操纵面部表情使其说出从未说过的话 │ ├── 语音克隆Voice Cloning │ └── 仅需 3~10 秒音频即可克隆任何人的声音 │ ├── 全身深度伪造Full Body Deepfake │ └── 生成整个人物视频包括动作和背景 │ └── 唇形同步Lip Sync └── 修改视频中的口型以匹配新的音频4.2 法律责任体系中国法律相关条款处罚《刑法》第 246 条诽谤罪最高 3 年有期徒刑《刑法》第 363~367 条制作、传播淫秽物品罪最高无期徒刑情节特别严重《民法典》第 1019 条肖像权——不得利用信息技术手段伪造他人肖像民事赔偿 停止侵害《民法典》第 1024 条名誉权——不得侮辱、诽谤他人民事赔偿《民法典》第 1032 条隐私权民事赔偿《个人信息保护法》非法处理人脸、声音等生物识别信息最高 5000 万元或年收入 5% 罚款《数据安全法》非法收集、使用数据行政罚款 刑事责任《互联网信息服务深度合成管理规定》2023.1 施行专门针对深度合成服务的法规行政处罚 刑事责任《生成式人工智能服务管理暂行办法》2023.8 施行生成式 AI 服务的综合监管行政处罚 刑事责任4.3 《深度合成管理规定》核心要点2023 年 1 月 10 日起施行的《互联网信息服务深度合成管理规定》是中国首个专门针对深度伪造的行政法规。关键条款条款内容影响显著标识深度合成服务提供者必须对生成内容进行显著标识避免公众混淆所有 AI 生成内容必须标注信息可追溯需记录并保存深度合成内容的相关日志信息不能匿名发布 AI 内容辟谣机制建立健全辟谣机制发现不实信息及时处置平台承担治理责任安全评估具有舆论属性或社会动员能力的服务需进行安全评估大平台上线前需审批禁止造假不得利用深度合成制作、复制、发布、传播违法和不良信息直接禁止恶意深度伪造用户实名深度合成服务需基于移动电话号码、身份证号等进行真实身份认证几乎等同于实名制4.4 深度伪造的真实案例案例类型后果香港 CFO 诈骗案2024视频会议深度伪造被骗 2 亿港币全球首次多人深度伪造视频诈骗美国女星深度伪造色情视频恶意换脸色情引发全美多州立法禁止深度伪造色情内容印度政客选举深度伪造政治造谣引发大规模舆情印度选举委员会紧急介入某公司 CEO 语音被克隆语音诈骗财务人员被骗转账 24 万美元Taylor Swift AI 不雅照事件2024AI 生成色情图像X/Twitter 临时禁用相关搜索美国国会加速立法4.5 开发者和平台的合规红线 绝对禁止刑事责任 - 制作、传播他人的深度伪造淫秽内容 - 利用深度伪造进行诈骗、敲诈勒索 - 制作散布政治性深度伪造虚假信息 - 未经许可采集人脸、声纹信息用于模型训练 高度受限需审批/许可 - 提供深度合成 API/SaaS 服务 → 需备案 安全评估 - 训练人脸/声音相关模型 → 需合法数据来源 隐私保护评估 - 发布人脸/声音相关开源模型 → 需考虑滥用风险 使用限制条款 可以但需规范 - 内部研究和技术验证 → 使用公开合规数据集 - 泛化的图像生成服务 → 移除真实人脸生成能力 or 做内容审核 - 教育目的展示 → 使用授权素材 or 公共人物公开影像第五章中国 AI 监管法规体系全景解读5.1 三层法规体系第一层基础法律 ├── 《网络安全法》 2017.6.1 施行 ├── 《数据安全法》 2021.9.1 施行 └── 《个人信息保护法》 2021.11.1 施行 第二层专项规定 ├── 《互联网信息服务算法推荐管理规定》 2022.3.1 施行 ├── 《互联网信息服务深度合成管理规定》 2023.1.10 施行 ★ └── 《生成式人工智能服务管理暂行办法》 2023.8.15 施行 ★★ 第三层标准与指南 ├── 《人工智能伦理安全风险防范指引》 ├── 《生成式人工智能服务安全基本要求》TC260 └── 各行业主管部门的细则文件5.2 《生成式人工智能服务管理暂行办法》核心条款这是当前中国 AI 监管的基石性法规2023 年 8 月 15 日起施行。条款核心要求第四条提供和使用生成式 AI 服务应遵守法律、尊重社会公德和伦理坚持社会主义核心价值观第四条五不得生成煽动颠覆国家政权、危害国家安全、恐怖主义、极端主义、民族仇恨、暴力、淫秽色情等内容第四条四应采取有效措施防止产生对民族、信仰、国别、地域、性别、年龄、职业、健康等的歧视第七条训练数据应具有合法来源不得侵害他人知识产权数据中包含个人信息的应取得同意第十二条提供者应当对生成内容进行标识第十五条提供者应当接受社会监督设置便捷的投诉举报入口第十六条提供者应配合有关主管部门的监督检查按要求提供技术数据信息关键理解这个办法主要规制的是面向中国境内公众提供生成式 AI 服务的行为。如果你只是个人学习研究、内部使用、不对外提供服务法定义务会少很多。但一旦你公开提供服务合规要求将全面激活。第六章全球 AI 立法对比速览6.1 三大主要法域对比维度中国欧盟美国核心法规《生成式 AI 服务管理办法》EU AI Act行政令为主各州分散立法监管思路事前备案 内容审查 持续监管风险分级四级不可接受/高/有限/最小行业自律 事后追责为主训练数据版权要求合法来源禁止侵权要求公开训练数据摘要争议中Fair Use 辩论核心内容标识要求必须标识必须标识自愿为主行政令建议对开源模型的态度未单独规定豁免条件待明确有豁免条款非系统性风险的开源模型2024 年多次行政令提及开源风险面部识别禁止严格限制公共场所无差别采集禁止实时远程生物识别执法例外部分州已禁止如 IL、TX处罚力度罚款 刑事责任 服务关停最高全球年收入 7% 或 3500 万欧元视违法行为而定最高数亿美元如 FTC6.2 关键趋势判断2024~2025 全球 AI 立法五大趋势 1. 训练数据透明化 → 欧盟已要求中国在推进美国在讨论 2. AI 生成内容标识 → 全球共识技术实现方式不同 3. 高风险 AI 准入审批 → 欧盟率先分级中美可能跟进 4. 深度伪造刑事化 → 各国加速立法刑责力度加大 5. 开源模型监管分歧 → 欧盟趋向豁免中美态度待明确第七章开发者与内容创作者的合规实操指南7.1 如果你是 AI 工具开发者合规清单面向中国境内提供服务 □ 算法备案 - 在互联网信息服务算法备案系统完成备案 - 适用于生成合成类、个性化推送类、排序精选类算法 □ 安全评估 - 具有舆论属性或社会动员能力的服务需提交安全评估报告 - 参考《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》 □ 内容审核 - 建立实时内容过滤机制敏感词、违规图像识别 - 建立用户举报→审核→处理闭环 □ 内容标识 - 在生成内容中嵌入显式/隐式标识 - 让用户明确知道此内容由 AI 生成 □ 数据合规 - 训练数据来源合法保留数据来源记录 - 用户数据采集遵循最小必要原则 - 个人信息出境的需通过安全评估 □ 用户协议 - 明确告知用户数据使用方式 - 明确生成内容的知识产权归属条款 - 禁止用户利用你的服务从事违法活动 □ 未成年人保护 - 确认用户年龄或监护人同意 - 对人脸、声音等敏感生成能力做年龄限制7.2 如果你是企业用户不同场景的 AI 使用合规框架 ┌─────────────────────────────────────────────────────────────┐ │ 场景 │ 核心风险 │ 应对措施 │ ├─────────────────────────────────────────────────────────────┤ │ AI 生成营销文案 │ 虚假宣传、侵犯竞品权益 │ 人工审核 事实核查 │ │ AI 生成宣传图片 │ 版权侵权、肖像侵权 │ 选版权干净工具 反向检索 │ │ AI 客服机器人 │ 错误信息导致损失 │ 免责声明 人工兜底 │ │ AI 内部数据分析 │ 数据泄露 │ 本地部署或私有化方案 │ │ AI 写代码部署到产品 │ 未知 License 污染、安全漏洞 │ 代码审查 License 扫描 │ │ AI 生成合同/法律文件 │ 法律效力不足 │ 律师审核后才能签署 │ │ AI 面试/评测 │ 歧视、合规风险 │ 人工终审 可解释性记录 │ └─────────────────────────────────────────────────────────────┘7.3 如果你是内容创作者✅ 推荐做法 1. 在作品中明确标注部分内容由 AI 辅助生成 2. 保留创作过程记录提示词历史、修改版本 3. 商业用途时选择版权条款清晰的工具 4. AI 生成的事实性内容做独立核实 5. 涉及真实人物时取得授权后再发布 6. 定期复查所用 AI 工具的 Terms of Service 更新 ❌ 不要做的事 1. 把 AI 生成内容标为100% 原创 2. 用 AI 生成与特定在世艺术家高度相似的风格并宣称是自己的 3. 在未经许可的情况下用他人肖像做 AI 生成 4. 将 AI 生成的虚假信息当作事实发布 5. 使用来路不明的 AI 模型可能包含恶意代码或后门7.4 被侵权了怎么办如果你发现自己的作品被用于 AI 训练或生成侵权内容 维权路径中国 ├── Step 1保全证据截图、录屏、公证 ├── Step 2向平台投诉要求删除侵权内容或下架模型 ├── Step 3向网信办举报12377 ├── Step 4向版权局投诉 ├── Step 5向法院起诉著作权侵权 / 肖像权侵权 / 不正当竞争 └── Step 6报警如果涉及刑事犯罪如恶意深度伪造诈骗 建议收集证据清单 ├── 被侵权的原始作品 时间戳证明 ├── AI 生成侵权内容的截图或链接 ├── 能证明 AI 模型使用了你的作品进行训练的证据如有 ├── 侵权行为造成的影响传播数据阅读量、转发量等 └── 经济损失证明如商业授权费损失总结AI 时代的版权思维模型核心三原则原则一人本原则 → 版权保护的是人的智力劳动不是AI 的运算结果 → 你的智力投入程度决定了你能主张多少权利 原则二透明原则 → 坦率标注 AI 参与程度是当前最稳妥的自我保护方式 → 不透明在法律纠纷中永远是减分项 原则三尊重在先权利原则 → AI 不能成为侵犯他人版权、肖像权、名誉权的合法外衣 → 用 AI 侵权责任在人不在 AI一张合规风险地图风险矩阵风险 可能性 × 影响程度 可能性高 ↑ │ 用 AI 写文章不标注 商用 AI 图片不审版权 │ 用 AI 辅助代码不审查 用他人照片做 AI 生成 │ 商业深度伪造服务 │ │ 内部用 AI 做灵感参考 公开发布 AI 生成内容无标识 │ AI 辅助润色自己的文章 用非授权数据训练 LoRA 公开 │ 个人学习研究 企业内部分析 AI 未私有化 │ └──────────────────────────────────────────→ 影响程度高最后记住这三句话① 技术无罪滥用有罪——AI 是工具责任在使用者 ② 标注比隐瞒安全人工审核比完全信任 AI 安全 ③ 法律在追赶技术但诚实信用这个基本原则永远不会过时