◎文 《法人》杂志全媒体记者 惠宁宁

AI大模型正席卷各行各业，逐步与多个领域交叉融合，形成各具特色的AI大模型产品。但是，AI真的那么智能吗？AI会不会欺骗你？AI“永生人”是意识存在吗？泄露隐私、虚假信息越来越多，AI大模型时代怎么防范安全风险？

有专家表示，现阶段，大模型仍受到很多因素的制约，也产生了传播虚假信息、侵害个人信息权益等问题，大模型面临着新技术的两面性。

6月3日，中国政法大学商学院产业经济系副教授丛颖男告诉《法人》记者：AI大模型的发展也带来了伦理和法律上的挑战，如隐私保护、算法偏见、责任归属等问题。这要求社会在技术进步的同时，也要对相关法律和伦理规范进行更新和完善。

公众的担忧

近日，一款语言大模型的用户王岩发现，该大模型生成结果中有些无根据甚至错误的内容。好在他一向严谨，并且生成内容属于自己的专业领域，及时发现了错误，避免了不良后果。王岩遇到的情况被称为“模型幻觉”。

现实中，“模型幻觉”可能导致公众作出错误决策。如AI推荐的理财产品可能存在误导性，导致投资受损；AI提供的医疗诊断或健康建议，如果基于错误数据或算法缺陷，可能损害患者健康等。一些虚假信息提供的产品或服务可能是伪劣的，对公众财产和健康造成损害，甚至造成公众恐慌、社会混乱，严重扰乱公共秩序，诱发群体性事件。

对于“模型幻觉”引发的法律问题，《法治日报》律师专家库成员、北京大成（广州）律师事务所高级合伙人张伟伟认为，AI错误信息、虚假信息对公众产生的危害，受害者可依据民法典等相关法律规定，追究AI错误信息、虚假信息的制造者、传播者等主体的侵权责任，要求赔偿损失。相关主体可能因违反个人信息保护法等法律法规，面临行政处罚。

“在特定情况下，如AI错误信息导致严重后果，或故意制造、传播虚假信息构成犯罪的，相关主体可能触犯刑法，承担刑事责任。”张伟伟说。

此外，AI大模型通常需要大量个人数据。如果这些数据未经充分保护，可能导致个人隐私被侵犯，涉嫌侵犯公民个人信息罪。如果AI突破计算机防火墙，非法入侵他人计算机信息系统获取、修改数据，还可能触犯非法侵入计算机信息系统罪，非法获取计算机信息系统数据、非法控制计算机信息系统罪等。

大模型广泛应用必然带来不可忽视的安全问题。一项对IT行业领导者进行的关于ChatGPT等大模型的调查显示，安全性是受访者最关心的问题，71％的受访者认为生成式人工智能会给企业数据安全带来新的风险。6月5日，在2024北京网络安全大会期间，奇安信集团董事长齐向东向记者介绍，解决有限的安全资源和100%的安全追求之间的矛盾，要靠AI驱动安全。AI能否真正驱动安全，则取决于数据、体系和标准。

“永生人”引发的思考

随着AI和数字化被广泛运用，将逝者“复活”，已不仅出现在科幻电影中。AI技术可以通过个体的生活数据、声音、视频等信息，生成数字人分身，实现与人类交流互动。最近，商汤科技已故创始人、知名人工智能（AI）科学家汤晓鸥的数字人“现身”公司年会；音乐人包小柏借AI技术“复活”亡女；李玟、乔任梁等已故艺人被AI复活等话题引发热议，同时也引发了人们对AI复活技术在法律和道德伦理方面的思考和担忧。

▲今年 4 月，京东创始人刘强东 AI 数字人在短视频平台直播带货 CFP

天使投资人、资深人工智能专家郭涛表示，从法律角度来看，AI数智人“复活”技术涉及多个法律问题：一是版权问题，如果未经逝者或其家属同意，使用逝者的肖像、声音等个人信息，可能涉及侵犯版权和隐私权；二是人格权问题，如果AI数字人的表现形式过于逼真，可能会对逝者的人格权产生侵犯；三是商业利用问题，如果将AI数智人用于商业目的，可能会涉及不正当竞争和广告法等问题。

对于用AI复活已过世亲人，有人认为是对自己的安慰。也有人觉得，好不容易走出亲人过世的阴影，突然间出现一个看似活灵活现的“人”，“让人感到不适”。近日，《法治日报》律师专家库成员、北京盈科（上海）律师事务所数智化建设委员会副主任李悦向记者表示，依照我国民法法理，姓名权和肖像权属于人身权中的人格权，始于出生，终于死亡。对于亲属使用AI技术“复活”已故亲人聊以慰藉， 从肖像权角度考虑，在亲人的范围内不会过多涉及侵权问题。但对于“复活”已故艺人，涉及的侵权责任比较明确，现行法律对于如何保护肖像利益已有约束。

“从道德伦理角度来看，AI数智人一是涉及尊重问题，逝者已矣，是否应该将其形象、声音等用于商业或其他目的；二是真实性问题，AI数智人可能会误导公众，让人们误以为逝者还在世；三是情感问题，对于逝者的亲友来说，看到AI数智人可能会引发复杂的情感反应。当然这是一种有潜力的新兴技术，但在实际应用中，需要充分考虑到法律和道德伦理问题，以确保其合理、合法使用。同时，也要通过法律法规和社会规范，引导和规范这一技术的发展和应用。”郭涛说。

知识产权的归属与归责

著作权法保护的是人类智慧成果。因为人类画图，有劳动的创造力、时间和精力成本，所以要通过法律保护。现在用AI来画，对出图的贡献值完全不一样。那么，同样两张图，不考虑图片质量的情况下，怎么对作品本身进行保护？

对此，李悦认为，用AI创作的图片是否享有著作权在不同国家有不同的意见。在美国，AI生成的作品不受著作权法保护，而我国尚无明确法律规定。那么，用AI创作的图片是否需要赋予著作权加以保护？记者搜索案例发现，中国有关AI文生图的司法判例中，法院支持AI创作图有人的贡献值在里面，都认定AI生成图片予以著作权保护。

“我认为，对AI生成的图片应进行著作权保护。虽然与手绘作品相比，使用AI创作的难度较低，但并非没有人类的智力成果。例如，使用Stable Diffusion进行图片创作仍存在技术门槛。因此，可以赋予创作者对AI图片的著作权。但在处理著作权侵权纠纷时，法院对侵犯用AI创作图片著作权的案件，支持的赔偿金额不宜过高。”李悦说。

那么，AI产生图片本身会不会侵权？

“目前，主流的AI图像生成工具通常通过重绘生成图片，因而一般不会涉及侵权问题。但如果用户要求AI生成特定IP的图片并对外使用，如宫崎骏的作品、七龙珠等，将存在侵权风险。许多主流公司已经采取措施保护知名艺术家的作品。例如，艺术家可以向公司明确告知不希望自己的作品被用于训练数据，AI生成的图片就不会参考这些艺术家的风格。” 李悦还建议，可以设立一个专项基金，用于未来产品侵犯知识产权的赔偿。这种方式可以在一定程度上缓解侵权风险，并显示公司对知识产权保护的重视。

他还建议，对大模型科技公司责任和使用者责任进行区分。“这两者权利和义务不同，可以制定规范，规定科技公司如何保护知识产权并管理内容生成，确保AI生成的内容不涉及暴力血腥等不良内容，落实负责任的AI开发和应用。而对于普通用户，可以强化引导，以显著及通俗易懂的方式帮助他们理解和遵守平台的使用规范。”

商业先行还是监管先行？

AI大模型的发展离不开商业的支持。商业公司通常拥有更多资源和能力推动AI技术研发和应用。如果商业先行，可以更快地推动AI技术的创新和应用，促进相关产业发展。同时，商业公司也需要在竞争中不断完善自己的产品和服务，以满足市场需求和用户需求。

但在缺乏有效监管的情况下，商业公司可能过度追求利润，忽视对用户和社会的责任，从而导致AI技术的滥用和误用。此外，商业公司之间的竞争也可能导致资源浪费和重复劳动，降低整个行业的效率。

2023年，国家网信办等七部门公布《生成式人工智能服务管理暂行办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

监管可以有效规范AI技术的研发和应用，防止滥用和误用，保护用户和社会的利益。通过制定相关法规和标准，可以明确AI技术的使用范围和限制，引导商业公司合理竞争，促进行业的健康发展。

然而，监管先行也存在一些挑战，AI技术的发展越来越迅速，监管需要跟上技术发展的步伐，不断更新和完善相关法规和标准。这需要监管机构具备较高的专业能力和技术水平。同时，监管也需要平衡商业利益和社会利益之间的关系，避免过度干预市场运行。

对此，张伟伟认为，商业与监管应当并重，在不同阶段选择不同的监管力度，保证AI商业能够快速形成规模化市场。同时，也要保证AI不是脱缰野马，必须在法律、监管的框架之下有序发展。

“这实际是一个多方协同、平衡发展的问题。商业先行和监管先行并不是非此即彼，而是需要综合考虑多个方面。在推动AI大模型的发展过程中，应该加强商业和监管之间的合作和协调，共同推动AI技术的健康发展。”张伟伟表示，商业公司应积极履行社会责任，遵守相关法规和标准，确保技术的安全和可靠。监管机构也应该加强监管力度，制定符合实际情况的监管政策，促进AI技术的合理应用和发展，多方协作才能让AI商业在秩序之路上有序、高速发展。

编审｜渠 洋

责编｜白 馗

校对｜张波 张雪慧