人工智能是把“双刃剑”，它在提升生产效能的同时，也可能带来版权纠纷、深度伪造、数据风险等问题。近日，文生视频人工智能模型Sora的出现，加剧了人们在这些方面的担忧。中国出版集团有限公司党组成员、中国出版传媒股份有限公司副总经理于殿利表示：“Sora的风险和问题在于我们还不知道对它有多大的掌控力。如果确定可以掌控它，就不会有太大的风险，反之则风险比较大。因为人类的任何技术之开发与应用，都是以能够掌控它为先决条件的。”

既防侵权也防被侵权

随着人工智能生成内容的普及，相关著作权侵权问题变得越发突出。

近日，广州互联网法院就一起生成式AI服务侵犯他人著作权案作出生效判决，这是我国继2023年11月北京互联网法院对“AI文生图”著作权侵权纠纷作出裁判后的又一例在人工智能领域的司法判决。另据公开报道，截至2024年2月24日，美国已发生了10余起与生成式AI相关的著作权侵权纠纷。

出版业作为内容产业，更要防范人工智能可能带来的著作权侵权问题。浙江传媒学院新闻与传播学院融合出版系主任隗静秋说：“ChatGPT、Sora等人工智能模型生成的内容可能涉及对数据库中视频素材的模仿，从而引发著作权侵权的风险，出版社需要确保使用这些模型生成的内容不会侵犯他人的知识产权。”

在防止人工智能生成内容侵犯他人版权的同时，出版单位也要防止自己的版权资产被盗用。北京印刷学院副院长陈丹说：“人工智能的发展离不开数据、算法、算力这三驾马车。Sora的运作基础在于广泛的数据收集与深入的模型训练。在此过程中，它可能会采纳大量的有独创性的视频素材，对这些素材的使用可能牵涉到复杂的版权问题。2023年《纽约时报》起诉微软和美国开放人工智能研究中心就是一个代表性事件。由于难以发现和维权，出版业的版权资产可能被盗用。”

多位出版人提到版权归属问题。“Sora生成的视频内容可能涉及知识产权问题，如何界定原创与抄袭将是一个亟待解决的问题。”中国传媒大学融合出版与文化传播国家新闻出版署重点实验室主任郑志亮表示。

上海教育出版社副社长刘芳则结合出版业进行分析：“人工智能素材的来源可能是难以查证的，生成的内容可能使用了他人的作品或素材，很难了解版权归属，这就带来了潜在的版权纠纷和法律风险。对出版业来说，编辑可能无法辨别作者交付的稿件是完全由人工智能生成的还是人机协同完成的，这就带来了人机协同的书稿或者视频内容著作权如何界定的问题，对此，目前学术界和出版界尚未达成共识。”

如何解决版权界定问题？人民交通出版社总编辑陈志敏认为，随着Sora等人工智能生成内容的普及，版权问题将变得更加突出，需要制定相应的法律法规来规范人工智能生成内容的版权归属和使用，以保护创作者的合法权益。

除了版权纠纷风险，出版人还提到了Sora可能带来的其他各种风险。

首先是数据风险。数传集团常务副总裁温亚莉分析，应用Sora等人工智能技术时，出版业可能需要收集和处理用户数据。如果这些数据未能得到妥善保护，可能会引发用户隐私泄露和数据安全事件。

其次是意识形态风险。陈丹分析，由于用于Sora训练的数据以西方为主，我国出版业在应用时，可能在文化、意识形态、审美趣味等方面受到不易察觉但长期的影响。

再次是深度伪造风险。隗静秋说：“Sora能够根据文本描述生成视频，使得伪造视频变得更加容易，可能被用于不当用途。”电子工业出版社原总编辑刘九如则表示，出版机构对Sora生成内容的真伪有必要进行严格审查和核实。

南京大学出版研究院副院长、国家新闻出版署智慧出版与知识服务重点实验室主任杨海平说：“人工智能的持续发酵将给我们的产业、生产和生活带来并非悄无声息的影响，现在的Sora尚未对外开放使用，还不太成熟，在内容逻辑性、细节处理等问题上依然存在不足，因此，出版人未来在应用过程中需要注意生成内容的内容安全、法律安全、伦理安全、传播安全等。”

温亚莉建议，出版业在应用人工智能技术时，需要充分考虑并制定相应的应对策略和措施，选择与大的技术公司合作，以确保技术的合规应用，保护用户权益，维护品牌形象和声誉。

有的专家还提出人工智能或将带来内容质量下降的问题。

“同质化”被出版营销专家三石视为最大的问题。他说：“我最担心的是出版业应用AIGC后因为对某大模型的过度依赖又出现新的‘同质化’现象，比如说大家纷纷运用Sora生成图书的图片和视频，结果形成‘千人一面’的结果，让出版内容失去灵魂。”

“劣币驱逐良币”是出版人的又一担心。温亚莉表示，虽然Sora等人工智能技术可以提高内容生产效率，但也可能导致内容质量下降。例如，如果人工智能生成的内容缺乏原创性、创新性或准确性，可能会损害出版业的声誉和品牌形象。郑志亮也认为，随着人工智能的广泛应用，视频创作的门槛将逐步降低，市场上可能会出现大量低质量甚至恶俗的内容，这对出版环境的治理提出了新要求。山东电子音像出版社社长刁戈提出，Sora生成的视频对内容生产的影响还在于其低成本制作视频的能力，对于拍摄制作优质视频从业者的积极性可能会造成伤害。

世界著名科学家霍金曾警告：“人工智能是一把‘双刃剑’，它一旦脱离人的束缚，就会给人类带来巨大灾难，人必须制造出可控的人工智能。”历史上诸多智者的这种担忧值得今天的我们深思。