人工智能与出版业

人工智能与出版业

2024年2月27日

爱尔兰图书贸易大会

生成式人工智能的普及速度超过任何其他消费技术。达到1亿用户所需时间：手机：16年互联网：7年Facebook：4.5年TikTok：9个月ChatGPT：90天ChatGPT：每天1000亿个单词（每周2个三位一体）。人工智能正以前所未有的速度被应用。能力过剩的后果，以及通过实验而非文档进行学习。阿马拉定律：“我们往往会高估一项技术在短期内的影响，而低估其在长期内的影响”。认为这只是技术问题是一种错误的想法：人员、文化和流程因素都可能造成问题。人工智能正以前所未有的速度被应用。人工智能的定义ZapierChatGPTStorywiseHeyGen创造力自动化通用专家人工智能的定义是什么？它是指能够执行传统上需要人类参与的任务的能力。与通用人工智能(AGI)的区别：缺乏自主制定策略和自主发起任务的能力。关注LLM：可及性、相关性——但也关注其他方面。训练数据：监督式学习无监督学习强化学习如何从海量申请材料中筛选出有价值的信息：特定人工智能应用的目的是什么？是内容创作，还是流程自动化？它是通用型的，还是专用于特定功能或行业的？在LLM课程中使用受版权保护的材料作为训练数据：Books3、欧洲立法、作者和出版商的诉讼（与AdobeFirefly对比）。人工智能平台（例如OpenAI）正在寻求许可模式（AP、AxelSpringer），但同时也在强化其合理使用立场：“因为如今版权几乎涵盖了人类的方方面面……如果不使用受版权保护的材料，就不可能训练出当今领先的人工智能模型。将训练数据限制在公共领域……或许能带来有趣的实验结果，但却无法提供满足当今公民需求的人工智能系统。”“训练人工智能模型属于合理使用，这有长期且被广泛接受的先例支持……我们认为这一原则对创作者公平，对创新者必要，并且对美国的竞争力至关重要。”合理使用论点：纽约时报诉讼案凸显了逐字逐句重复报道结果的问题，提高了监管措施的有效性。根据OpenAI、微软和谷歌向美国公司监察专员办公室提交的文件，这些平台都在将责任推卸给用户：“当用户指示人工智能系统生成侵权输出时，由此产生的任何责任都应由用户承担，因为是用户的自愿行为直接导致了侵权行为。”（谷歌）版权问题幻觉是指生成式人工智能中的一个重大问题，即人工智能系统生成的内容没有现实基础或训练数据，导致输出不准确或具有误导性。LLM倾向于概括训练数据中的模式，这可能导致它们生成它们认为应该存在的内容，即使实际上并不存在。逻辑学习模型（LLM）基于大型数据集进行训练，但可能缺乏全面和多样化的信息，导致生成虚假数据。提高训练数据的质量和多样性，可以提供更准确、更全面的信息，从而有助于减少这种虚假数据。幻觉会传播虚假或误导性信息，这可能会造成严重后果，尤其是在敏感领域。虽然无法完全消除幻觉的风险，但可以通过一些策略将其降至最低。幻觉如何区分哪些内容是人工智能生成的，哪些是人类创造的，哪些是二者的结合：目前，供应链的拉动因素（亚马逊、书店）是否也是未来潜在的差异化因素（KDP与《纽约时报》扩展简介）？2024年将是内容真实性（深度伪造）的关键一年。针对图像、音频、视频（例如GoogleSynthID）的技术解决方案，但不适用于文本：AI书写的自动检测误报率很高。这不仅是一个组织问题，还涉及到上下游的情况（一项研究表明，68%的企业未能向管理层披露人工智能的使用情况）。出处人们对原创作品被用作训练数据感到非常担忧——许多作者和代理人（尤其是在行业出版领域）希望在合同中反映这一点。由作家协会、作家公会、美国文学评论家协会(ALCS)和其他组织发起的运动，重点关注同意权、署名权和公平报酬。反对出版商使用人工智能创作内容。一些作者，主要是自出版领域的作者，热情地采用了这种方式（一些平台因此不堪重负）。作者和创作者市场上充斥着大量低质量的人工智能书籍，市场反响不一。类型小说和非虚构作品摘要的激增。亚马逊现在对人工智能生成的内容（而不是人工智能辅助的内容）实施系统性检查——但除了最严重的案例外，采取的行动/制裁措施尚不明确。保留对作者身份不明的书籍下架的权利。这就引出了一个问题：如何区分人工智能生成的内容、人工智能辅助生成的内容以及人类生成的内容？围绕市场和可见性的二阶和三阶效应：对值得信赖的品牌而言，是否存在长期的积极影响？零售商/分销渠道知识产权/数据安全，人工智能环境的本质。所生成材料的版权状态（也包括其他机构的版权状态）。训练数据：许可、营销/公共领域材料、内容的下游使用情况。富有创意的利益相关者反应（例如布卢姆斯伯里、布拉德福德文学节）。消费者反应：可能比较复杂（例如，人工智能畅销书与施普林格出版社的翻译作品/长尾书籍）。您的出版物定位如何？员工沟通（例如HarperCollins/Jasper）。多元、公平和包容/资源差距。产品和生产力提升的机会——特别是创意构思。出版商一般注意事项抵制人工智能的应用——除了微观层面，这种做法在其他层面上是否可行？现有团队和工作流程，但AI应用于操作系统或应用程序级别（例如Office365/GitHub中的Copilot、GoogleWorkspace）。现有配置，但AI仅作为插件用于有限的任务/功能领域（逐步改进）。现有团队，新的工作流程，人工智能增强人类生产力（提高生产力，解决机会成本问题）。新的工作流程和团队，人工智能取代人类员工（解决损益成本问题）。系统性或个体性——公司政策与个人/未经授权的使用。潜在的人工智能策略机构战略、政策、风险偏好。内容创作与一般行政效益。投入的性质和产出的用途——知识产权、风险平衡。了解