【ITIF】中国和英国的专家如何看待AI风险和合作（英译中）

功能的民主化至关重要。由于任何人都可以使用它，因此它可以促会进步，例如允许任何人针对特定任务调整和调整功能强大的AI人员，开发人员和用户之间在开源AI上的全球合作可以促进共享步，并促进制定透明度，问责制和道德准则和最佳实践。最后，通和数据促进透明度和问责制，它有助于识别和解决人工智能中的偏AI工具的开发人员，这些工具用于创建图像，音频，3D模型和代码。中国已经生产），然而，开源AI提出了独特的挑战。首先，与专有AI不同并生成不准确的信息。此外，恶意行为者可能会将该技其次，与专有AI不同，开发人员负责技术，并不总是有人负,该技术可能具有没有人解决的已知错误或安全漏洞。同样，开源AI可以在没有任何保证或保证的情况下提供。例如，用户可能不知道开发人数据上训练了开源AI模型。最后，开源产品的开发实践可尽管他们都在寻求支持各自公司对人工智能的人工智能安全峰会，包括中国在内的许多国家都参加了峰会。首脑会议以《布莱切利宣言》结束，与会国决心“维持包容性的全球对话，使现有的国际论坛和其他相关倡议参与进来，并以开放的方式为更广泛的国际讨论做出贡献。."3习近平主席后来在旧金山与美国总统举行的双边会议上发表讲话，重申了在包众提供人工智能技术”。5望访谈。我们根据参与者在人工智能技术和政策方面的专业知识选择不同的观点。最终的样本包括来自大学，研究机构，我们通过半结构化访谈收集数据，这允许灵活地探索各种主关键领域。我们亲自或通过在线会议进行了采访，具体取决于参性。根据参与者的要求，访谈以两种格式之一进行，参与者可以记录的访谈做了手写笔记。为了清晰和完整，我们审查并编辑了出现的主题和想法开发了一个初始编码框架。这这项研究的目的是提供对美国观点的详细了解。K.和中国专些发现为人工智能安全领域的关键问题、优先事项和潜在合作领解。分析中出现的关键主题是AI安全优先级，开放模型权重的好处以及国际合作障碍。为了清楚起见，我们翻译和编辑了以下各节。受访专家分享了他们对AI安全的最大担忧。为了抓住域可能仍然没有或有限。这并不意味着专家们对这些领域无动国专家强调了与不安全AI相关的几个风险，例如AI系统不准确对人类与人工智能交互的安全性表示担忧，例如机器人伤害用户或U.K.专家们更关注其他社会风险，例如与儿童一起使用人工智工智能取代人类工人的潜力，从而导致高失业率。他们强调防止社会问题的重要性。相比之下，一些中国专家专注于先工智能武器化的潜在生存威胁。他们强调了人工智能对人类34“如果人们会用AI做坏事，那么它是闭源还是开源并不重要，他们仍然会找受访者指出，防止不同的攻击是一个复杂的挑战，可全对策。此外，一些人对人工智能前沿发展准备不足表示担忧，超过安全和道德准则的建立，在准备应对新出现的挑战方面留下些人认为缺乏标准来指导开源人工智能的使用、开发和管理，使“我认为英国政府采取了一种相当合理和衡量的将部门监管应用于人工智能用途。他们开始了对监管差距的搜“[MAILv.2.0]草案需要对其使用的某些术语进行更多细节和澄清。由于它是草关于提高AI透明度的话题，许多专家认为，AI开发人差距，这限制了开发人员通过披露有关其AI开发的其他信息来建。产品。但是，一些专家指出，如果独立的第三方组织可以评估这“为了管理AI风险，我们必须通过关注开发人员来解“立法者应该建立一个评估框架来有效管理人工智能性22两国大多数专家都认为地缘政治不确定性是阻碍国际合作的地缘政治的影响。访谈显示，信任问题会对学者进行沟通的意为这是未来。”专家还提到文化差异是可能阻碍合作的因素。不同背景的人值观，信仰，沟通方式和社会规范，可以影响个人如何看待和智能安全国际合作的背景下，不同训练的人工智能模型、国内一些专注于开发人工智能技术的专家认为，缺乏其他参着国际合作不会带来实际的解决方案，并阻碍他们参与未来的家的专家对人工智能安全问题没有一个单一的、一致的看法。际合作。另一方面，与我们交谈的所有中国专家都认为“鉴于美国和中国将在秋天举行大选的政治气候，我们发挥重要作用。”—4-英国“美国似乎更愿意首先在盟国之间建立共识。但是，我会合作。”—5-CN来自英国和中国的专家对人工智能有许多相同的关注和优先作为这些国家未来合作与合作的基础，特别是在开源人工智智能的进一步对话和联合研究为识别和监测新出现的风险、案以及评估监督措施的潜在协调提供了独特的机会。通过在的合作，英国和中国可以朝着开源人工智能更安全、更可靠drafts/the-open-source-ai-definition-draft-v-0-huggingface.co/spaces/open-llm-leaderbnews.cn/politics/leade/www.mfa.gov.cn/eng/zy/gb/202405/t20240531_11367503.html。foundation/blog/2024/04/17/介绍-模型-开放性-框架-促进-完整性-开放性-可再现性-透明性和可用性-在AI中/。/government/publications/ai-regulation-a-pro-innovation-a