神经科学、人工智能与消费者保护-消费者画像与商业传播的未来

神经科学、人工智能与消费者保护：

消费者画像与商业传播的未来

神经科学、人工智能和消费者保护

本次演讲的意义和范围由会议标题的最后一个词决定：消费者保护。此外，根据研讨会报告本身的措辞也如此。

“过去十年，我们不仅从人机数据转向了物联网，而且神经科学和人工智能现在越来越多地被用于分析个人特征、预测他们的行为、引导他们做出某些选择。”因此，我们需要深入思考和反思神经科学及相关神经技术与人工智能最终将如何影响消费者，使其成为各种商品和服务的消费者（即：不仅仅是神经科学服务的消费者）。。神经科学、人工智能和消费者保护

神经科学：请阐明我们在此以及为本次干预目的所理解的神经科学的含义和范围。同样，也请阐明人工智能的含义和范围。此外，还要阐明和确定神经科学与人工智能之间的关系。。神经科学、人工智能和消费者保护

神经科学：神经科学或神经科学在研究神经系统，特别是中枢神经系统和大脑的科学领域，许多科学学科汇聚一堂：生物学、生理学、解剖学、生物化学、医学、组织工程、心理学等。因此，谈论神经科学可能更为恰当。神经科学及其相关技术，或称神经技术。与科学密切相关的技术，利用或将机器或设备与中枢神经系统整合，以研究和了解中枢神经系统。神经技术领域取得了重要进展，例如用于观察神经元的磁体、用于治疗瘫痪的电极、用于恢复感觉的植入物以及用于读取思维的传感器等等。这些技术通过各种设备——侵入式（将芯片植入大脑）或非侵入式（头带、帽子等）——将大脑与人工智能系统连接起来。

。神经科学、人工智能和消费者保护

神经科学与神经技术“明确一些构成问题核心的技术至关重要。这些发明大多可以归入“神经技术”的范畴。这个术语指的是一系列广泛的方法和设备，它们本质上可以是电子的、光学的、磁性的、声学的或化学的，其目标有两个：(a)仅仅记录大脑活动；(b)改变大脑活动。”（拉斐尔·尤斯特：《神经权利与数字权利新图景：超越法律界限的对话》：印第安纳全球法律研究杂志第30卷第1期）神经科学、人工智能和消费者保护

神经科学：心智与人类身份。“神经技术之所以重要，主要有三个原因。人体最重要的器官之一，甚至可以说是最重要的器官。根据目前的认知，我们清楚地认识到，历史上所谓的“心智”实际上是大脑活动的产物。这种活动涵盖了你所有的思想、记忆、想象、决定、行为和情感。因此，大脑与人类的身份认同密不可分。治疗多种神经系统疾病，如帕金森病、阿尔茨海默病、精神分裂症、癫痫、抑郁症、肌萎缩侧索硬化症、中风、智力障碍等，这些疾病都反映了大脑活动的改变。神经技术之所以重要的第三个原因是它与经济有关，也与利用我们大脑中已经存在的算法的潜力有关。（拉斐尔·尤斯特：《神经权利与数字权利新图景：超越法律界限的对话》：印第安纳全球法律研究杂志第30卷第1期）神经科学、人工智能和消费者保护

人工智能：人工智能，从其最原始的形式——当然也包括当今最先进的形式——都是数字社会所有进步的基础。如果没有数字化，我们就无法理解构成当今世界基础的各种设备和器材的进步：从车辆、显微镜、扫描仪、计算机和各种家用电器，到允许数据从一个设备立即传输到另一个设备的电信系统，以及脑机接口的开发。神经科学、人工智能和消费者保护

神经科学、神经技术和人工智能这并非仅仅是推测或科幻小说。目前，这些实验正在实验室动物和人类患者身上进行。然而，算法的影响并不局限于医学试验……这些新技术如今正受到巨额投资的推动。在全球范围内，通过公共和私人资金进行资助。部分项目的最终目标是创建非侵入式界面，它能直接与大脑互动。这比过去十年里盛行的眼镜或耳机等外围设备的发展更进一步。这一发展引发了许多伦理和社会问题。（拉斐尔·尤斯特：《神经权利与数字权利新图景：超越法律界限的对话》：印第安纳全球法律研究杂志第30卷第1期）神经科学、人工智能和消费者保护

神经科学、神经技术和人工智能将脑部数据存储和处理用于治疗目的，引发了人们的巨大希望，也使其用于此特定目的具有合法性；但始终要采取必要的预防措施，因为这可能会影响个人的权利。采取预防措施，确保神经技术的使用仅限于其功能，防止任何人将这些技术用于不正当目的：例如，为了非法或商业目的改变患者的行为，或者为了治疗目的之外的原因影响患者的行为或思想。神经科学、人工智能和消费者保护

神经科学、神经技术和人工智能然而，这个问题也引发了新的担忧，即神经技术被普遍用于其他目的，例如增强或改善能力；这些目的已在超人类主义或后人类主义立场中明确提出，需要全球范围内的集体应对。诸如每个人自由接受这些技术是否足以成为这些技术的被动主体，并受到这些技术所承诺的优势的刺激，或者社会是否应该对此发表意见，因为这种服从可以在很多方面影响社会关系的塑造等问题，都值得关注。神经科学、人工智能和消费者保护

神经科学、神经技术和人工智能

问题的关键不仅在于每个人将自己的大脑活动知识拱手让给第三方时所享有的个人和特定自由。问题的关键在于，某些人（一家管理、组织和指导存储——并最终挖掘——成千上万人脑部记录的公司）有可能凭借对提供脑部活动记录的人的弱点、倾向和喜好的了解，来支配或控制一个社会。这些人提供记录或许只是出于无害的游戏目的，或许另有其他目的，而这些记录最终可能不仅会终结个人自由本身，还会影响或左右社会、民主和自由市场的决策。神经科学、人工智能和消费者保护

二、神经科学、法律和伦理问题。

《欧盟基本权利宪章》条人格完整权1.每个人都有权享有身体和精神完整性的尊重。2.在医学和生物学领域，尤其必须遵守以下几点：经当事人自由知情同意，并按照法律规定的程序进行。禁止优生学实践，特别是那些旨在选择特定人群的实践。禁止以人体及其器官作为牟利的来源。禁止进行人类生殖性克隆。神经科学、人工智能和消费者保护

二、神经科学、法律和伦理问题。通过的决议这团结的国家人权委员会2022年10月6日51/3.神经技术与人权“注意到秘书长在其2021年题为《我们的共同议程》的报告中……”声明指出，应考虑更新或澄清人权框架和标准的适用，以解决前沿问题，防止数字或技术领域（包括神经技术领域）的伤害。…3.邀请联合国人权事务高级专员，该条约人权理事会的各机构及其特别程序，在其各自的框架内授权应充分考虑神经技术对充分享有所有人权和基本自由的影响。”神经科学、人工智能和消费者保护

二、神经科学、法律和伦理问题。

智利宪法第十九条第一款“科学技术发展应当服务于人类，并且应当尊重生命以及身心完整。法律应当规范其对人类使用的要求、条件和限制，并且应当特别保护脑活动以及由此产生的信息。”

（判决）2023年8月9日这第三商会的最高法院）​​（洞察力设备）神经科学、人工智能和消费者保护

二、神经科学、法律和伦理问题。

西班牙数字权利宪章（2022年7月14日）二十六、神经技术使用中的数字权利为达到以下目的，法律可对人体植入和使用神经技术的条件、限制和保障措施进行规范：a)保证每个人对其自身身份的控制权。在决策中的自决权、主权和自由。c)确保获取的或与大脑过程相关的数据的保密性和安全性，以及对这些数据进行完全控制和处置。心理完整性的人机界面的使用。或心理完整性。e)确保基于神经技术的决策和过程不受提供不完整、不必要、未知或有偏见的数据、程序或信息的影响。神经科学、人工智能和消费者保护

二、神经科学、法律和伦理问题。

西班牙数字权利宪章（2022年7月14日）二十六、神经技术使用中的数字权利2.为保障人的尊严、平等和不歧视，并根据适用的国际条约和公约，法律可以对神经技术的使用情况和条件进行规范，这些神经技术除了治疗用途外，还旨在增强认知能力、刺激认知能力、提高认知能力或刺激、增强人的能力。神经科学、人工智能和消费者保护

三、消费者面临的具体风险。

在线消费者面临的直接和间接风险直接风险，例如个性化或动态定价：动态或定制化定价（源自使用算法，该算法考虑消费者自己向卖家提供的数据或数据经纪人向卖家提供的数据）是否具有歧视性？间接风险，例如由于网络或其服务准入的把关人采取反竞争行为而导致的竞争法干扰。

[欧盟委员会对大型科技公司实施制裁，或美国司法部或联邦贸易委员会提起诉讼（例如苹果、微软，或最近司法部几天前宣布的针对LiveNation或TicketMaster的泰勒·斯威夫特演唱会门票销售的诉讼）]神经科学、人工智能和消费者保护

三、消费者面临的特定风险：个性化或动态定价。

一些已知的动态定价或定制化定价做法：-使用同一IP地址多次搜索机票或酒店门票后，价格上涨。-根据旅行时间不同，航空旅行中的座位分配也会有所不同。神经科学、人工智能和消费者保护

三、消费者面临的特定风险：个性化或动态定价。

第22条（关于个人数据保护的第2016/679号条例）自动化个人决策

包括用户画像1.数据主体有权不受仅基于自动化处理（包括分析）的决定的影响，该决定对其产生法律效力或对其产生类似重大影响。2.如果决定符合以下条件，则第1款不适用：（a）|是数据主体与数据控制者之间订立或履行合同所必需的；遵守的欧盟或成员国法律授权，且该法律还规定了保障数据主体权利、自由和合法利益的适当措施；或（c）|是基于数据主体的明确同意。3.在第2款(a)项和(c)项所述情况下，数据控制者应采取适当措施保障数据主体的权利、自由和合法利益，至少保障数据主体有权获得控制者的人工干预、表达其观点并对决定提出异议。4.第2款所述的决定不得基于第9条第(1)款所述的特殊类别的个人数据，除非第9条第(2)款(a)项或(g)项适用，并且已采取适当措施保障数据主体的权利、自由和合法利益。神经科学、人工智能和消费者保护

三、消费者面临的特定风险：个性化或动态定价。《欧盟基本权利宪章》条人格完整权1.每个人都有权享有身体和精神完整性的尊重。2.在医学和生物学领域，尤其必须遵守以下几点：经当事人自由知情同意，并按照法律规定的程序进行。禁止优生学实践，特别是那些旨在选择特定人群的实践。禁止以人体及其器官作为牟利的来源。禁止进行人类生殖性克隆。第21条不歧视1.禁止基于性别、种族、肤色、民族或社会出身、基因特征、语言、宗教或信仰、政治或其他见解、少数民族身份、财产、出生、残疾、年龄或性取向等任何理由的歧视。神经科学、人工智能和消费者保护

三、消费者面临的特定风险：个性化或动态定价。《欧盟基本权利宪章》第八条个人数据保护每个人都有权获得与其相关的个人数据保护。此类数据必须出于特定目的，并以当事人同意或法律规定的其他合法依据为依据，公平地进行处理。每个人都有权访问与其相关的已收集数据，并有权要求更正。3.这些规则的遵守情况应受独立机构的监督。第五十四条禁止滥用权利本宪章的任何规定均不得解释为暗示有权从事任何旨在破坏本宪章所承认的任何权利和自由的活动或行为，或以超出本宪章规定范围的方式限制这些权利和自由。神经科学、人工智能和消费者保护

三、消费者面临的特定风险：个性化或动态定价。

欧洲宣言

n关于数字权利和数字十年原则

第三章：选择的自由与算法和人工智能系统的交互8.人工智能应该成为人类的工具，其最终目标是提高人类的福祉。9.每个人都应该有权享受算法和人工智能系统带来的好处，包括在数字环境中做出自己知情的选择，同时受到保护，免受健康、安全和基本权利方面的风险和伤害。我们承诺：a.在人工智能系统的开发、部署和使用过程中，促进以人为本、值得信赖和符合伦理道德的人工智能系统，使其符合欧盟价值观；b.确保算法和人工智能的使用具有足够的透明度，使人们有权使用它们，并在与它们互动时了解相关信息；c.确保算法系统基于充分的数据集，以避免歧视，并能够对影响人民安全和基本权利的所有结果进行人工监督；神经科学、人工智能和消费者保护

三、消费者面临的特定风险：个性化或动态定价。

欧洲数字权利宣言和数字十年原则

第三章：选择的自由与算法和人工智能系统的交互9.每个人都应有权受益于算法和人工智能系统的优势，包括在数字环境中做出知情选择，同时受到保护，免受健康、安全和基本权利方面的风险和损害。我们承诺：d.确保人工智能等技术不被用于预先干涉人们的选择，例如在健康、教育、就业和私人生活方面；e.提供保障措施并采取适当行动，包括推广可信赖的标准，以确保人工智能和数字系统始终安全，并在充分尊重基本权利的前提下使用；f.采取措施确保人工智能研究尊重最高的道德标准和相关的欧盟法律。10.每个人都应该能够根据客观、透明、易于获取和可靠的信息，有效地、自由地选择使用哪些在线服务。神经科学、人工智能和消费者保护

III消费者面临的具体风险：个性化或动态定价。人工智能法案（提案日期：2024年3月13日）第二章禁止的人工智能实践第五条

禁止的人工智能实践1.禁止以下人工智能实践：将人工智能系统投放市场、投入使用或使用，该系统部署潜意识技术，超越人的意识*，或故意操纵或欺骗技术，其目的或效果是，通过明显损害个人或群体做出知情决策的能力，从而实质性地扭曲其行为，导致个人做出原本不会做出的决定，并且这种决定可能对该个人、他人或群体造成重大伤害。*“为了实质性地扭曲一个人的行为，从而导致或可能导致”**身体或心理伤害神经科学、人工智能和消费者保护

三、消费者面临的具体风险：个性化或动态定价。人工智能法案（提案日期：2024年3月13日）

第二章

禁止的人工智能实践第五条

禁止的人工智能实践1.禁止以下人工智能实践：个人或特定群体因年龄、残疾或特定社会或经济状况而存在的弱点的AI系统投放市场、投入使用或使用，其目的或效果是实质性地扭曲该个人或该群体成员的行为，从而造成或极有可能造成该个人或其他人重大伤害；神经科学、人工智能和消费者保护

三、消费者面临的特定风险：个性化或动态定价。

1993年4月5日理事会关于消费者合同中不公平条款的第93/13/EEC号指令第四条1.在不违反第7条的情况下，评估合同条款的不公平性时，应考虑订立合同所涉货物或服务的性质，并在订立合同时参照订立合同的所有情况以及合同或作为合同依据的另一合同的所有其他条款。2.对条款不公平性的评估，既不应与合同主要标的物的定义有关，也不应与价格和报酬相对于所交换的服务或货物是否适当有关，只要这些条款是用清晰易懂的语言写成的。神经科学、人工智能和消费者保护

三、消费者面临的具体风险：个性化或动态定价。

西班牙数字权利宪章（2022年7月14日）

V个人不被追踪和分析的权利1.涉及自动决策或对个人或群体进行分析的追踪和人格或行为分析系统，只能在现行法规允许的情况下，并采取其中规定的适当保障措施。

第八数字环境中的平等和不歧视权人人平等的权利和原则应适用于数字环境，包括不歧视和不排斥。神经科学、人工智能和消费者保护

三、消费者面临的具体风险：个性化或动态定价。

西班牙数字权利宪章（2022年7月14日）十三、互联网中立权1.承认用户享有互联网中立性的权利，但前提是必须完全遵守法律制度。2.公共机构的首要目标应该是确保互联网接入服务提供商平等对待数据流量，不歧视、不限制、不干扰数据流量，无论发送方和接收方是谁，访问或分发的内容是什么，使用或提供的应用程序或服务是什么，或者使用的终端设备是什么。上述规定不影响欧洲关于开放互联网访问权的法规中明确规定的例外和限制。3.为了确保最终用户和专业人士能够公平、透明地获取内容、商品和服务，或获得其供应，公共机构可以控制守门人或平台服务提供商，无论这种权力的来源如何，这些守门人或平台服务提供商都可能根据欧洲法规规定的条款，对这种访问施加限制。神经科学、人工智能和消费者保护

三、消费者面临的具体风险：个性化或动态定价。

西班牙数字权利宪章（2022年7月14日）XX.数字环境中的公司1.西班牙宪法承认的企业自由适用于市场经济框架内的数字环境，其中有效竞争得到保障和促进，避免滥用市场支配地位，同时保证系统、设备和应用程序的兼容性、安全性、透明度和公平性。……4.特别是，公共机构应确保专业用户和内容公司在使用在线中介服务时享有适当的透明度、公平性和投诉渠道。同样，企业网站用户在使用在线搜索引擎时也应享有这些渠道。建立条件，以便创建受控测试空间，用于开发新的商业模式、应用程序、流程或基于技术的产品（沙箱）。神经科学、人工智能和消费者保护

三、消费者面临的具体风险：个性化或动态定价。

西班