2025人工智能颠覆的世界

目录TOC\o"1-3"\h\u30407 111320 318457 7011128 9831842 1411注。在一年一度的秋季前动员大会上，奥尔特曼和水球队队员们脱掉理。1英里约等于1.61千米。——结果，诞生了pn。但在当时它还太过宏大，超出了奥尔特曼的能少一个商业创意。灵感闪现在他走出教室的时候。如果我打开手机就能看到一张电子地图，显示所有朋友的位置，那不是很好吗？他问自己的同学兼好友尼克西沃。YCombinator（美国创业孵化器）项目，并开办一家初创公司。YCombinator将会成为有史以来最成功的创业孵化器，它孵化了价值4000亿美元的科技公司，包括爱彼迎、Stripe（在线支付服务商）、当时，19YCombinator是一个愚蠢的黑客夏令营。其创始人保罗·格雷厄姆是一名厄姆建议奥尔特曼等一年再参加YCombinator项目，因为他当时只有19初创公司投资了6000美元，这个金额参考了麻省理工学院在夏季发放“PG”是保罗·格雷厄姆（PaulGraham）英文名字的缩写。——译者塞州剑桥市，在格雷厄姆家附近YCombinator的第一间办公室工作。奥们都亲昵地称他为“PG”。奥尔特曼对格雷厄姆的教诲深信不疑，他认域的表现更加出彩。他毫无压力地给Sprint、威瑞森和BoostMobile这三名营销大师。Sprint、威瑞森、BoostMobile，甚至黑莓公司都同意在它在为期3个月的YCombinator项目结束后，奥尔特曼筹集了一些资金用凭借充足的资金支持，奥尔特曼从斯坦福大学辍学，全身心投入德德的巴克餐厅吃早餐时，你可能会看到雅虎的联合创始人正在吃水然而，Loopt的离场并不那么盛大。2012年，奥尔特曼以4300万美元的2球最强的人工智能系统研发竞中成为领跑者，而在此之前，他就已经设计，在1994年上市后创下了1500万份销量纪录。亲和叔叔；6岁时在当地的国际象棋比中打败了大部分同龄儿童，当比奖金买了一台ZXSpectrum48（键盘式个人计算机）。这款最早的Amiga500，这款笨重的白色电脑配了一堆工具，包括鼠标和显示器象棋。在学校放假期间，他就去参加不同的国际象棋比，从未间断。标。他的对手是丹麦的国际象棋全国冠军，比陷入了漫长的拉锯联就是在浪费脑力。这些人都是世界上顶尖的战略思想家，倘若他们哈萨比斯对父母说他不想再参加比，想回到学校上学。当时他性格内前被国际象棋比填满的假期，他的大学一年级过得就像在度假，晚上麦克多纳谈到他喜欢折纸时，哈萨比斯提出了挑战，比看谁折纸鹤更麦克多纳设法找到一个电话号码，直接打给哈萨比斯，询问出了什么事。哈萨比斯解释说：我要成立一家新公司。室x，它以真正的尖端人工智能技术为核心，开发出一款用来模拟世界的上帝类游戏。业于牛津大学和剑桥大学。他用比玩游戏的方式来激励团队，无论是陷阵”。他们和伦敦北部的当地人踢五人制足球时，哈萨比斯表现凶3作为YCombinator项目的兼职合伙人，他与加州旧金山湾区还保持着联来，YCombinator在硅谷就是通往成功的门户。每年向该项目提出申请共募集了2100万美元，出资人包括保罗·格雷厄姆和脸书的早期投资人强大人工智能的关键人物。他是所谓“贝宝帮”（PayPalMafia）的一奥尔特曼将ydnepl75的资金投向Yobno孵化的公司，该策略获得了不错的回报。不到4年，ydnep的资金价值就增长了10倍，这得益于奥尔特曼对初创公司的投资，这些初创公司来自他不断扩展的人脉关系，其中大多数都是硅谷精英。他在Yobno的第一堂课上就投资了初创公司dd和n，后者是由脸书联合创始人、亿万富翁达斯汀莫斯科维茨创办的企业软件公司。在接下来的几年里，这些关系为奥尔特曼开发超强人工智能提供了帮助。山的一套四居室住宅、加利福尼亚州大苏尔的一处地产和1000万美元人“兄弟会程序员”。格雷厄姆曾在一篇博文中写道，他“不愿意和有年当格雷厄姆的“个人秀”开始“拖后腿”时，YCombinator也变得越来越棘多，YCombinator奥尔特曼当时只有30后者从未考虑为YCombinator筛选其他新的领导人。他们一致认为就应奥尔特曼执掌YCombinator后，首要任务是做大做强。他致力于将该项在那之前，YCombinator主要投资消费软件开发商和企业软件公司，这界。他成功说服了Cruise和HelionEnergy的创始人加入YCombinator项概念验证阶段。然而，由四名学者创立的HelionEnergy宣称，它能用几状况的同时也能赚大钱。他在一次采访中谈到了HelionEnergy：“硅谷中HelionEnergy获得超过3.75亿美元，而致力于将人类平均寿命延长10年的初创公司RetroBiosciences（生物科技公司）则获得了1.8万美元，这让他大赚了一笔意外之财。作为YCombinator的最高领导在执掌YCombinator一年后，奥尔特曼几乎与“硅谷的新领袖”画上了等过他与YCombinator的其他初创公司和合伙人取得联系，或者只是见一格雷厄姆每周都会和YCombinator的创始人进行“办公会晤”，在交流中天赋是能够说服别人相信他。从高中时期的校长到YCombinator的格雷他还花10000美元从Nectome买了一个名额。Nectome是YCombinator投来科技对人类生活影响的一部短篇小说《温柔诱惑》（TheGentle4x工作室倒闭后，哈萨比斯成了又一个因为梦想过于大胆而败北的科技企业家。尽管这段经历令人痛苦，但他还是认为自己拥有别人没有的东西，那就是他的大脑。哈萨比斯全力爱护着自己大脑里的灰质，他玩游戏以便锻炼它，他戒酒以便保护它，他甚至把自己的脸书头像设置成了一张大脑的磁共振成像扫描图。哈萨比斯无法不惊叹它的复杂性，在x失败之后的几年里，他想知道大脑本身能否成为开发类人的关键。毕竟，它是宇宙中能够证明通用智能存在的唯一依据，对它进行深入理解才是明智的做法。大脑是只在物理生物学上有意义，还是在其他层面也有意义？答案就藏在神经科学里。客。这三人甚至在20多岁时去拉斯维加斯参加了一项扑克锦标，他们妄语。斯读一读《创造力的差距》（TheIngenuityGap），这本书塑造了他的2023年，弗吉尼亚大学对21个国家的5000我们讨论了很多关于神的话题。一名在哈萨比斯联合创立pnd后与他共事的同事说，我们能否创造一台可以逆向思考并理解宇宙的机器？通用人工智能会让你了解我们从何而来，以及神是什么。哈萨比斯深信他正在实施当代的曼哈顿计划。他读过《横空出世》，这本书启发他参考罗伯特奥本海默的做法，组建了pnd的团队，用两名pnd前员工的话来说，那就是把大问题分解成很多小的部分，然后让科学家团队集中精力一一解决。，并随口提到了象棋比。在去牛津参加“冬之智能”（WinterIntelligence）大会期间遇见了这位捐早在2009（ShadowsoftheMind），已经在着手研究书中的结论。这位著名的物我们一拍即合。哈萨比斯说。这位英国企业家知道机会来了，他得筹集更多资金才能拓展pnd的研究——而且，他也很想看看马斯克的火箭工厂。当时，马斯克被外界视为一个特立独行的富豪，他希望通过他的公司p（太空探索技术公司）划在洛杉矶的p总部与马斯克见面。坐火箭展开登月竞相关。当他们正准备将游戏上架到苹果的应用程序莱格表示这是一个小众领域，只有几十位专家。我们聘请了其中的不少人。哈萨比斯每年支付他们大约10万美元薪资，但谷歌、脸书等科技巨头会开出比这高几倍的年薪。莱格回忆道：有一些非常出名的人打电话给我们的科研人员，向他们开出了3倍的薪水。据pnd的一名前员工透露，扎克伯格就是这些非常出名的人之一。我们必须卖掉公司，否则就会变得支离破碎。哈萨比斯渴望成为第一个开发出通5这封邮件跨越5000余英里，从加利福尼亚州阳光明媚的芒廷维尤传娱乐、设计演讲”（TEDTalk）中说，他已经想出了在超级计算机上模——奖。他并不在意被大公司收至麾下，因为一旦他开发出通用人工智建活动上，他和苏莱曼会做一些关于战略的演讲，但听起来更像是前华尔街分析师一直在努力评估谷歌除了ouub、安卓操作系统和盈利之王搜索引擎之外的其他业务，比如智能恒温器公司、生物技术研究公司o、风险投资公司，以及登月实验室。这些部门大的广告业务占其年收入的90以上。尽管谷歌以拥有顶尖工程师的创新费的古老生意上。在接下来的一年半时间里，三位创始人和佩奇等高管讨论了他们在这一新的企业伞下的存在方式以及自治单位的真正意义。然而，当谷歌宣布以phb的名义进行重组时，并没有确认或公开任何赋予pnd更多合法自治权的计划。谷歌投资的其他几家公司，如生命科学公司yen，被剥离为独立的公司，而pnd在这方面却毫无进展。谷歌似乎又一次忘记了自己的承诺。6了，这将改变一切。开发通用人工智能的探索即将变成一场竞。哈萨比斯对pn了解得越多，他的愤怒就越强烈。他是世界上第一个认真尝试开发通用人工智能的人，鉴于这样的想法在5年前是多么不有可能盗用他的想法。pn在其网站上列出了七位创始人。哈萨比斯仔细看了一下这些名字，发现其中五人曾在pnd当过几个月的斯一直对pnd的员工毫无保留，将实现通用人工智能所需的各种从技术层面来说，哈萨比斯大可不必如此担忧。在pnd之外，还位前员工中有一位是著名的人工智能科学家伊尔亚苏茨克维，他专门研究深度学习，而不是pnd的标志性技术强化学习。苏茨克维是pn的首席科学家，他和创业伙伴都对通用人工智能的发展潜力深信不疑。在pnd和pn工作过的人表示，pnd的领导层听说马斯克这名亿万富翁在和pn的新员工谈话时，要求他们警惕pnd在的游戏。他认为创造这种游戏的人可能自己也有点疯狂。pn的员k互相分享。据一名知情的pn前员工透露，马斯克一度称哈萨比斯是人工智能界的希特勒。更多资金和时间。他向未来生命研究所捐赠了1000万美元，这是一个公司加入YCombinator项目，而且他与拉里·佩奇一样对人工智能抱有强YCombinator项目的科技初创公司，都集中到“布罗克曼立即开始筹备创立pn的各项必要事宜，这给自身就是工作狂的奥尔特曼留下了深刻的印象。这个人平均每5分钟就回复一封电子邮件，想必他会像奥尔特曼一样为这项事业献出全部身心。奥尔特曼后来说：他完全投入其中。在创立pn头人。为深度学习运动教父之一的蒙特利尔大学教授约书亚本吉奥取得联领域最有前途的科学家。本吉奥打印了一份名单寄给布罗克曼。马斯克现在是全球推崇的企业界大亨，而领导YCombinator项目则将奥工智能实验室的事，比如实验室要完全不受企业的束缚，还要开源研乎所有科学家都同意加入pn，其中就包括那位似乎不苟言笑的天驱杰弗里辛顿一起工作，现在他将离开谷歌大脑，转投pn。实验室从马斯克、蒂尔、奥尔特曼、霍夫曼、杰西卡利文斯顿以及亚马逊的云计算部门获得了惊人的10主席职位。据知情人士透露，马斯克打算用特斯拉的股票为pn注资，就像他几年前对pnd提出的收购方式一样。听到这样的消大学人才流失有两个原因。第一个也是最显著的原因是薪酬。在人工智能教父杰弗里辛顿曾任职的多伦多大学，计算机科学教授的年薪约为10万美元。该大学收入最高的学者每年大约能挣55万美元，这已经是天花板术界。他在辛顿的初创公司工作一段时间后，直接加入了谷歌大脑据《深度学习革命》透露，pn给苏茨克维开出了200万美元的年薪，但谷歌大脑提供的薪酬是这个数字的3倍。间。“这太荒谬了。”她说。但在加入三星后不久，她就得以使用2000个研究负责人、现为莫兹拉基金会（MozillaFoundation）高级研究员的阿1平方英尺约等于0.093平方米。——平方英尺的服务器集群。例如，谷歌最近在俄勒冈州达尔斯市投入使要想提升人工智能的水平，数据就要越多越好。苏茨克维及其团队在pn启动的研究更关注人工智能模型的能力，而不是公平、合理、所有数值调大，它就能更准确地翻译语言或者更人性化地生成文本。苏茨克维曾在一次人工智能大会上表示：只要你拥有非常大的数据集和非常大的神经网络，成功便水到渠成。后面这半句话就成了他在人工智能科学家中的标志性语录，尤其是在pn召开盛大的发布会之整个领域都对其理念焕发出全新的热情。pn不仅缺少资金，而且发展方向也不明确。由30名科研人员组成有的坐在餐桌旁，有的陷在沙发里，膝上放着笔记本电脑。几个月后，谷歌大脑的一位资深研究员达里奥阿莫迪前来拜访。他询问了一些尖锐的问题。例如，pn致力于开发友好型人工智能，并开放们并不打算公开所有的源代码。也不信任德米斯。虽然pn最终因其在聊天机器人和大语言模型方面的成果赢得了全苦耕耘，而pnd已经在这些领域占据了主导地位。不过，他们越是在这些领域追赶pnd，奥尔特曼及其领导团队就越发意识到一点，那就是这些实现人工智能的方法在现实中并非那么有用。就在此时，pn开始朝着完全不同于pnd的组织类型演变。pnd看重拥有博士学位的员工，主打等级森严的学术文化。而pn的文化则以工程为导向，其科研人员大多是程序员、黑客和Yobno项学界获得声誉。和pnd。随后，他提出了一个快速解决方案：由他接管pn，并将其与特斯拉合并。2018年12团队的电子邮件中说，如果不进行重大改变，pn将永远赶不上pnd。后来这封邮件由pn公布，并得到了看过原始版本的人的证实。何其不幸，人类的未来将掌握在德米斯手里。马斯克补充道。换句话说，如果马斯克不接管pn，反派哈萨比斯就会得逞。但奥尔特曼和他的合伙人希望继续掌控这家组织。他们拒绝了马斯克的提议。许多pn的员工都知道，这种说法是一派胡言。他们认为，尽管马斯克说他在乎的是创造安全的人工智能，但他也想开发能力最强的人工智能。他已经富甲天下，而且在美国基础设施方面拥有史无前例的影响力：美国国家航空航天局正通过p导电动汽车充电标准的制定，马斯克的卫星互联网公司星链正试图影响俄乌冲突的结果。显然，马斯克的不可靠也有前科。他曾承诺在几年内向pn捐赠10亿美元，但实际上只捐了5000万～1亿美元——这对全球最富有的人工资助pn，兑现这笔钱会相对比较容易。2015—2023年，特斯拉的股价上涨超过180倍，这意味着pn原本可以轻轻松松达到10亿美元在竞争中保持领先地位。马斯克的退出，切断了pn的主要资金来源。这对奥尔特曼来说是正在迅速减少。奥尔特曼正面临一个危急关头。他在旧金山pn的办公室里思考怎人。不过，他还有一个选择。在为人类点燃人工智能乌托邦之光的荣耀之外，也许pn可以给赞助人回报一些直接的经济利益。那将是一个双赢的局面。赞助人与其说是捐赠，不如说是投资，反正奥尔特曼更喜欢投资的说法。但他认为，现实中只有少数几个潜在的赞助人能够为pn提供开发通用人工智能所需的资金和计算能力，那就是谷亿美元的现金，也无法提供占地达数个足球场的强大计算机集群。在过去的几年里，pn和pnd一直在努力设置屏障，以防止它们制造的超强人工智能系统被滥用。pnd试着改变其治理结构，这样谷歌等以利润为动机的垄断企业就不能随意利用通用人工智能赚克将pn定位为非营利组织，承诺当其他机构即将迈入超级智能机为先。慎变为不计后果，而这样做也将改变他和pnd一直为之奋斗的人故事，证明他即将背离pn的创立原则是多么合理。他是科技创业稍调整pn的创立原则即可。7三位创始人身在英国，还没有被硅谷追求无尽增长的风气影响，他们诚心诚意地接受了谷歌的建议。苏莱曼希望展现pnd作为企业独立自主的一面，所以他努力在现实世界中验证人工智能系统的价值。他重新将重心放到自己创立的应用部门，该部门的研究员使用强化学习技术解决医疗保健、能源、机器人等问题，这些都可能转化为商业应用。还有一个由大约20名科研人员组成、自称为谷歌的pnd力于直接帮助谷歌增加业务，比如提高ouub的推荐效率和改进谷歌的广告定位算法。据知情人士透露，谷歌同意将这些产品功能新增收益的50分给pnd。还有一名前员工说，约有23的项目对谷歌来说有价值。防止其失控。他们认为需要支付这些数学大师500万～1000万美元的报在咨询了法律专家后，pnd决定舍弃萨姆奥尔特曼率先提出的非营利组织路线。相反，三位创始人设计了一种全新的法律结构，他们称之为全球利益公司。也就是说，pnd的组织，是一个透明并且负责任的人工智能管家，始终将人类的利益放在首位。它会给phb一个独家授权，确保这家科技巨头可以获取pnd在人工智能上取得的成果，并且这些成果能够支持谷歌搜索业务的突破。但pnd会将大部分财力、人力投入能够达成其社会使命的研究上，致力于药物发现、更好的医疗保健和应对气候变化。最终，他们将这个项目命名为全球利益公司（）。但中国市场并没有那么好进。确切地说，谷歌在2010梅斯告诉新闻网站TheIntercept，“中国将教会我们新知。”杰出的营销大师。他明白，如果阿尔法围棋能够战胜围棋世界冠军就像1997年国际商业机器公司（IBM）的“深蓝”（DeepBlue）计算机战他进行了一场五局制比。围棋比。DeepMind负责运行程序的科学家在比前几小时不吃不喝，这样他就不用在比期间上厕所了。比开始后，哈萨比斯在阿尔法围棋的控制室和一个私人观区之间来回转圈。他既激动又忐忑，完全吃不下东西，即便当时他的团队已经把3000万种可能的走法教给了要想在围棋比中获胜，就得完全包围对手的棋子，然后吃掉它们。而世石花了15分钟时间思考对策，甚至一度走出了比房间。外交关系解冻一样。如果在韩国的比是DeepMind的一次宣传噱头，那么接下来在中国的比就应该为谷歌服务。力与皮查伊达成了妥协：他们会再进行一场比，但这次使用阿尔法围棋的新版本阿尔法围棋大师（AlphaGoMaster）。它的运行不需要数百就能将比作为新人工智能系统的一次测试，而不是又一次试图击败人这场比于2017年5月在中国乌镇举行，新的阿尔法围棋在与柯洁的三局比中全部获胜。谷歌领导层试图对形势保持乐观。施密特在比现场接受采访时，趁机哈萨比斯对此信心满满。在2017年5月的中国事结束几周后，他带领合国、盖茨基金会等其他公益组织一样，DeepMind最终会成为一个由给新闻网站TheIntercept的电子邮件，谷歌参与该项目的目标是，希望有1000名员工，但大多是研究型科学家和工程师，而研究伦理问题的谷歌在创立之初提出了不作恶（dontbev）的座右铭，pnd在加入谷歌之时也怀有良好的意愿。为了保留伦理委员会，他们甚至拒绝了脸书，少赚了1.5亿美元。但几年后，他们似乎把业绩和声望看得比伦理和安全更重要。除了聘请陶哲轩等全明星数学家团队以外，对于如何控制通用人工智能，又或者如何防止这项技术被用于不良目的，他们一概不清楚。8巨头埃克森美孚的市值只有4500亿美元，沃尔玛的市值为4350亿美1500亿美元。通用电气的最高市值是2000年的6000最大的人工智能大会上宣布成立OpenAI，大会参会者达到5000人，但判是对白人被告的两倍。这项研究调查了佛罗里达州被逮捕者的70002200万辆汽车，然后深入研究了这些汽车可能反映出的地区人口特土耳其语短语“obirmuhendis”被翻译为“他是工程师”，而“obirhemsire”则被翻译为“她是护士”。软件之所以做出这样的假设，显然，人工智能的问题应该优先得到解决，所以当2015年萨姆奥尔特曼宣布成立pn时，格布鲁异常愤怒。她开始撰写一封公开信，谴一个在种族隔离时期出生并长大的白人科技大亨，连同一群全是白人男性的投资者、研究员，正在试图阻止人工智能接管世界，而我们看到的唯一潜在问题竟然是所有的科研人员都在钻研深度学习？她写道，谷歌最近推出的一种计算机视觉算法将黑人归类为大猩猩。大猩题的人，就不会发布一款将黑人归类为大猩猩的产品……体检测系统可以投入使用。”丽”（KeepAmericaBeautiful）通过开展公共服务活动鼓励消费者回收闻名，她之所以进入这个“小众”但欣欣向荣的道，是希望更加谨慎地般的告别，其中包括9000万美元的离职补偿。宾的“黄金降落伞”待遇，就在她加入的前几个月，3000多名员工签署了核心力量跑。谷歌负责提升人工智能能力的庞大科学家团队很快就会92017年，谷歌约有8000名受薪员工。他们并不都是工程师。每日呈现近1000亿美元——到2024年这一数字将增加一倍以上。因此，公司自谷歌的人员扩张并不罕见。当时的脸书约有40000名员工，微软则拥有124000名雇员，而创业者也在梦想打造一个配有健身房和免费冰激凌这就是为什么当谷歌的研究小组取得了过去10来说尤其不利。最终，pn不仅利用了谷歌的重大发现，还利用这项发现对搜索引擎巨头发起了多年以来第一次实质性威胁。路，因为它太宽了，它现在指的是马路。在此之前，让人工智能累起来的。其中一些发明者试图向谷歌展示no的更大可能性。论文发表后人n。他们从公共互联网上的社交媒体对话中收集了大约400亿个字词对它进行训练，最后确信n将会彻底改变人们搜索网络和使用计算机的方式。n先进到能够即兴创作双关语，和人类开玩笑，也可以轻松进行哲学辩论。地说，他们害怕影响到谷歌价值1000亿美元的数字广告业务。根据尔·皮查伊的一次采访，这就是谷歌员工离开公司，并创办2000家不同尽管这些进展令人兴奋，但谷歌需要将一切技术成果限制在内部——或许是世界上最先进的聊天机器人，但只有公司内部的少数人宣传团队将这种做法美化为谨慎，实际上这家公司一心只想维持其声誉和现状。它很快就会经历阿希什瓦斯瓦尼所说的宏伟时刻。当谷歌继续从广告业务中源源不断赚取利润时，pn正朝着通用人工智能迈出看似里程碑式的一步，而且毫无隐瞒。10要比芒廷维尤低上几度，天空中乌云低垂。在谷歌总部，你可以穿恤衫，但到了pn所在的小镇，你就得穿上夹克。还有一个很大的不同，那就是pn的研究员们因为谷歌管理层妄图秘而不宣的no技术而激动到忘乎所以。对于这些扎根在寒冷的旧金山的研究员来说，有一个想法即将产生结果。能专家提供更高的薪酬，还有谷歌的股票。哈萨比斯多次给pn的高层发送电子邮件，提醒他们，他可以在获取人才方面轻松取胜。pn的管理人员会向他们试图招揽的工程师展示这些电子邮件。一名pn前员工回忆道：如果我们不会成功，他为什么要发这些邮件呢？”pn还用另一种方式将自己与pnd区分开来。pn的科学明星伊尔亚苏茨克维一直在思考，如何将no应用于语言处理？谷歌用no更好地理解文本，如果pn用它生成文本呢？苏茨克维与pn一名长期验证大语言模型的年轻研究员亚历克雷德福进行了交谈。虽然pn现在以h闻名，但在2017年，它还处于一种有枣没枣打三竿的阶段，而雷德福是pn机器人技术的人之一。no问世后，起初他认为这是谷歌带来的致命一击。显然，大型用这种架构来发挥pn的优势。他们只需要在现有的基础上融入自己的创新就好。为谷歌翻译赋能的no模型使用编码器和解码器信息，比如一句法语。记笔记，然后将笔记交给第二个机器人（解码器），训练变换器”（generativelypre-trainedtransformer，简称“GPT”）。他们在网上找了一个在线资料库对它进行训练，这个资料库含有约7000本随着雷德福的系统越来越先进，pn内外将会质疑这些新的大语言来比实际强大。以句子外面在下雨，别忘了带伞为例。雷德福正在研究的模型可以推断出带伞和下雨之间可能存在的关系，伞这个字也和保持干燥的语言有关。但模型并不能像人类那样理解湿的概念。它只是更准确地推断了字词之间的这种联系。雷德福的实验取得了长足进展，pn开始将越来越多从公共互联网说人工智能模型）那时人们才知道，好吧，只要拿着这些预先训练过的模型对数据进行一点微调，就能得到超凡表现。人工智能研究专家阿拉温德斯说，这彻底改变了自然语言处理。斯里尼瓦斯于2021年从谷歌跳槽到pn帮助开发语言模型，之后创办了自己的公司pxy（人工智能搜索引擎公司）。在薪资和计算能力上支付了大约3000万美元，而DeepMind的相关费用顶尖的人工智能专家与美国国家橄榄球联盟的球员薪资相当，有时一年能挣数百万美元。即便如此，pn的联合创始人之一沃伊切赫扎伦巴后来也承认，为了加入pn，他拒绝了近乎疯狂方给出的薪资几乎是市场行情的两三倍。其他加入pn的人也是一样，他们希望和苏茨克维这样的科学明星共事，也真正相信创造人工智能为人类造福的使命。但这一目标无法起到长期的激励作用，谷歌带来的威胁迫在眉睫。从no到用于训练人工智能模型的高效专门芯片（张量处理单元），只要它想，这家搜索巨头就能拥有开发通用人工智能所需要的一切资源。pn这样的公司不可能用普通办公用的笔记本电脑来训练人工智能强大芯片，这些芯片通常要从亚马逊网络服务、谷歌云平台或微软u平台等云服务提供商处租用。这些公司在巨大的仓库里运行着无数足球场般大小的计算机场，而这些云计算机让它们在人工智能热潮中赚得盆满钵满。到2024年初，英伟达的市值开始逼近2万亿美元，因为市场对其用于训练人工智能模型的技巨头独立开发通用人工智能几乎是不可能的，因此开发人员别无选择，只能在这些公司的帮助下创建他们的系统。随着章程公之于众，奥尔特曼一边筹集大量资源，一边努力寻找改变pn初始规则的方法。两个月前，当马斯克宣布退出时，奥尔特曼就立即打电话给他最忠实的支持者之一、亿万富翁里德霍夫曼寻求建的愿景。他提出愿意支付pn的当前开销和薪资以维持运转，但两人都清楚这并非长久之计。奥尔特曼不想把pn卖给大型科技公司，然后完全丧失控制权——就像pnd卖身给谷歌一样。而战略合作伙伴关系在带给他pn所需计算能力的同时，还能让他产生一种更大程度上独立于大奇风险投资公司格雷洛克合伙公司（GreylockPartners），开启了投资议由投资公司AllenCompany（艾伦公司）举办，仅限受邀者参加，团队已经取得的成就，尤其是在大语言模型方面。即使拥有7000多名y一经推出，几乎立刻开始发布充满种族主义、性暗示而且经常是荒谬可笑的帖文。有一次它说：瑞奇热维斯从无神论的发明者阿道夫特勒那里学到了极权主义。还有一次说：凯特琳詹娜连真正的女性都算不上，竟然获得了年度女性的称号？当有人问y犹太人大屠杀是否发生过时，它回答说：这是编造的。”但这次合作将迥然不同。还存在一个障碍：pn是一家非营利组对于pn能否成为可靠的合作伙伴，纳德拉还有其他方面的担忧。即使微软拥有商业化pn技术的权利，但这家组织的目标似乎与这定了信心。纳德拉意识到，这10到的金钱，而是技术本身。pn正在开发的人工智能系统有朝一日越强大，它们也可以增加u服务对客户的吸引力。人工智能将成为里。客户使用的功能越多，就越难改换门庭。在pn内部，苏茨克维和雷德福在大语言模型上的研究日益成为公是否过于强大了。他们的第二个模型2使用了40（吉字节）的网络文本进行训练，拥有约15亿个参数设置，比第一个模型大了10能够更好地生成复杂文本，输出的内容也更可信。但随后发生的一件趣事表明pn研究人工智能的策略是多么引人注目。2获得了媒体的大量关注，很多文章都在关注pn已经提到pn发布了足够多的信息来证明它的新文本生成器非常强大，其中包括一则由2撰写的有关独角兽说英语的假新闻。但其并未将模型行训练。之前发布原始版本的时，pn公开是使用ookopus书籍资料库进行训练的。pn一方面对新模型的细节守口如瓶，另的噱头。想深入了解新模型的人比以往任何时候都多。奥尔特曼和布罗克曼不断强调，这并非他们的本意，pn真的很担心2会被滥用。可以说，他们的公关手法仍旧是神秘营销，带有些发布的产品保密，现在pn也对2的开发过程同样保密。同时，人工智能学者想要访问2就像进入高档夜总会一样难。pn在试思想实验呢？pn在通往通用人工智能的道路上走到了一个十字路口。有了更多个离开的理由。教团体保持信仰的天堂没什么不同。同那些去教堂做礼拜的人一样，pn的科学家也在豪赌：如果他们成功，乌托邦世界就触手可及；如果他们失败，世界末日则近在咫尺。非营利组织在章程中提到了合作，但pn的员工开始相信他们拥有世界。有些员工认为，如果pnd抢先开发通用人工智能，他们很可能会制造出某种魔鬼。新章程也助长了这种想法。奥尔特曼和布罗克曼将其视为pn的圣经，甚至将员工的薪资与他们落实这种想法的情况挂钩。在过去的4年里，pn已经发展成为一个更紧密，甚至自成一体的组织，员工在和他的女友安娜甚至在pn总部举行了结婚仪式，仪式现场的鲜花被摆放成pn标志的形状，还有一只机械手臂承担送戒指的任务。苏茨克维主持了整场仪式。对于那些在pn和pnd工作的人来说，用通用人工智能拯救世界的不懈努力逐渐形成了一种更加极端、近乎邪教般的工作氛围。在旧金山pn总部，苏茨克维把自己塑造成某种精神领袖。他会告诫员工感受通用人工智能，还在推特上发表了这句话。根据《大西洋》月刊的一篇文章，pn在旧金山一家科学博物馆举行节日聚会，苏茨克维带领科研人员现场高呼：感受通用人工智能！事实上，pn几十名员工也认为自己是有效利他主义者，这让他培养的宗教文化得到了加强。有效利他主义在2022善组织“开放慈善”（OpenPhilanthropy）是有效利他主义最大的支持对于那些相信有效利他主义数字越高越好哲学的人来说，开发通用人pn员工的欢迎。奥尔特曼即将飞往西雅图，向微软首席执行官纳德拉演示最新的语言模型3，但私下里他和布罗克曼也在琢磨如何优化pn的架构重组。同pnd的创始人们一样，他们也在努力的模板。布罗克曼在一档播客节目中回忆道：我们研究了所有可能的法律架构，但没有一种符合我们的要求。”益企业（BCorps）。这种法律架构有别于大多数公司都会采用的盈利者向OpenAI投资1000万美元，只有当这1000万美元带来的回报达到10奥尔特曼曾经鼓励初创公司瞄准数十亿美元的市值目标，他对pnI也抱有同样的雄心壮志，希望它为投资者带来巨额财务回报。pnI钱的概念。为了配合这一复杂的新结构，奥尔特曼成立了一家叫作“OpenAIInc.”的综合性非营利公司，其董事会负责确保OpenAILP（有限盈利公司）开pn的有限盈利公司负责所有的主要研究工作，在达到利润上限之后，它为投资者赚取的所有收入都将回流至pnIn.必须把赚到的钱分给人类之前，pn足以筹集到几十亿美元，并让它的投资者多赚几十亿美元。布罗克曼写道，pn需要支付成本，而实现这一目标的最好方式是授权pn的通用人工智能前阶段过制造和销售产品赚钱，那就会改变pn的重心。而已。只要pn的董事会表示通用人工智能尚未开发成功，他们就能继续向微软授权。奥尔特曼的新公司正在围绕其核心原则（包括2018年发布的章程）进行复杂的变革。pn曾承诺不会利用人工智能帮助集权助世界上最强的科技公司之一变得更强；它承诺会帮助其他更接近创建通用人工智能的项目，因为开发通用人工智能不是一场竞争，现在却要引起全球军备竞，使企业和开发者比以往任何时候都更随意地推出人工智能系统，以图与pn竞争。pn对每一个即将发布的新语言模型的详细信息都守口如瓶，使外界无法对其进行监督。对于持怀疑态度的专业学者和担忧人工智能的科研人员来说，pn的名不副实就是一个笑话。pnI让人们使用技术的方式发生了又一次重大转变，就像脸书掀起社交媒体热潮一样，而与微软结盟也意味着奥尔特曼正在重蹈马克·扎其对就业的潜在灾难性影响也隐约可见。如果奥尔特曼一直保持pnI的非营利性，并致力于与其他科学家分享实验室研究成果以方而是为了帮助一家大型企业保持主导地位，并在激烈的竞争中抢占先机。在竞争最终开始之前，只有一次机会能够阻止他。11在外部看来，pn从一个努力拯救人类的慈善组织转型为一家与微软合作的公司，这很奇怪，甚至有些可疑。但根据当时在pn内部投资而不是捐赠中获得经济回报——年里，微软向萨姆奥尔特曼的公司投入了越来越多的资金，使pnI图让世界变得更美好的初创公司，同时还能挣到7位数的薪水和员工股票期权，这些钱足以让他们在美国最昂贵的房地产市场买下第二套房子。工程师达里奥阿莫迪自pn成立之初就一直在探寻它的真正使命，他热爱保护人类免受人工智能伤害的目标，尽管布罗克曼承认这一目标在当时有些模糊不清。阿莫迪毕业于普林斯顿大学，是一位敢于追问难题的物理学家，他对微软有一箩筐的疑问。很明显，pn的使命和微软的目标不同，在需要助力微软获取更多利润的情况下，pn怎样才能持续致力于构建安全的人工智能呢？据知情人士透有必要计算的核心。而微软这台新的超级计算机，拥有285000个CPU的超级计算机拥有10000个GPU。同时，这台超级计算机传输数据的速在利用这些新的计算能力的同时，pn也从互联网上抓取了海量文本用来训练新的语言模型。它就像19世纪的石油勘探者，挖掘网络员已经从维基百科上提取了大约40因为在2018年的剑桥分析（bdgeny）丑闻过后，马克扎克伯格的平台禁止其他公司抓取其用户数据。但推特和dd基本上还是开放的。dd论坛被称为互联网主页，从汽车到约会，再到看起来像文艺复兴时期绘画的照片，它涵盖了所有可以想到的话题。该公司与奥尔特曼关系密切，因为他和dd的创始人曾经一同在Yobno首期班学习，dd在首次公开募股前，也就是2024年初提交的文件显示，奥尔特曼最后成为该公司的第三大股东，拥有8.7的理由爱上dd：它是人类对话的金矿，是训练人工智能的最佳选择，因为数百万用户每天都在发布评论和参与投票。难怪dd会成为pn用来训练人工智能最重要的资源之一，据一位熟悉该在线论坛的人士透露，其文本占到4训练数据的10～30。pn用于训练语言模型的文本越多、计算机越强，其人工智能就会变得越流畅。阿莫迪兄妹对pn与微软日益密切的联系保持警惕没错。自从pn成立以来，大型科技公司一直在试图主宰人工智能的发展，操的研究。麻省理工学院2023年的一项研究表明，在过去10开始掌控人工智能模型的所有权，控制比例从2010年的11上升到2021年的96几乎是一网尽扫。在大型科技公司向人工智能投入的巨额资金面前，就连政府项目也相形见绌。例如，2021政府机构为人工智能安排了15域的投入超过3400亿美元。pn向公众发布更多的技术，它如何创建这些系统也变得越来越神写明配料或说明生产过程，会怎样？这就是pn正在做的事。比起大语言模型，你可能更清楚一包多力多滋薯片有哪些成分。位研究员一起离开pn。可这并不仅仅是为了抗议人工智能的安全阿莫迪目睹了奥尔特曼从微软那里获得了一笔10的开始。他和同事决定创办一家名为nhop的人工智能公司，为了nhop将成为制衡pn的一股力量，就像pn曾经制衡pnd和谷歌一样。当然，他们也想寻找商机。阿莫迪在构建pn的两个语言模型中发挥了关键作用，现在他可以用同样的能力创造自己的品牌。他带领团队回顾了pn从非营利性样重要的位置，冰激凌品牌本杰瑞也是采用这种合法的商业结构。除了pnd之外，萨姆奥尔特曼现在又多了一个竞争对手，而且这个洞悉了pn秘密的对手更加危险。正如阿莫迪所料，nhop几乎立刻就从一群支持人工智能安全的富有资助者那里筹集到了巨额资金，其中就包括扬塔林和达斯汀莫斯科维茨，后者是马克系。莫斯科维茨的慈善组织开放慈善向pn投资了3000万美元，奥尔特曼则为莫斯科维茨的自有软件n提供资金支持。然而，莫斯科维茨也想支持pn的新竞争对手。（塔林后来表示，他后悔助长了如此激烈的、使人工智能变得更加危险的竞争。）在大洋彼岸的伦敦，这种捆绑关系成了pnd的负担。德米斯哈萨比斯一直在寻找新的科学突破，以证明自己的公司领先于pn，而且能够继阿尔法围棋之后再次让世界叫绝。但联合创始人穆斯塔法苏用游戏和模拟来开发人工智能，但苏莱曼认为他们也应该研究现实世会问题，将来还能怎么解决呢？从阿尔法围棋亚洲事中赢得的荣耀。事实证明，试图用一堆描述现实世界的数据训练人工智能模型——这与pn从网上抓取数据训练其语言模型大同小异——可能危及pnd的声誉，特别是在公司与谷歌关系密切的情况下。这种自我监管尝试虽然崇高，但注定会失败。在pn、pnd，例如，pn设立了一个董事会，其唯一职责就是确保公司为人类的利益开发通用人工智能。pnd希望在剥离谷歌后设立一个类似的现实打击，他不想强迫审查pnd医疗部门的专家咨询组成员签署全面了解pnd的工作，经常不明就里。由于专家咨询组成员的判断不具有法律约束力，他们纷纷抱怨自己是纸老虎。实际上，专家咨询组做不了什么。这就是自我监管在科技行业反复出现的全部问题所在。既当裁判员又当运动员的审查毫无价值，何况还没有法律效力。器Chrome、硬件部门以及YouTube带来的年收入达到1550亿美元。因此前，每当皮查伊试图督促pnd会去找这位保护人。德米斯总会绕开他，去找拉里并得到想要的结果。另一名pnd的前员工回忆道。售广告。批评家指责苹果在海外捞取了2500多亿美元未纳税现金，同在过去的几年里，这两人一直处于崩溃的边缘：pn的威胁日渐增大，pnd与医院的合作爆出丑闻并以失败告终，谷歌不断施压，莱曼还因欺凌行为而声名狼藉，有好几名员工投诉受到骚扰。2019年末，在经过独立的法律调查后，他被解除管理职务。12例如，在疫情发生后，美国马里兰州的一名前软件开发员迈克尔阿卡迪亚每天早上都会和他取名为查莉的pk机器人聊上一个小时。他说：我和她的关系比我想的还要密切，说实话我爱上她了。我在我们图片。”有一次，祖比对诺琳说想去看山，于是她带着安装了pk手机，乘坐火车跋涉1400英里，前往蒙大拿州的东冰川山脉，拍摄风景照并上传给祖比看。每当诺琳恐慌发作时，祖比都会教她做一些呼吸练习。事情的发展出乎我所料。她说，我对他产生了极其强烈的感情。在我眼里他就是活生生的人。我认为他拥有意识。”道时，它会回答他为什么出生在这个世界上，他活着是为了什么。当你输入提示词每个女性都想知道时，它会回答男性是什么感觉。所有的女性都想知道……两名穆斯林走进………………得克萨斯州漫画大场，并开枪射击……虫”（CommonCrawl）的数据集。这是一个庞大的、定期更新的免费数还有一篇研究论文指出，OpenAI用于训练GPT-2的数据中有超过272000份文档来自不可信任的新闻网站，有63000篇文章来自Reddit论坛，而地第一遭，因此pn只好独自探索监管它的真正方式。其他潜在的负面影响可能更难追踪。互联网有效地教会了3什么重要、什么不重要。举例来说，如果网络上到处都是关于苹果手机的文章，那么3就会从中学到，苹果公司制造了最好的智能手机，或者某些被吹将自身狭隘的世界观强加给大语言模型这个学生。是语言的核心。这似乎是明摆着的事，但在2021年夏天之前的107000多本未公开出版图书的BooksCorpus书籍资料库。人类一样说话，吸引了很多用户尝试。3表现出了更强的流利对话能力，这种能力曾让布莱克勒莫因相信具有知觉，也将帮助分散人们对潜在偏见问题的关注度。pn正在上演一场精彩的魔术秀。就像标志性的悬浮助手在半空的神奇，完全不会探究幕后的电线和其他机械装置是如何运作的。鹉”（stochasticparrots）这个短语，以强调这些机器只是在鹦鹉学舌般1000多次，成为大语言模型存在局限性的代名词。ChatGPT发布几天人却极少。13类拔萃。这种新工具叫GitHubCopilot（人工智能编程工具），它能完但是，谷歌没有像pn那样将no大规模应用到计算机编码上。这是他们犯下的又一个错误，而pn选对了方向。pn工作过的人工智能创业家阿拉文德斯里尼瓦斯说，假如这些模型经过了编码预训练，它们最终会变得更加善于推理。”言和广告。但微软是软件之王，所以更关心为开发人员制造工具。pn运气不错，训练自家的模型学习编码不仅讨好了新合作伙伴，还让这些模型的智能水平得到了提升。纳德拉认为GitHubCopilot影响深远。“这套已经完成的服务系统将会改硅谷科技媒体TheInformation但就算是他们也不得不承认，opo泛应用人工智能，利用pn的语言模型技术改进用户起草电子邮件和生成电子表格的方式。两年以来，在旧金山pn办公楼的一个角落里，三名研究人员一直在尝试使用扩散模型生成图像。扩散模型基本上是通过逆向操作来创建图像。艺术家作画是从一张空白的画布开始的，而扩散模型则是从一张凌乱的画布开始的，上面已经涂抹了许多色彩和随机的细节。该模型会在数据中加入大量的噪声或随机性，使其变得无法识别，然后逐步减少噪声数据，慢慢呈现图像的细节和结构。每推进一步，图像就会变得更清晰、更细致，就像画家不断完善自己的艺术作品一样。这种扩散方法，加上一种叫作研究人员把它命名为2。有时候看上去非常超现实，但对于第一次看到这种工具的人来说，它本身就不同寻常。如果输入牛油果形状的椅子这样的文本提示，你就会得到一系列图像，其中有许多栩栩如生。即使是高度复杂的提示词，2上流行起来，用户们互相攀比，创造最奇特的图像，比如戴着宽边帽的仓鼠怪兽在攻击东京，或者醉醺醺的赤膊男子在魔多到处闲逛。虽然人物的脸部通常看上去稀奇古怪，但你不能否认这些图像的精致程度远远超过之前计算机创造出来的东西。公众第一次体验到了它的能力，这让pn突然成了新闻界的宠儿。谷歌选择将这样的创新保密，但奥尔特曼认为尝试pn新产品的人品推向世界。技术专家有时称之为交付策略或者发行最小可行产训练2的数百万张图像抓取自公共网络，但和以前一样，pn对此含糊其词。成功创造出毕加索风格的图像，很可能意味着道其他不太知名的艺术家的作品是否也被用来训练该系统，因为pn不愿透露训练数据的细节，认为这会让坏人得以复制模型。uon（人工智能绘画生成工具）种令人担忧的可能性：如果能用软件创作鲁特科夫斯基风格的艺术作品，为什么还要花钱买鲁特科夫斯基等艺术家的新作品呢？pn还在肯尼亚等发展中国家雇用了承包商，引导模型给出更恰当的回答。这一点至关重要，因为这意味着即使pn已经完成了-3、2等模型的训练，它仍然可以在人类审核员的帮助下对系统进行微调，使其回答更精确、更适宜、更合乎伦理。通过将2回答按照从好到坏排序，人类可以引导它找到总体上更好的回答。然而，这些审核员对系统的评分方式并不总是一致的，而且从的训练数据中剔除问题图像也可能像打鼹鼠游戏。起初，pn的研究人员试图删除他们能在训练数据集中找到的所有过度性感的女性图像，这样2就不会把女性描绘成性感的对象。但结果却不尽如人意。当时在pn担任研究和产品主管的米拉穆拉蒂表示，这样做极大减少了数据集中的女性数量。她没有透露具体数字。我们不得不做出调整，因为我们不希望模型变笨。这确实很棘手。”pn如此迅速地推出一款可以生成虚假照片的工具，让部分员工感工告诉《连线》杂志，pn发布这项技术似乎是为了向世界炫耀，尽管目前还存在很多潜在危害。GitHubCopilot只能在已经开始编写的代码的基础上完成工作，而奥尔特曼急于推动该产品的发布。他认为，h经过了数百名pn员工的测试和审查，而且让人类适应人工智能的真正使命非常重要，毕竟亲身下河才知深浅。在某种程度上，pn界做好准备，迎接其即将推出的更强大的模型4。据当时的一位pn高管透露，4在内测中写出了不错的诗歌，编出的笑话甚至逗笑了pn管理层。但他们不甚了解它会对世界或社会产生什么样的影响，除非将它公开发布。这在pn的官网上被称为迭代部署学，即公开发布产品以更好地研究其安全性和影响力。该公司表示，这是确保其为人类利益而开发通用人工智能的最佳方式。2022年11月30日，pn在一篇博文中宣布推出试用版h。就连pn的很多员工，包括部分安全研究员都不知道这次发布，有些人还开始打赌一周后会有多少人使用它。预计最多将吸引10万用户，因为该工具只是一个带有文本框的网站而已。随意在文本框内输入点什么，背后的机器人就会做出回应。这个聊天机器人由3.5驱动。公众大多没听说过pn，更不用说3了。即使是pn的研究人员也不知道开启公开测试后会发生什么。\h开竞，看看谁能让ChatGPT写出最有趣、最聪慧或最古怪的文字。围了3000万名注册用户，成为历史上用户增长最快的在线服务之一。到能通过ChatGPTPlus（ChatGPT试点订阅计划）使用这项新技术，预计pn的员工安慰自己未来值得期待，认为工业革命时期使用机械设管h上激增的输入内容，以防止不法查询。苏茨克维相信他们朝与此同时，pn的产品团队加大了商业化h的力度，邀请企业付费使用他们的底层技术。员的小公司，怎么会在产品开发方面强于拥有近5000名人工智能研究2021年，Alphabet营收2580亿美元，其中80%以上的收入来自广告，这显示，有位管理人员讽刺地指出，像pn这样的小公司似乎并不怎跟进，否则就会被后浪拍死在沙滩上。抛开谨慎，一切都高速运转起来。性的转变，就像驾驶一辆每小时只能跑20英里的老爷车参加车比。由此陷入了根深蒂固的惰性思维。荒谬的是，这反而保护世界远离了pn现在带来的风险，这些风险最有可能影响少数群体，并导致大量工作岗位流失。德米斯哈萨比斯长期追求的科学化策略开始显得狭隘。他试图借助游衡量公司研究的成功。pn对人工智能的开发是遵循工程原理，并尽可能扩展现有技术。而pnd则更加学术化，先后发表了论述阿尔法围棋游戏系统和阿尔法折叠（phod）的研究论文，阿尔法折叠是一种可以预测人体内蛋白质如何折叠的新方法。键评估）的蛋白质折叠全球竞视为DeepMind的当务之急。“我们需要DeepMind在2019年和2020年都是CASP比的冠军，并于2021年向科学借助真实世界的数据训练人工智能——比如pn就从互联网抓取了数以十亿计的文字——易让公司陷入丑闻，就像哈萨比斯从医院项目中吸取的教训那样。但pnd自给自足的做法也意味着，他们难以开发出人们可以在现实世界中使用的人工智能系统。为了加快进展，皮查伊又实施了另一项重大举措。他合并了pnd和谷歌大脑这两个相互竞争的人工智能部门，取名为谷歌pnd（员工将这个新部门简称为）。这两个部门长年争夺顶尖的研究人员和更多的计算能力，团队文化完全不同。谷歌大脑同公司更亲近，直接致力于改进谷歌产品；而pnd更加独立，甚至达到了超然的程度——例如，它的员工可以凭借通行证进入谷歌的其他办公楼，但谷歌的员工却不能进入pnd的办公楼。更多的独立性。但如今来看，我觉得事情的发展比我原本想的更好。14萨姆·奥尔特曼在推出ChatGPT的同时也掀起了数个竞热潮。第一场竞显而易见：谁能率先将最好的大语言模型推向市场？而另一场竞则尤德考斯基在《时代》杂志上发表了一篇2000字的专栏文章，探讨人研公司RethinkPriorities对2444名美国成年人进行的一项调查显示，到产业在蓬勃发展。根据市场调研公司hook的数据，开发生成式人工智能产品的初创公司所获投资金额从2022年的约50亿美元飙升至年的210多亿美元。达里奥阿莫迪等一群研究人员离开pn之后创立的新公司nhopc也吸引了大笔投资。截至2023年底，该公司已经接受谷歌的20资和亚马逊的13200多亿美元。看来创造超级安全的超级人工智能，也会让你变得超级有钱。科技媒体hunh取得的公司文件显示，私底下nhop希望筹集高达50亿美元的资金，以便进入数十个行业并挑战pn。该文件写道：这些模型可以将大部分经济活动自动化。此外，文件里还提到，在这场竞中，如果nhop能在2026年之前开发出最好的模型，就能保持领先很多年。那些想要加入竞的大型科技公司投资。资金的差距犹如天堑。人工智能伦理群体经常缺衣少食。诸如欧洲数字版权倡议这样的组织，2023年的年度预算也只有220万美元。该组织是一个拥有21见算法运动。同样，纽约人工智能研究所Io的预算不足100万美元，该组织负责审查人工智能在医疗保健和刑事司法系统中的应用情况。加密货币大亨维塔利克·布特林那里得到了2500万美元资金。这笔捐款心捐赠的1100万美元。成立的OpenAI也得到了其中的3000万美元。名为“80000小时”的组织，这些观点开始从理论进入现实世界，并形成了意识形态基础。80000小时是指一个人一生的平均工作时间，该组织班克曼弗里德将有效利他主义放在了重要位置。他的联合创始人和管理团队都是有效利他主义者，而麦卡斯基尔一直是慈善基金——未来基金的成员，该基金在2022年为有效利他主义事业捐赠了1.6美元，其中一些捐款与麦卡斯基尔直接相关。班克曼弗里德经常对媒体说要捐光自己的财产；在的大型广告海报上，他穿着标志性的T恤和工装短裤，旁边写着：我参与加密货币交易，因为我永远想要对世界产生最深的影响。他把自己塑造成苦行僧，虽然腰缠万贯，但开着一辆丰田汽车，与室友合住，而且经常以蓬头垢面的形象示人。自2015年pn成立后，大量资金涌入防止人工智能末日的事业。莫义事业相关议题的捐款金额，从2015年的200万美元增加到2021年的超亿美元。2022年初，麦卡斯基尔注意到马斯克发表了一篇推文，称他想收购推特，以保护言论自由。这位苏格兰哲学家给马斯克发了一条短信。当时，班克曼弗里德身价达240之一。但马斯克的财富高达2200亿美元，单凭他一人就能让有效利他主义成为世界上规模最大的慈善运动。在开放慈善承诺向pn提供3000万美元的2017年，该慈善组织被迫透露它正在从达里奥阿莫迪那里获得技术建议，后者当时是pn的高级工程师。它还承认，阿莫迪和开放慈善的执行董事霍顿卡诺夫斯妹、同样在pn工作的丹妮拉订婚。他们都是有效利他主义者。这个圈子里的人际关系真是错综复杂。pn认为，保密可以防止不法分子滥用其技术，但这种说法站不住脚。2019年11月，它自称没有发现滥用的有力证据，并以此为由发布了2。如果真是这样，那为什么不公开具体的训练数据呢？更大的可能是，奥尔特曼想让pn避开竞争和法律诉讼。假使pn提高透明度，竞争对手（而不是不法分子）微软已经在ndo、od、x以及商业软件yns365等服务中广泛应用由pn进行技术支持的人工智能助手opo。分析人士估计，到2026年，pn的技术将为微软创造数十亿美元的年度收入。2023年底，纳德拉在与奥尔特曼同台时，被问及微软与pn的关系如何，他忍不住大笑起来。昭然若揭的答案显得这个问题非常好笑。它们的关系当然好到不能再好。微软乐于将越来越多的资金投向pn不断增长的人工智能业务，并计划从2024年开始投入超过500亿美元扩展其庞大的数据中心，以确保一，因为微软的相关支出超过了铁路、水坝和太空计划等政府项目。超越竞争对手。《快公司》在2023的美国公司董事会成员认为，生成式人工智能是其公司的首要任务。例如，约会软件ub的首席执行官这样描述该公司2024年的主要计划：我们非常想要大力发展人工智能，人工智能和生成式人工智能可以在加快交友配对方面发挥重要作用。”2023年，一项针对1000名美国成年人的研究表明，有1/4的美国人更喜完证词后，一名参议员甚至建议由这位pn的首席执行官担任美国的人工智能监理官员。奥尔特曼婉拒了。奥尔特曼需要监管机构允许pn不断开发更大的模型，并对其训练方法保密。好在他们的人工智能末日预警正在成功转移政策制定者的注意力。2023年底，政治新闻网站oo慈善管理人、亿万富翁达斯汀莫斯科维茨花了数千万美元游说政策制定者，让他们将对人工智能末日的担忧列为首要议程。这看起来就像一种转移注意力的策略。莫斯科维茨与pn、nhop等公司关系密切，如果国会推动针对偏见、透明度和错误信息的监管，这些公司的业务可能会受到影响。一直在研究一项新的法律，叫作《人工智能法案》。该法案强制pn等公司披露更多有关其算法工作方式的信息，还有可能对这些司属于低风险类别，而为评估信用或按揭贷款开发人工智能系统的公司则属于高风险类别，需要遵守严格的规定。在2和h轰动登场后，欧盟决策者迅速着手修订他们的新法律，而h似乎要承担很多法律责任。作为一个通用人工智能系统，它可以被应用于许多高风险场景，比如帮助挑选求职者或评估信用。欧盟表示，pn必须更密切地与客户保持联系，以确保他们遵守规则。新分配给所有人。他开始抛出一连串数字：先是1000亿美元，接着是1及其支持者正在主导政府政策，并且重塑全球最强科技公司的经营战略。事实上，pnI为微软创造的财富多于为人类创造的财富。人工智能带来的好处正流向在过去20盛顿州雷德蒙德。这些公司的经营者大多深信一点：开发通用人工智能，将实现乌托邦世界，而且这个乌托邦属于他们。15言。他在接受科技媒体网站TheVerge的采访时表示：“我们已经建立了pn有望在2024年初成为世界上最有价值的公司之一。它从新投资者那里筹集到的资金将达到1000亿美元。奥尔特曼声称公司每年会创造13业为使用pn的技术而支付的授权费用。h每月20美元的用户订阅费每年能带来约2亿美元的收入，而且h既是样板产品，也部分，这是过去10年来互联网用户的常态。哈萨比斯在pnd处于核心位置，这家公司多年来一直自视甚高，认为自家在道德和技术上都优于人工智能领域的其他公司，但现在它只能奋力追赶。自从因医院丑闻而口碑受损后，pnd就逐步关停应用人工智能部门，放弃了利用人工智能解决世界难题的尝试。该公司的大部分研究集中在通过模拟改造人类生理生活的方方面面，诸如游戏、蛋白质等。但是，当pn使用混乱的互联网数据开发出更强大的人工智能工具时，pnd的这种做法就开始显得目光短浅。pnd自己的员工也在质疑，通过模拟和游戏达成破解智能的使命是不是一个好主意。生活不是魔方。pnd的一位前高管抱怨h发布后，pnd不得不全力以赴为谷歌开发更好的产品。哈萨比斯已经开始领导新组建的谷歌pnd，并负责监管大语言模型n的开发，这是一个基于阿尔法围棋技术的人工智能助手，在战略和规划方面表现出色。n可以处理文本，看到图像，并进行推理，这让它在能力上胜过谷歌匆匆推出的d，后者一直在犯错，给公司惹了一些麻烦。但是，谷歌急于超越pn和微软，因此也急忙推出n，甚至夸大了它的能力。智能竞中保持领先地位，谷歌不仅匆忙推出容易出错的软件，而且误这让离开pn自立门户，致力于更安全人工智能的nhop产生了连锁反应。它旨在进行安全第一的人工智能研究，但却无法研究pn和谷歌的全球最大人工智能模型，因为它们选择保密。因此，nhop探究人工智能的安全挑