宏观策略-WAIC 2025前沿聚焦（1）：“AI教父”Hinton解构AI文明危机

本研究报告由海通国际分销，海通国际是由海通国际研究有限公司，海通证券印度私人有限公司，海通国际株式会社和海通国际证券集团其他各成员单位的证券研究团队所组成的全球品牌，海通国际证券集团各成员分别在其许可的司法管辖区内从事证券活动。关于海通国际的分析师证明，重要披露声明和免责声明，请参阅附录。(Pleaseseeap27Jul2025barney.sq.yao@louis.■■热点速评FlashAnalysis事件2025年7月26日，在上海举行的2025世界人工智能大会（WAIC）上，2018年图灵奖得主、2024年诺贝尔物理学奖获得者、被誉为“人工智能教父”的杰弗里・辛顿（GeoffreyHinton）首次在中国发表主题演讲，题为“数字智能是否会取代生物智能”。辛顿详细回顾了AI研究过去60多年的发展历程，深入浅出地阐述了大语言模型与人类认知之间的高度相似性，并提出了人工智能超越人类智慧后的种种潜在风险与机遇，呼吁国际社会建立协作机制以防止AI失点评对AI发展认知的深刻性。辛顿回顾了AI领域60多年来的两种理解范式，一种是逻辑型，通过符号规则表达操作实现推理；另一种是受图灵和冯诺依曼启发，认为智能基础在于学习神经网络中的链接。他以自身1985年所做的小模型为例，阐述了从那时起对语言中词与词关系的探索，历经多年发展，如今的大语言模型（LLM）正是当年小模型的后代。辛顿强调大语言模型理解语言的方式与人类相似，都是将语言转化为特征并整合。辛顿对AI发展历程中两种范式的梳理，清晰地展现了AI从早期概念到如今蓬勃发展的技术脉络。他通过自身研究经历，将早期探索与当下大语言模型紧密联系，使人们深刻认识到AI技术发展的延续性。其对大语言模型理解语言方式与人类相似性的阐述，打破了以往对AI理解的刻板认知，让人们意识到AI在语言处理上正趋近人类思维模式。这种深入的剖析有助于科研人员从新的视角审视AI的发展方向，为进一步优化模型、提升AI智能水平提供了理论支撑，也为大众理解复杂的AI技术提供了通俗易懂的切入点。对AI潜在风险洞察的前瞻性。辛顿指出数字智能在知识迁移方面具有巨大优势，信息量每次可达到上万亿比特。而当AI智能体具备自我复制、设定子目标和评估目标优先级的能力后，可能会产生生存和增强控制力的动机，这将使人类难以简单地控制或关闭它们。他对AI智能体可能产生的生存和增强控制力动机的洞察具有相当的前瞻性。随着AI技术的快速发展，智能体在各个领域的应用愈发广泛，当它们具备自主决策和目标设定能力时，确实存在脱离人类控制的风险。就如同他所比喻的养虎为患，一旦AI智能体的智能超越人类，人类将难以掌控局面。他的观点警示着全球科研人员、企业以及政府，在大力发展AI技术的同时，绝不能忽视其潜在的安全隐患，必须提前布局应对策略，防止AI走向与人类利益相悖的方向。应对AI风险策略的合理性。辛顿提议全球发展AI的主要国家构建一个网络，研究如何让聪明的AI辅助人类，而非消灭或统治人类，还呼吁建立由AI安全机构构成的国际社群来训练AI向善。辛顿提出构建国际社群研究训练AI向善、全球主要国家建立相关网络等应对策略具有较高的合理性。鉴于AI发展的全球性以及潜在风险的跨国界性，单一国家的努力难以有效应对AI失控的威胁。通过国际合作，各国可以共享资源、汇聚智慧，共同研究如何将AI的发展引导到对人类有益的方向。同时，将训练AI向善的技术与训练AI聪明的技术分离，为各国在保障AI安全的研究上提供了明确的思路，使得各国能够在自身主权范围内开展针对性研究，并最终通过国际合作分享成果，为人类长期面临的AI安全问题探索出可行的解决方案。风险提示：1）AI需求不及预期；2）地缘政治环境干扰供应链；3）AI数据中心建造放缓228Jul20252328Jul20253428Jul20254528Jul20255628Jul20256Source:WAIC2025,HTI728Jul20257APPENDIX1SummaryEventOnJuly26,2025,attheWorldArtificialIntelligenceConference(WAIC)inShanghai,GeoffreyHinton,recipientofthe2018TuringAward,2024NobelPrizeinPhysics,andknownasthe"GodfatherofAI,"deliveredtheopeningkeynotetitled"WillDigitalIntelligenceReplaceBiologicalIntelligence?"HintonreviewedthetwoparadigmsthathavedominatedAIunderstandingoverthepast60years.Thefirstislogic-based,usingsymbolicrulesforreasoning;thesecond,inspiredbyTuringandvonNeumann,emphasizeslearningconnectionswithinneuralnetworks.Hereferencedhisownsmall-scalemodelfrom1985,detailinghisexplorationofword-to-wordrelationshipsinlanguage,andnotedthattoday'sLargeLanguageModels(LLMs)aredescendantsoftheseearlymodels.HintonemphasizedthatLLMsunderstandlanguagesimilarlytohumans—bothtranslatelanguageintofeaturesandintegratethese.Hehighlightedthatdigitalintelligenceholdsimmenseadvantagesinknowledgetransfer,handlinginformationtransfersreachingtrillionsofbitsperinstance.Moreover,onceAIagentspossesscapabilitiessuchasself-replication,sub-goalsetting,andprioritizingobjectives,theymightdevelopmotivesforsurvivalandincreasingcontrol,makinghumanoversightorshutdowndifficult.HintonproposedestablishinganinternationalnetworkamongmajorAI-developingnationstoresearchwaysforintelligentAItoassisthumanityratherthandominateoreliminateit.HealsoadvocatedforthecreationofaglobalcommunityofAIsafetyorganizationstotrainAItowardsbenevolence.CommentaryProfoundUnderstandingofAIDevelopmentHinton’scleardelineationofAI’stwohistoricalparadigmsillustratesAI’sevolutionfromearlytheoreticalconceptstotoday'srapidlyadvancingtechnologies.Usinghisownresearchexperiences,heeffectivelyconnectedearlyexplorationstocontemporarylargelanguagemodels,helpingtheaudiencegraspthecontinuityinAItechnologicalprogress.HisdescriptionofthesimilaritybetweenLLMs'languageunderstandingandhumancognitionchallengestraditional,rigidviewsofAI,promptingrecognitionthatAIisincreasinglyapproachinghumancognitiveprocessesinlanguagehandling.SuchprofoundanalysissupportsresearchersinreassessingAI'sdevelopmentaltrajectory,providingtheoreticalgroundingforoptimizingfuturemodelsandenhancingAIintelligence,whilealsoofferingthegeneralpublicanaccessibleunderstandingofcomplexAItechnologies.Forward-LookingInsightintoAIRisksHinton’sinsightsregardingthepotentialemergenceofsurvivalinstinctsandcontrol-enhancingmotivationsamongAIagentsdemonstratesignificantforesight.AsAItechnologiesrapidlyadvanceandagentsbecomemoreprevalentacrossvariousfields,theriskoflosinghumancontrolgrowsoncetheseagentsgainautonomousdecision-makingandgoal-settingcapabilities.Hismetaphorof"raisingatiger"aptlycapturesthisrisk—ifAIintelligencesurpasseshumans,maintaininghumanoversightwillbecomechallenging.Hinton'sperspectiveservesasacautionarycallforglobalresearchers,corporations,andgovernments,emphasizingthenecessityofproactivelyaddressingsafetyconcernsalongsidetechnologicaladvancementstoensureAIalignswithhumaninterests.RationalityofProposedStrategiestoMitigateAIRisksHinton’ssuggestedstrategies—forminganinternationalcommunityfocusedontrainingAItowardsbenevolenceandestablishingnetworksamongleadingAI-developingnations—demonstratestrongpracticality.GivenAI'sglobalnatureandthetransnationalscopeofitspotentialrisks,isolatednationaleffortsareinsufficientineffectivelymitigatingthedangersofuncontrolledAI.Internationalcollaborationenablesresourcesharingandcollectiveintelligence,channelingAIdevelopmenttowardsbeneficialoutcomes.Additionally,separatingthetechniquesfortrainingAItobebenevolentfromthosethatenhanceitsintelligenceprovidesclearguidelinesfornationstoconducttargetedresearchwithintheirsovereignty.Ultimately,thiscollaborativeapproachallowsnationstocontributeandsharesolutionsinternationally,providingpracticalpathwaysforaddressingthelong-termAIsafetychallengeshumanityfaces.Risk:1）AIdemandfallsshortofexpectations;2）Geopoliticaltensionsdisruptsupplychains;3）SlowdowninAIdatacenterconstruction.8 9