人工智能通识导论（理工类）第10章 习题及参考答案

3-2-习题101．智能安全告警分析智能体分别体现了人工智能的哪些核心能力？请结合一次完整告警分析流程说明。答：智能安全告警分析智能体体现了感知、理解与推理、生成与创造、决策与优化、人机交互五类核心能力。以SQL注入告警为例，用户通过自然语言输入告警ID，智能体调用工具获取XDR原始JSON，提取攻击源与目标、端口、载荷、风险等级、攻击结果和资产信息。这一过程体现了人机交互与感知能力。随后，模型解释SQL注入载荷，结合攻击方向、历史次数和资产重要性判断风险，区分攻击尝试、攻击失败和攻击成功，体现了理解与推理能力。模型将证据整理为告警摘要、攻击链条分析、研判结论、置信度和处置建议，体现了生成与创造能力；依据风险和业务影响排列处置优先级，建议核查Web日志、数据库日志和WAF拦截记录，并根据复核反馈改进分析流程，体现了决策与优化能力。用户还可以追问判断依据，最终由分析人员复核证据并决定是否处置。2．为什么仅依靠大语言模型不能可靠分析企业XDR告警？MCP工具在其中发挥了什么作用？答：大语言模型不天然掌握企业实时告警、内部资产和历史处置记录。仅根据告警名称或模型已有知识回答，容易遗漏业务上下文，甚至编造攻击结果，因此不能作为可靠的事件研判依据。MCP（模型上下文协议）使外部接口能够以工具形式供智能体发现和调用。案例中的get_alert_details接收告警ID，将查询转换为XDRAPI请求，再把返回的JSON交给模型分析，连接了模型推理与企业数据。可靠分析还需要有效授权、完整数据、异常处理和提示词约束。应先获取数据再分析，引用实际字段；工具返回错误时停止基于该告警的研判，不能用模型推测代替查询结果。离线实验数据也应明确其模拟性质。3．请沿着“基础层（算力/数据/框架）→技术层（模型/平台/工具）→应用层（XDR/SOC）”说明智能安全告警分析智能体的生态支撑链条。答：基础层提供CPU/GPU或云端推理算力、网络与存储，提供XDR告警、攻击载荷、资产和历史事件数据，并以Python及相关运行环境支撑工具开发。数据应满足完整性、权限控制、脱敏和审计要求。技术层由大语言模型、结构化提示词、MCP工具、API与JSON以及智能体平台组成。模型负责推理与报告生成，工具负责查询，平台负责配置、编排、对话测试和运行记录。应用层由XDR平台、安全运营中心（SOC）和分析师共同构成。XDR提供事件，智能体完成初筛，分析师核查证据并按业务流程处置，工单和复核结果再用于改进数据、规则与提示词。三层共同形成从数据获取到受控处置的支撑链条。4．当攻击源IP为内网地址时，智能体为什么不能直接判定为真实攻击？还需要核查哪些信息？答：内网地址只说明网络位置，不能单独证明行为合法或恶意。告警可能来自授权扫描、红队测试和正常运维，也可能反映失陷主机的横向移动或内部违规操作。核查源IP对应的资产、使用人员、所属部门和设备用途，确认是否为授权扫描器或测试主机。核查测试授权、变更工单、任务范围和时间窗口，判断行为是否符合已批准的操作。核查目标服务、攻击方向、载荷、次数和攻击结果，并关联登录日志、主机进程、网络流量及后续告警。向资产负责人确认业务背景。证据不足时应保留不确定性，不能直接确认真实攻击，也不能因来源在内网就忽略风险。5．你认为告警分析智能体未来可以自动执行哪些低风险处置动作？哪些高风险动作必须保留人工审批？说明理由。答：适合受控自动执行的低风险动作包括查询并汇总日志、补充资产信息、关联重复告警、生成报告草稿、创建待处理工单和发送内部提醒。这些动作通常不直接改变业务系统状态，影响较小且便于审计。对已经人工确认的恶意目标，可在预先授权、明确白名单、范围、有效期和回滚条件的情况下，讨论临时限制等自动化措施；不能把所有封禁动作一概视为低风险。隔离生产主机、封禁关键业务IP或网段、停用重要账户、修改生产安全策略、删除文件或中止业务进程等动作应保留人工审批。它们可能造成业务中断、误封或证据损失，必须先评估影响和回滚方案。自动化程度应由证据可靠性、影响范围和可恢复性决定，并保留执行记录、结果检查和异常停止机制。6．为什么“邮件中有链接”不能直接作为钓鱼邮件结论？请结合安全样本和高危样本说明。答：链接只是邮件中的一种内容形式，正常培训、会议通知和业务协作邮件也常包含链接。是否为钓鱼邮件，要综合发件身份、认证结果、实际链接目标、业务语境和要求执行的动作判断。实训中的安全培训通知使用正式业务域名，发件域与链接域一致，SPF、DKIM、DMARC通过，内容符合培训场景且不索取密码、验证码和费用。这些相互印证的证据支持较安全的判断。薪资补贴确认样本使用高仿域名，存在认证失败和异常回信地址，并借补贴暂停发放制造紧迫感，要求输入密码和手机验证码。其高风险来自身份、链接和社会工程学证据的共同作用。因此，既不能把“有链接”等同于钓鱼，也不能因“没有附件”而排除高风险；还应检查链接的实际目标和上下文。7．请用“感知、理解与推理、生成与创造、决策与优化、人机交互”五类能力解释钓鱼邮件分析智能体的完整工作过程。答：用户上传EML、MSG、TXT或粘贴邮件原文后，系统解析主题、发件人、Reply-To、认证结果、正文、URL和附件，将邮件转化为结构化证据，体现了感知能力。规则模块检查身份认证、域名和附件特征，模型结合正文识别权威施压、紧迫要求、利益诱导和绕过流程等行为，判断各类证据能否相互印证，体现了理解与推理能力。系统依据证据生成包含风险等级、攻击目标、判断理由和处置建议的报告，体现了生成与创造能力，报告不能添加邮件中不存在的事实。提出隔离、上报、账户检查或业务核验建议，并根据误报、漏报和人工复核结果调整规则与评估模型，体现了决策与优化能力。上传、原文粘贴、详情展示、历史记录和风险筛选等功能体现了人机交互能力，最终结论与处置方式仍由分析人员结合业务背景确认。8．一封邮件没有链接和附件，但要求财务人员保密付款并禁止电话核验。系统应从哪些证据判断风险？答：这封邮件具有商务邮件诈骗（BEC）的典型特征。即使没有恶意链接或附件，也可能通过操纵付款流程造成损失，应重点核查以下证据。核查身份与路径时，应确认显示名是否冒充领导或供应商，真实发件域、Reply-To、Return-Path及认证结果是否异常，是否与历史往来身份一致。还应结合正文判断是否同时出现紧急付款、保密要求、权威施压、禁止电话核验等话术，是否试图阻止独立确认。业务方面，应核实付款是否有合同、发票、订单和审批依据，金额及收款账户是否异常，是否临时变更账户或绕过规定审批。处置时，可将其列为高优先级疑似BEC，保留邮件证据并暂停相关付款，使用通讯录中已有的可信渠道核实发件人和业务，不使用可疑邮件提供的新联系方式。最终结论由业务与安全人员共同确认。9．沿着“基础层-技术层-应用层”说明钓鱼邮件分析智能体落地需要哪些生态支撑，并指出最可能限制系统效果的环节。答：基础层需要正常、可疑、高危和BEC等多样化邮件样本，官方域名与品牌库、认证规范、URL和附件知识，以及计算、存储、网络、权限和审计条件。技术层需要邮件与MIME解析、SPF/DKIM/DMARC检查、URL与附件检测、大语言模型及任务编排平台，共同完成证据提取、规则判断、语义推理和报告生成。应用层需要员工上报入口、邮件网关、SOC工单、账户处置流程、财务核验和安全意识培训，并由人工复核结果推动规则更新。在本案例中，样本和组织业务上下文不足最可能限制效果：缺少正常业务样本易导致误报，缺少BEC样本及付款流程信息易导致漏报。解析不完整和规则过期也会削弱判断，单纯更换更大的模型不能弥补缺失证据。10．如果人工智能给出高危结论，但邮件头认证全部通过，分析人员还需要检查哪些业务和技术信息？答：邮件头认证通过是重要证据，但不能保证正文要求合理或发件账户未被盗用。分析人员应解释证据之间的关系，既不盲从高危标签，也不因认证通过而直接放行。检查模型的高危理由能否在原始邮件中找到，排除虚构链接、附件或危险动作，并确认认证结果来自可信的接收侧检测记录。检查真实发件域与显示身份、Reply-To、历史往来是否一致，是否出现异常账户使用、陌生收款账户或不寻常的发送行为。检查实际链接及跳转目标、附件类型与内容，以及是否索取密码、验证码、付款或运行文件。认证通过不能证明这些内容安全。核查合同、审批、付款账户、时间要求和沟通背景，通过已有可信渠道确认。若证据支持正常业务，应记录误报原因；若存在欺骗或账户失陷证据，应按流程升级处置。11．为什么检测配置管理需要权限、版本和变更审批？在共享实验环境中随意修改会造成什么影响？答：权限控制用于限制谁能修改检测规则、权重、品牌域名库和网关配置，避免未授权操作改变全体用户的检测行为。版本管理记录规则内容、修改人员、时间和原因，使分析结果能够复现、比较和审计，并在出现问题时恢复上一版本。变更审批要求先评估影响，再用正常、可疑和高危样本验证误报、漏报及业务影响，确认后按规定发布。共享环境中随意修改会改变其他同学的实验条件，使同一邮件得到不同结果，破坏对比实验和评分依据，还可能造成误报增加、威胁漏检或服务异常。因此本实训的配置页面用于观察和记录，规则实验应在教师安排的隔离配置中开展。12．结合自身专业，思考钓鱼邮件分析智能体还可以与哪些系统或智能体协同，并说明可能带来的收益和风险。答：以网络安全专业为例，可设计以下协同方式。与威胁情报系统协同，补充域名、IP和文件信誉及历史攻击信息，提高证据覆盖；风险是情报过期或错误，且外部查询可能泄露敏感线索。与身份认证、登录日志及终端检测系统协同，调查用户是否提交凭据、出现异常登录或执行附件，帮助判断影响范围；风险是关联到错误账户或在权限过大时暴露个人信息。与邮件网关、SOC工单和应急响应智能体协同，实现邮件初筛、事件分派与处置跟踪；风险是误报引发批量隔离、误封或重复处置。与财务审批系统协同，核验付款申请、收款账户和审批状态，辅助识别BEC；风险是模型错误解释业务规则或误触发付款操作。协同接口应采用最小权限、证据引用和审计，涉及付款及重要账户处置时保留人工确认。13．检索增强生成与纯大语言模型问答的核心区别是什么？为什么它更适用于企业私有知识场景？答：纯大语言模型问答主要依靠模型参数中已有知识和当前对话内容组织答案，无法天然获取企业最新制度、内部手册和私有业务规定。检索增强生成（RAG）先从指定知识库检索相关片段，再把片段与用户问题共同提供给模型，由模型依据检索证据生成答案，并保留来源。核心区别是回答时引入可更新、可追溯的外部知识。企业可以通过更新文档及索引维护私有知识，按用户权限控制检索范围，并引用内部文件中的步骤、条件和时限，通常无需为每次制度变更重新训练模型。RAG的效果仍取决于文档质量、索引更新、检索准确性和生成约束。知识库没有依据时应明确说明，不能把通用知识包装成企业规定。14．请用“感知、理解与推理、生成与创造、决策与优化、人机交互”五类能力解释检索增强生成知识库的完整工作过程。答：检索增强生成知识库的工作分为建库和问答两个阶段。建库时，系统读取Word、PDF、Markdown等资料，识别标题、段落、表格与元数据，完成清理和分段，并记录文件来源与文本块编号，体现了感知能力。Embedding模型将文本块和用户问题编码为向量，检索模块结合关键词与语义相似性寻找相关片段，模型进一步判断证据的适用条件和相互关系，体现了理解与推理能力。问答时，系统将用户问题和召回片段组成上下文，由大语言模型生成有来源的答案，保留原文中的步骤、条件和限制，资料未覆盖时说明不足，体现了生成与创造能力。根据文档和问题类型选择分段大小、重叠、检索方式、权重、阈值和TopK，并通过召回测试与人工评价持续调整，体现了决策与优化能力。用户通过页面创建知识库、上传资料、检查分段和测试结果，再通过智能体提问和反馈，体现了人机交互能力。15．分段最大Token数和分段重叠分别会怎样影响检索效果？为什么不同文档不能使用完全相同的参数？答：最大Token数决定单个文本块的长度上限。块过大会混入无关内容，降低检索针对性并增加上下文成本；块过小则可能拆开完整步骤、定义或适用条件，导致检索虽命中却缺少解释所需信息。Token是模型处理文本的单位，不能简单等同于汉字数。分段重叠让相邻块保留部分重复内容，有助于维持边界处的语义连续。重叠过小可能割裂上下文，过大则增加冗余、存储和重复召回。短SOP、FAQ、长技术手册和表格的结构不同，适合的分段粒度也不同。应优先保留标题、步骤和条件的关联，通过实际问题检验效果，而不是为所有文档固定同一组参数。对比时应分别控制变量，例如保持重叠100，比较最大Token为1000和500；再保持最大Token为500，比较重叠100和50。每次修改后重新处理文档，记录分段数量、语义完整性与召回质量。16．向量检索、关键词检索和混合检索分别适用于哪些查询？请各举一个本专业的例子。答：向量检索适合自然语言、同义表达和字面不一致的查询。例如“攻击者IP如何封禁”可以匹配“防火墙阻断恶意源地址”的操作说明，但对精确编号的区分能力需要专门验证。关键词检索适合CVE编号、规则ID、参数名和精确术语。例如查询“P0级漏洞处理时限”，需要准确命中“P0”及相关规范，避免将其他等级的时限混入答案。混合检索适合同时包含专业术语和语义要求的问题。例如“互联网暴露的P0级漏洞应如何安排修复”，既需要精确匹配等级，又需要理解暴露面与处置流程。实训默认关键词权重0.2、向量权重0.8，可作为语义问答的测试起点；精确术语查询可提高关键词权重。最终选择应以召回片段是否回答问题为依据，不能只看最高相似度。17．沿着“基础层-技术层-应用层”说明检索增强生成系统落地需要哪些生态支撑，并指出最容易限制回答质量的环节。答：基础层包括计算、网络、存储和受控的文档数据。制度、SOP、手册与历史案例需要纠错、去重、版本管理、权限分类和敏感信息治理，保证知识来源可靠。技术层包括文档解析、分段、Embedding服务、向量数据库、关键词检索、混合排序、上下文编排、大语言模型和智能体平台，负责将资料转化为可检索证据并组织答案。应用层包括面向SOC分析师的安全运维助手、面向工程师的设备知识服务或面向学生的课程问答，需要配置访问权限、回答格式、人工复核和反馈流程。最容易限制回答质量的是文档质量和检索证据完整性。错误、过期或冲突的规范会导致有引用但不正确的答案；分段不当或召回遗漏则使正确资料无法进入模型上下文。应先检查来源、解析与召回，再评估模型生成能力。18．为什么检索增强生成不能完全消除幻觉？系统应通过哪些技术和管理措施降低风险？答：RAG不能完全消除幻觉，因为知识库可能存在错误或过期资料，检索可能召回相似但不适用的片段，分段可能丢失关键条件，而模型也可能忽略证据、错误整合多个片段或补充不存在的细节。降低风险需要审核文档，维护版本和适用范围，保留段落语义；用代表性问题测试分段、检索方式、权重、阈值和TopK，必要时进行重排序，减少遗漏与噪声。生成时，应要求按检索证据回答，注明文件及片段来源，区分文档事实和推断；对证据不足、互相冲突或知识库外的问题说明限制，必要时拒绝给出确定结论。评测与复核应检查答案准确性、引用是否真正支持结论、无答案识别及权限边界，记录错误并更新测试集。重要业务建议由专业人员对照原文复核，不能以高相似度或流畅表达代替验证。19．如果知识库同时存在两个版本的漏洞修复规范，智能体可能出现什么问题？应如何治理？答：同时召回两个版本时，模型可能引用已经失效的时限，混合新旧版本的分级与