《生成式人工智能（AIGC）技术与应用》 习题答案（第1-4章）

1.6习题答案一、填空题1. 分布特征2. TransformerDecoder3. 扩散（Diffusion）4. 多样化/随机5. 前一个（或上一个）二、选择题6. D．GAN7. B．DALL•E8. B．训练更稳定，细节生成质量高9. C．离散序列10. B．BERT三、简答题11.生成式人工智能与判别式人工智能在任务目标上的根本区别生成式人工智能的目标是学习数据的联合概率分布

P(X,Y)P(X,Y)，从而能够生成新的数据样本；而判别式人工智能的目标是学习条件概率分布

P(Y∣X)P(Y∣X)，即给定输入数据

XX

条件下输出标签

YY

的概率，主要用于分类或回归任务。生成式模型注重数据本身的分布与生成，判别式模型注重决策边界与判别。12.生成对抗网络（GAN）的基本组成结构与训练机制GAN由生成器（Generator）和判别器（Discriminator）组成。生成器负责从随机噪声中生成假样本，判别器负责区分真实样本与生成样本。训练机制为对抗式训练：生成器试图欺骗判别器，而判别器试图正确区分真假。通过极小极大博弈（minimaxgame）优化，最终使生成器生成逼真样本，判别器无法区分真假（准确率接近50%）。13.自然语言生成模型需要强上下文建模能力的原因及GPT结构说明自然语言生成需要依赖上下文语义连贯性，强上下文建模能保证生成文本的逻辑一致性与流畅性。GPT采用TransformerDecoder结构，通过自回归（Autoregressive）方式逐词生成，利用自注意力机制（Self-Attention）捕捉长距离依赖关系，确保当前词生成基于所有上文信息，从而实现强上下文建模。14.多模态生成模型在图文任务中实现跨模态语义对齐的方法（以CLIP或DALL·E为例）以CLIP为例：通过对比学习实现图文对齐。模型使用图像编码器和文本编码器分别提取特征，在共享潜在空间中计算图像-文本对的相似度，通过对比损失（如InfoNCE）拉近正样本对距离、推远负样本对距离，从而学习跨模态语义关联。DALL·E在此基础上结合生成式目标，通过先验网络将文本映射到图像潜在空间，再生成对应图像。15.推理能力提升对生成式AI走向通用智能体的重要性及具身智能融合路径推理能力是高级认知功能的核心，使AI不仅能生成内容，还能进行逻辑推断、规划与决策，这是通用智能体的关键。结合具身智能（EmbodiedAI），生成式AI需与环境交互，通过多模态感知（如视觉、语言）生成行动策略（如机器人控制），推理能力帮助理解环境状态、预测后果并优化行为链。例如，基于生成模型的具身代理需推理任务步骤、物理约束与环境反馈，实现自主任务完成。2.6习题答案一、填空题1.卷积（Convolutional）2.预文本（Pretext）3.TransformerEncoder4.负样本5.预测（或推理）二、选择题6.D．Transformer模型7.C．同时支持判别与生成预训练目标8.C．文本到文本转换9.B．支持高分辨率图像合成与细节控制10.C．动态调整模态间信息权重三、简答题11.前馈神经网络、卷积神经网络与循环神经网络在生成任务中的典型应用区别（1）前馈神经网络（FNN）：主要用于简单生成任务，如图像生成（全连接生成模型），但参数量大，难以处理高维数据。（2）卷积神经网络（CNN）：擅长图像生成任务（如DCGAN），通过局部连接和权重共享高效提取空间特征，生成高质量图像。（3）循环神经网络（RNN）：适用于序列生成任务（如文本生成、语音合成），通过循环结构处理变长序列，但存在长程依赖问题。12.BERT、GPT与T5三类预训练语言模型的核心差异（1）BERT：采用TransformerEncoder结构，双向上下文编码，适用于理解任务（如分类、抽取）。（2）GPT：采用TransformerDecoder结构，自回归生成，适用于生成任务（如文本生成）。（3）T5：采用Encoder-Decoder结构，将所有任务统一为文本到文本转换，兼具理解与生成能力。13.图像-文本联合建模及BLIP、DALL·E与Imagen的技术路径图像-文本联合建模旨在实现视觉与语言的语义对齐与生成。（1）BLIP：通过多任务学习（图像-文本对比、匹配、生成）进行预训练，支持检索、描述生成等任务。（2）DALL·E：基于CLIP引导的生成模型，通过离散VAE将图像映射到潜在空间，再基于文本生成图像。（3）Imagen：基于扩散模型，直接使用文本编码器（如T5）提取文本特征，指导图像生成过程。14.对比学习在多模态建模中实现语义一致性的训练机制与应用场景对比学习通过拉近正样本对（如图像-文本对）的相似度，推远负样本对的相似度，学习跨模态表示。训练机制：（1）使用InfoNCE等损失函数，最大化正样本对的互信息。（2）应用场景：图文检索（CLIP）、视频-文本对齐、多模态预训练（ALBEF）。15.从生成式AI发展视角理解具身智能与内容生成系统的融合路径生成式AI为具身智能提供环境理解、行为规划与交互内容生成能力。融合路径：（1）生成式世界模型模拟环境动态，支持预测与规划。（2）多模态生成模型（如语言、图像）生成指令或行动策略。（3）具身代理通过生成式模型实现自适应行为生成（如机器人控制、虚拟交互），迈向通用智能体。3.4习题答案一、填空题1.生成器（Generator）；判别器（Discriminator）2.Wasserstein距离（或Earth-Mover距离）3.重参数化（Reparameterization）4.ZeRO（ZeroRedundancyOptimizer）5.特征表示（或特征分布）二、选择题6.B．生成器通过最小化判别器的损失来优化自身7.A．引入梯度惩罚，替代权重裁剪，提高训练稳定性8.D．以上皆正确9.C．Transformer权重分解10.B．BLEU三、简答题（11.GAN的训练过程采用交替优化策略：（1）固定生成器，训练判别器区分真实样本和生成样本，最大化判别准确率；（2）固定判别器，训练生成器生成更逼真的样本以欺骗判别器，最小化判别器的判断准确率；（3）通过这种极小极大博弈（minimaxgame）不断迭代，最终达到纳什均衡。12.WGAN通过Wasserstein距离优化传统GAN训练中的梯度消失问题：（1）使用Wasserstein距离代替JS散度作为分布距离度量，提供了更平滑的梯度信号；（2）通过约束判别器（Critic）为Lipschitz连续函数（通过权重裁剪或梯度惩罚实现），确保训练稳定性；（3）Wasserstein距离即使在分布不重叠时也能提供有意义的梯度，有效解决了梯度消失问题。13.VAE利用ELBO目标函数优化隐变量分布：（1）通过最大化证据下界（ELBO）来优化变分后验分布q(z|x)逼近真实后验p(z|x)；（2）ELBO包含重构损失和KL散度项：𝔼[logp(x|z)]-KL(q(z|x)∥p(z))；（3）KL散度作为正则项，约束变分后验分布接近先验分布（通常为标准正态分布），确保隐空间具有良好的结构特性。14HuggingFaceTransformers与DeepSpeed在大模型训练与部署中的核心作用：（1）HuggingFaceTransformers提供了预训练模型库和统一API，简化了大模型的微调与推理流程；（2）DeepSpeed通过ZeRO优化、梯度检查点等技术，大幅降低大模型训练的内存占用，支持千亿参数模型的训练；（3）两者结合可实现大模型的高效训练（分布式并行）与便捷部署（模型压缩、推理优化）。15.InceptionScore与FID评估指标的核心区别：（1）核心区别：InceptionScore主要评估生成图像的清晰度和多样性，FID则直接比较生成分布与真实分布的距离；（2）InceptionScore：使用Inception网络提取特征，计算条件分布p(y|x)和边缘分布p(y)的KL散度。适用于快速评估生成多样性，但对模式崩溃不敏感；（3）FID：计算生成数据与真实数据在特征空间的Frechet距离（均值和协方差的差异）。更全面评估生成质量，对细节变化更敏感，适用于高质量图像生成评估。4.4习题答案一、填空题1.结构化指令2.Few-shotPrompting（或少样本提示）3.忽略原始指令（或执行非预期操作）4.通信与协调机制5.自主规划与执行二、选择题6.B．Chain-of-Thought（CoT）7.B．通过外部工具扩展LLM的任务执行能力8.A．LLM、强化学习、多智能体交互9.C．允许用户动态修改任务目标10.B．AutoGPT三、简答题11.Chain-of-Thought（CoT）通过引导模型生成中间推理步骤来提高复杂推理能力：（1）工作原理：在提示词中展示包含逐步推理的示例，引导模型先分解问题、逐步推导，最后得出答案（2）适用场景：数学问题求解、逻辑推理、多步决策等需要复杂推理的任务12.通过Few-shotPrompting设计分类任务提示词的方法：（1）提供多个输入-输出示例，明确展示分类规则（2）示例：输入："这部电影的视觉效果很棒，但剧情太差了"→输出："负面"输入："这个产品质量很好，价格也很合理"→输出："正面"输入："服务一般，没有什么特别之处"→输出："中性"（3）最后给出待分类的文本，让模型根据示例模式进行分类13.LangChain在智能体任务执行中的作用：（1）提供任务规划、工具调用、状态管理等框架支持（2）通过API访问增强能力：集成搜索引擎、数据库、计算工具等外部API，扩展智能体的信息获取和处理能力14.（1）PromptInj