人工智能导论-技术、应用及伦理 教案 实验1 神经网络基础-感知机、激活函数与反向传播、实验2 多层感知机（MLP）手写数字识别

实验1神经网络基础——感知机、激活函数与反向传播一、实验目的及要求理解人工神经元的数学模型，掌握加权求和、偏置与激活函数的作用。通过实现逻辑门感知机，理解单层感知机的能力与局限（如无法解决XOR问题）。可视化Sigmoid、Tanh、ReLU等常见激活函数，比较其特点与适用场景。动手实现一个包含一个隐藏层的简单神经网络的前向传播与反向传播，理解梯度下降参数更新过程。培养从“规则驱动”到“数据驱动”的范式转变意识。二、实验学时2学时（建议时间分配：讲解10分钟，任务实践70分钟，总结报告10分钟）三、实验前准备软件环境：Python3.8及以上，建议使用JupyterNotebook或VSCode。依赖库：NumPy、Matplotlib。安装命令如下：pipinstallnumpymatplotlib知识储备：已学习教材第5.1、5.2、5.3节内容，了解神经元、激活函数、前向传播与反向传播的基本概念。在JupyterNotebook中运行绘图代码前，建议先执行`%matplotlibinline`，以保证图像正常显示。四、实验任务任务1感知机实现逻辑门（15分钟）使用NumPy实现一个不带激活函数（或带阶跃函数）的感知机，手动设置权重，验证其能否正确实现AND、OR门。任务2单层感知机的局限——XOR问题（10分钟）将XOR真值表输入任务1中的感知机，观察输出结果，解释为什么单层感知机无法解决XOR问题。任务3激活函数可视化（15分钟）绘制Sigmoid、Tanh、ReLU三种激活函数的图像，观察其取值范围、单调性、在原点附近的梯度特性。任务4手动实现两层神经网络求解XOR（25分钟）使用NumPy手动实现一个输入层（2个神经元）+隐藏层（4个神经元，Sigmoid）+输出层（1个神经元，Sigmoid）的神经网络，通过反向传播训练其学会XOR函数。任务5对比scikit-learnMLP（5分钟）使用sklearn.neural_network.MLPClassifier快速求解XOR，体会使用框架的便利性。参考代码以下为完整可运行代码：#实验六：神经网络基础——感知机、激活函数与反向传播

importnumpyasnp

importmatplotlib.pyplotasplt

#设置中文字体

plt.rcParams['font.sans-serif']=['SimHei','MicrosoftYaHei','ArialUnicodeMS']

plt.rcParams['axes.unicode_minus']=False

#====================任务1：感知机实现逻辑门====================

defstep(x):

returnnp.where(x>=0,1,0)

defperceptron(x,w,b):

returnstep(np.dot(x,w)+b)

#训练数据：AND与OR

X=np.array([[0,0],[0,1],[1,0],[1,1]])

#AND门：w1=1,w2=1,b=-1.5

w_and=np.array([1.0,1.0])

b_and=-1.5

print("AND门输出:",perceptron(X,w_and,b_and))

#OR门：w1=1,w2=1,b=-0.5

w_or=np.array([1.0,1.0])

b_or=-0.5

print("OR门输出:",perceptron(X,w_or,b_or))

#====================任务2：单层感知机无法解决XOR====================

y_xor=np.array([0,1,1,0])

print("\nXOR目标:",y_xor)

print("使用AND权重预测XOR:",perceptron(X,w_and,b_and))

print("结论：单层感知机无法用一条直线分开XOR的两类样本。")

#====================任务3：激活函数可视化====================

x=np.linspace(-6,6,400)

plt.figure(figsize=(10,4))

plt.subplot(1,3,1)

plt.plot(x,1/(1+np.exp(-x)))

plt.title("Sigmoid")

plt.grid(True)

plt.subplot(1,3,2)

plt.plot(x,np.tanh(x))

plt.title("Tanh")

plt.grid(True)

plt.subplot(1,3,3)

plt.plot(x,np.maximum(0,x))

plt.title("ReLU")

plt.grid(True)

plt.tight_layout()

plt.show()

#====================任务4：手动实现两层神经网络求解XOR====================

np.random.seed(42)

#网络结构：2->4->1

input_size=2

hidden_size=4

output_size=1

learning_rate=0.5

epochs=10000

#初始化权重与偏置

W1=np.random.randn(input_size,hidden_size)

b1=np.zeros((1,hidden_size))

W2=np.random.randn(hidden_size,output_size)

b2=np.zeros((1,output_size))

defsigmoid(x):

return1/(1+np.exp(-x))

defsigmoid_derivative(x):

returnx*(1-x)

loss_history=[]

forepochinrange(epochs):

#前向传播

z1=np.dot(X,W1)+b1

a1=sigmoid(z1)

z2=np.dot(a1,W2)+b2

a2=sigmoid(z2)

#计算损失（均方误差）

loss=np.mean((y_xor.reshape(-1,1)-a2)**2)

loss_history.append(loss)

#反向传播

d_a2=-(y_xor.reshape(-1,1)-a2)

d_z2=d_a2*sigmoid_derivative(a2)

d_W2=np.dot(a1.T,d_z2)/len(X)

d_b2=np.mean(d_z2,axis=0,keepdims=True)

d_a1=np.dot(d_z2,W2.T)

d_z1=d_a1*sigmoid_derivative(a1)

d_W1=np.dot(X.T,d_z1)/len(X)

d_b1=np.mean(d_z1,axis=0,keepdims=True)

#参数更新（梯度下降）

W2-=learning_rate*d_W2

b2-=learning_rate*d_b2

W1-=learning_rate*d_W1

b1-=learning_rate*d_b1

if(epoch+1)%1000==0:

print(f"Epoch{epoch+1},Loss:{loss:.6f}")

print("\nXOR预测结果:")

print(np.round(a2,3))

plt.figure(figsize=(6,4))

plt.plot(loss_history)

plt.xlabel("迭代次数")

plt.ylabel("损失")

plt.title("训练损失曲线")

plt.grid(True)

plt.show()

#====================任务5：使用scikit-learnMLP求解XOR====================

fromsklearn.neural_networkimportMLPClassifier

mlp=MLPClassifier(hidden_layer_sizes=(4,),activation='tanh',

solver='lbfgs',max_iter=1000,random_state=42)

mlp.fit(X,y_xor)

print("\nMLPClassifierXOR预测:",mlp.predict(X))

预期结果（参考）AND门输出:[0001]

OR门输出:[0111]

XOR目标:[0110]

使用AND权重预测XOR:[0001]

结论：单层感知机无法用一条直线分开XOR的两类样本。

Epoch1000,Loss:0.241226

Epoch2000,Loss:0.183268

Epoch3000,Loss:0.076462

Epoch4000,Loss:0.020962

Epoch5000,Loss:0.009372

Epoch6000,Loss:0.005534

Epoch7000,Loss:0.003767

Epoch8000,Loss:0.002788

Epoch9000,Loss:0.002179

Epoch10000,Loss:0.001770

XOR预测结果:

[[0.03]

[0.96]

[0.956]

[0.051]]

MLPClassifierXOR预测:[0110]结果解读：单层感知机只能解决线性可分问题（AND、OR），无法解决XOR；引入隐藏层后，神经网络可以学习非线性映射，成功解决XOR。结果记录表项目结果结论AND门输出单层感知机可解决OR门输出单层感知机可解决XOR门输出单层感知机无法解决两层网络最终损失随迭代下降两层网络XOR预测接近真实标签Sigmoid取值范围(0,1)Tanh取值范围(-1,1)ReLU负区间输出0五、实验重点、难点重点：感知机的数学模型、激活函数的作用与图像、两层神经网络的前向传播与反向传播流程。难点：理解反向传播中链式法则的应用、梯度下降参数更新公式、XOR问题的非线性本质。六、操作要点建议逐段运行代码，先观察感知机结果，再观察激活函数图像，最后运行XOR神经网络。手动实现XOR网络时，注意损失函数和激活函数导数要对应（本实验使用Sigmoid+MSE）。若训练损失不降，可适当增大学习率或增加迭代次数；若损失震荡，则减小学习率。七、注意事项感知机的阶跃函数不可导，因此不能用于反向传播；手动实现XOR时使用Sigmoid激活函数。神经网络对初始权重敏感，设置随机种子可使结果可复现。本实验为理解原理而设计，实际项目中应优先使用TensorFlow、PyTorch、Keras、scikit-learn等成熟框架。八、实验报告要求填写“结果记录表”。解释为什么单层感知机无法解决XOR问题，并画图说明。描述Sigmoid、Tanh、ReLU三种激活函数各自的优缺点。思考题：如果去掉隐藏层的激活函数（即所有激活函数改为线性函数），两层神经网络还能解决XOR吗？为什么？实验2多层感知机（MLP）手写数字识别一、实验目的及要求掌握使用scikit-learn构建多层感知机（MLP）分类器的方法。理解图像数据预处理流程：尺寸统一、像素归一化、展平与标签编码。掌握MLP的核心超参数：隐藏层结构、激活函数、优化器、学习率、迭代次数、早停等。能够绘制训练/验证损失曲线，识别过拟合与欠拟合现象。理解全连接神经网络处理图像时的局限：参数量大、忽略空间结构。二、实验学时3学时（建议时间分配：讲解15分钟，任务实践130分钟，总结报告15分钟）三、实验前准备软件环境：Python3.8及以上，建议使用JupyterNotebook或VSCode。依赖库：NumPy、Matplotlib、scikit-learn。安装命令如下：pipinstallnumpymatplotlibscikit-learn知识储备：已学习教材第5.3节（前馈神经网络与MLP）内容。数据准备：实验使用scikit-learn内置的load_digits手写数字数据集（8×8像素，1797张），无需联网下载；课后可尝试替换为MNIST数据集。在JupyterNotebook中运行绘图代码前，建议先执行`%matplotlibinline`，以保证图像正常显示。四、实验任务任务1加载与预处理手写数字数据（20分钟）使用sklearn.datasets.load_digits加载手写数字数据集；将像素值除以16进行归一化；数据集本身已是展平的64维向量；将标签转换为整数类型。任务2划分训练集与测试集（10分钟）按8:2划分训练集与测试集。任务3构建与训练MLP模型（40分钟）使用MLPClassifier构建一个具有两个隐藏层的网络（128→64），选择ReLU激活函数和Adam优化器。任务4模型评估与可视化（30分钟）计算测试集准确率、绘制混淆矩阵；随机抽取若干测试样本，对比真实标签与预测结果；可视化部分预测错误的8×8样本。任务5超参数对比实验（30分钟）分别改变隐藏层大小、激活函数、学习率等超参数，观察对训练过程和最终准确率的影响，填写对比表。参考代码以下为完整可运行代码。完整训练通常只需数秒到十几秒，请耐心等待：#实验七：多层感知机（MLP）手写数字识别

importwarnings

warnings.filterwarnings('ignore')

importnumpyasnp

importmatplotlib.pyplotasplt

fromsklearn.datasetsimportload_digits

fromsklearn.model_selectionimporttrain_test_split

fromsklearn.neural_networkimportMLPClassifier

fromsklearn.metricsimportaccuracy_score,confusion_matrix,classification_report

#设置中文字体

plt.rcParams['font.sans-serif']=['SimHei','MicrosoftYaHei','ArialUnicodeMS']

plt.rcParams['axes.unicode_minus']=False

#1.加载手写数字数据集（load_digits为scikit-learn内置数据集，无需联网）

print("正在加载手写数字数据集...")

digits=load_digits()

X=digits.data.astype('float64')/16.0#像素值范围0-16，归一化到[0,1]

y=digits.target

print(f"样本数:{X.shape[0]},特征维度:{X.shape[1]},类别数:{len(np.unique(y))}")

#2.划分训练集与测试集

X_train,X_test,y_train,y_test=train_test_split(

X,y,test_size=0.2,random_state=42,stratify=y

)

print(f"训练样本数:{X_train.shape[0]},测试样本数:{X_test.shape[0]}")

#3.构建MLP模型

mlp=MLPClassifier(

hidden_layer_sizes=(128,64),

activation='relu',

solver='adam',

learning_rate_init=0.001,

max_iter=30,

early_stopping=False,

random_state=42,

verbose=True

)

print("\n开始训练MLP...")

mlp.fit(X_train,y_train)

#4.评估

y_pred=mlp.predict(X_test)

acc=accuracy_score(y_test,y_pred)

print(f"\n测试集准确率:{acc:.4f}")

print("\n分类报告:")

print(classification_report(y_test,y_pred))

#5.绘制训练损失曲线

plt.figure(figsize=(12,5))

plt.subplot(1,2,1)

plt.plot(mlp.loss_curve_,label='训练损失')

plt.xlabel('迭代轮次')

plt.ylabel('损失')

plt.title('MLP训练过程')

plt.legend()

plt.grid(True)

plt.subplot(1,2,2)

cm=confusion_matrix(y_test,y_pred)

plt.imshow(cm,cmap='Blues')

plt.colorbar()

plt.xlabel('预测标签')

plt.ylabel('真实标签')

plt.title('混淆矩阵')

plt.show()

#6.可视化预测错误的样本

errors=np.where(y_pred!=y_test)[0]

print(f"预测错误样本数:{len(errors)}")

plt.figure(figsize=(10,4))

fori,idxinenumerate(np.random.choice(errors,min(8,len(errors)),replace=False)):

plt.subplot(2,4,i+1)

plt.imshow(X_test[idx].reshape(8,8),cmap='gray')

plt.title(f"真实:{y_test[idx]},预测:{y_pred[idx]}")

plt.axis('off')

plt.suptitle('部分预测错误的样本')

plt.tight_layout()

plt.show()预期结果（参考）在1,437条训练样本上训练3