习题
解答:感知机是Frank Rosenblatt在1957年就职于Cornell航空实验室时发明的一种人工神经网络。它可以被视为一种最简单形式的前馈人工神经网络,是一种二元线性分类器。 感知机结构:
2.2单层感知机与多层感知机之间的差异是什么?请举例说明。 解答:单层感知机与多层感知机的区别:dota半人马酋长
1. 单层感知机只有输入层和输出层,多层感知机在输入与输出层之间还有若干隐藏层;
2. 单层感知机只能解决线性可分问题,多层感知机还可以解决非线性可分问题。
2.3证明定理: 样本集线性可分的充分必要条件是正实例点集所构成的凸壳与负实例点集构成的凸壳互不相交. 解答:首先给出凸壳与线性可分的定义
凸壳
定义1:设集合,是由中的个点所组成的集合,即。定义S的凸壳为为:
线性可分
定义2:给定一个数据集
其中,如果存在在某个超平面S:
能够将数据集的正实例点和负实例点完全正确地划分到超平面的两侧,即对所有的正例点即的实例i,有,对所有负实例点即的实例i,有,则称数据集T为线性可分数据集;否则,称数据集T线性不可分。 必要性:线性可分凸壳不相交
设数据集T中的正例点集为,的凸壳为,负实例点集为,的凸壳为,若T是线性可分的,则存在一个超平面:
能够将和完全分离。假设对于所有的正例点,有:
易知。若和相交,即存在某个元素s,同时满足和中华人民共和国检察官法。对于中的元素有
因此,同理对于中的元素有,那么由于且则且明显推出矛盾,因此和必不相交。从而推出必要性。
充分性:凸壳不相交线性可分
设数据集T中的正例点集为,的凸壳为,负实例点集为,的凸壳为,且与不相交,定义两个点,的距离为:
定义与的距离为:
设且。则对于任意正例点x有。同理,对于所有负例点有。存在超平面
其中天地欣
则对于所有的正例点x(易知,因此若属于正例点,则令)
若,则,那么,推出矛盾。因此对所有的正例点,成立。同理,对所有负例点,成立。至此,充分性证得。
2.4请设计一个感知机程序实现2.3节中介绍的逻辑“或”、逻辑“与”功能,并绘出判别界面。
新疆师范大学学报代码:
import numpy as np
or_samples = [
[0, 0, 0],
[1, 0, 1],
[0, 1, 1],
[1, 1, 1]
]
and_samples = [
[0, 0, 0],
[1, 0, 0],
[0, 1, 0],
[1, 1, 1]
]
def perception(samples):
#权重
w = np.array([1,2])
#偏置
雷达检测 b = 0
#学习率
lr = 1
#迭代10次
for i in range(10):
for j in range(4):
x = np.array(samples[j][:2])
#sgn函数
if np.dot(w, x) + b > 0:
y = 1
else:
y = 0
#真实值
t = np.array(samples[j][2])
delta_b = lr * (t - y)台湾921地震
delta_w = lr * (t - y) * x
# 更新权重
w = w + delta_w
b = b + delta_b
print(f'weight[0]:{w[0]} weigt[1]:{w[1]} b:{b}')
print('logical or:')
perception(or_samples)
print('logical and:')
perception(and_samples)
判别界面: