最近在自学机器学习，记录下一些学习记录
如何用python实现一个简单的感知机
需要安装numpy库，即下面用到的np
简单的说就是
通过计算权重向量w和输入向量x的线性组合，判断该线性组合是否大于某个阀值，如果是，输出1，不是，输出-1
根据判断结果与正确结果对比，调整权重向量w，得到最佳的权重向量。从而可以预测新的值属于哪一类
更新权重值的公式
n是学习率值在0.0-1.0之间，yi是正确值，yi^是预测值，xji是x在j点的值
class Perceptron(object): """分类感知机. 参数 ------------ eta:float 学习率 (在 0.0 到 1.0之间) n_iter:int 迭代次数 属性 ------------ w_: ld-array: 权重 errors_: list 误差 """ def __init__(self, eta=0.01, n_iter=10): self.eta = eta self.n_iter = n_iter def fit(self, X, y): """适应训练集 参数 --------------- X: array-like, shape=[n_smaples, n_features] 训练集数组(m*1), n_samples 是样本数量 n_features 特征值数量 y: array-like, shape=[n_samples] 目标值(m*1) Returns -------------- self: object """ # 初始化权重函数和误差，权重函数为全一的数组 self.w_ = np.zeros(1+X.shape[1])# 多了w0 self.errors_ = [] for _ in range(self.n_iter): errors = 0 for xi, target in zip(X, y): update = self.eta * (target - self.predict(xi)) self.w_[1:] += update * xi self.w_[0] += update # w0 = w0 * x0 = w0 * 1 = w0 errors += int(update != 0.0) self.errors_.append(errors) return self def net_input(self, X): """计算权重w_与X的乘积""" return np.dot(X, self.w_[1:]) + self.w_[0] def predict(self, X): """激活(预测)函数 权重和X的乘积大于0位1否则为-1""" return np.where(self.net_input(X) >= 0.0, 1, -1)
本感知机是基础的感知机，只限用于区分两个线性可分的类别