机器学习—感知机算法(MATLAB)

华电北风吹

天津大学认知计算与应用重点实验室

最后修改日期：2015/8/23

感知机算法属于比较简单的分类器算法，但是跟逻辑回归和支持向量机一样属于构建分类超平面。

不同的是感知机采用分错的样本与分类超平面的距离作为损失函数，下面的算法基于随机梯度下降法，采用异步方式达到收敛状态

function [w]=perceptionLearn(x,y,learningRate,maxEpoch)
% Perception Learn Algorithm
% x,y 一行为一个样本，y取值{-1,+1}

[m,n]=size(x);
x=[ones(m,1) x];
w=zeros(1,n+1);
finish=true;
for epoch=1:maxEpoch
    for samlendex=1:m
        if sign(x(samlendex,:)*w')~=y(samlendex)
            finish=false;
            w=w+learningRate*y(samlendex)*x(samlendex,:)
        end
    end
    if finish==true
        break;
    end
end

测试函数：

clear;clc;
x=[3,3;4,3;1,1];
y=[1,1,-1];
plot(x(1:2,1),x(1:2,2),'*');
hold on;
plot(x(3,1),x(3,2),'p');

% [w]=LogisticRegression(x,y,1,20);
[w]=perceptionLearn(x,y,1,20);

xline=linspace(0,5,20);
yline=-w(2)/w(3).*xline-w(1)/w(3);
plot(xline,yline);

结果图像如下：