基于粒子群的神经网络 综述（草稿）

1. A Multi-objective Particle Swarm Optimization for Neural Networks Pruning）recheck
   purpose：保持性能的情况下，简化模型，本文使用PSO进行优化，可以在精简80%以上而不损失精度
   method：提出多目标神经网络修剪模型框架，有两个阶段，第一个阶段是神经网络修剪，第二个阶段是神经网络微调

1. Evolving Deep Convolutional Neural Networks by Variable-length Particle Swarm Optimization for Image Classification（recheck

purpose
这篇文章是第一个使用PSO用于自动进化CNN的结构的。
作者使用PSO辅助CNN网络， 使CNN自动寻找合适的结构，在不需要手动工作的情况下。
为了实现这一目标，在传统的PSO基础上进行了三次改进。首先，提出了一种以计算机网络为灵感的新型编码策略，使粒子向量能够轻松编码CNN层;其次，为了让提出的方法学习可变长度CNN架构，禁用层旨在隐藏粒子向量的某些尺寸，以实现可变长度粒子;第三，由于对大型数据的学习过程很慢，因此随机选取部分数据集进行评估，以显著加快速度。对所提出的算法进行了研究，并与12种现有算法进行了比较，其中包括三个广泛使用的图像分类基准数据集的最先进的方法。
method
算法1: 初始化

算法2:可适度评判

算法3 更新粒子群

1. Particle Swarm Optimization for Deep learning of Convolution Neural Network

purpose：
本文作者使用7层卷积神经网络 CNN 用于手写数字分类，并使用PSO算法对每层神经网络内部的参数进行优化。
method：

1.导入训练数据，2828的图片，第一层filter大小为55，初始化PSO迭代次数，PSO ；粒子群的大小，batch size,epoch 的数量 。
2. 使用PSO对每层的weight进行优化；
a.生成随机的粒子群向量positions和 velocities
在对每个粒子进行评估后，确定本次迭代中的Lbest和Gbest，
（评估公式：

）迭代结束后 PSO输出权重向量，训练模型用测试数据集计算分类成功率，

4. Multi-column Deep Neural Network Based On Particle Swarm Optimization
purpose：通过PSO对CNN进行优化 提高精度
Method：作者提出一种不同于传统CNN的模型结构，不同之处在于新加了一层用于规范化池化层的特征结果，这层用于根据在所有特征映射上的Otsu技术确定一个全局阈值，目的是为了确定那些表示对目标产生负面影响或者不令人满意的特征。为了提高本文提出的结构的速度性能，本文建议每哥卷积层连接上一层的一半特征。

为了联合多个神经网络的结果，作者用PSO算法计算每个网络的权重系数。

1. Neural Network based Software Defect Prediction using Genetic Algorithm and Particle Swarm Optimization
   purpose：使用基因算法进行特征提取, 然后采用PSO算法对提取的特征进行聚类，之后用多种不同的神经网络进行训练，计算各种性能指标（F1 score, 精度，敏感度，特异性 etc. .实验结果是 用DNN训练的模型效果最好
   method：
   这篇主要用GA提取特征，然后用PSO对特征进行聚类，最后用不同模型训练 看哪个效果好。