深度学习进阶（二）--神经网络结构算法以及梯度下降法

总结一下今天的学习过程

注：感觉最近状态很不好，精神头有点不足，没有一开始的激情了，就比如说今天的学习，感觉不是很积极

一是继续捣鼓了GPU的配置环境，还是不怎么OK，也许是测试或验证的方式不对

二是看了神经网络结果以及梯度下降算法的简单原理，结合一个GitHub的项目

neural-networks-and-deep-learning，学习了代码

下面是在Python3中遇到的一些问题以及解决总结，因为GitHub上是用的Python2环境

算法代码下载
https://github.com/mnielsen/neural-networks-and-deep-learning

1，改变成自己的Python环境

2. importerror no module named cpickle
cPickle module in  Python2  has been replaced by an improved module pickle in Python3. So simply use pickle.
解决：
# import cPickle
import pickle

#training_data, validation_data, test_data = cPickle.load(f)
training_data, validation_data, test_data = pickle.load(f, encoding="bytes")

3，TypeError: object of type 'zip' has no len()、'zip' object is not subscriptable

Try using list(zip(…) where you have zip(…) – Julien Jun 27 ‘16 at 4:02
根据代码进行修改，前缀list
tr_d, va_d, te_d = load_data()
    training_inputs = [np.reshape(x, (784,
1))
for
x
in
tr_d[0]]
    training_results = [vectorized_result(y)
for
y
in
tr_d[1]]
   
#training_data =
zip(training_inputs, training_results)
    training_data = list(zip(training_inputs, training_results))
    validation_inputs = [np.reshape(x, (784,
1))
for
x
in
va_d[0]]
   
#validation_data =
zip(validation_inputs, va_d[1])
    validation_data = list(zip(validation_inputs, va_d[1]))
    test_inputs = [np.reshape(x, (784,
1))
for
x
in
te_d[0]]
   
#test_data =
zip(test_inputs, te_d[1])
    test_data = list(zip(test_inputs, te_d[1]))
   

return
(training_data, validation_data, test_data)

4，NameError: name 'xrange' is not defined
xrange( )函数时在python 2.x中的一个函数，在Python 3中，range()的实现方式与xrange()函数相同，所以就不存在专用的xrange( )

将network中的xrange换成range