阿里云 机器学习pai的使用数据的使用以及模型的存储
2017-10-14 16:14
267 查看
1.数据的使用 读取pickle
import os
import sys
import argparse
import tensorflow as tf
import pickle
from tensorflow.python.lib.io import file_io
FLAGS = None
def main(_):
dir = os.path.join(FLAGS.buckets, 'Parsing.pickle')
object = file_io.read_file_to_string(dir,True)
result = pickle.loads(object)
training_records = result['training']
validation_records = result['validation']
print(len(training_records))
print("good")
if __name__ == '__main__':
parser = argparse.ArgumentParser()
parser.add_argument('--buckets', type=str, default='',
help='input data path')
parser.add_argument('--checkpointDir', type=str, default='',
help='output model path')
FLAGS, _ = parser.parse_known_args()
tf.app.run(main=main)注意点1:buckets的定义,而且是缺省值不用定义具体的oss地址
注意点2:使用tensorflow进行读取,Python的open方法在pai上不能使用
注意点3:pickle存储dump时协议要用2,以为pai上的Python是2.7
2.模型的存储
import tensorflow as tf
FLAGS = tf.flags.FLAGS
tf.flags.DEFINE_string("checkpointDir", "model/test.ckpt", "path to logs directory")
w1 = tf.placeholder("float", name="w1")
w2 = tf.placeholder("float", name="w2")
b1= tf.Variable(2.0,name="bias")
feed_dict ={w1:4,w2:8}
w3 = tf.add(w1,w2)
w4 = tf.multiply(w3,b1,name="op_to_restore")
sess = tf.Session()
sess.run(tf.global_variables_initializer())
saver = tf.train.Saver()
print (sess.run(w4,feed_dict))
saver.save(sess,FLAGS.checkpointDir)注意点1:要定义checkpointDir
import os
import sys
import argparse
import tensorflow as tf
import pickle
from tensorflow.python.lib.io import file_io
FLAGS = None
def main(_):
dir = os.path.join(FLAGS.buckets, 'Parsing.pickle')
object = file_io.read_file_to_string(dir,True)
result = pickle.loads(object)
training_records = result['training']
validation_records = result['validation']
print(len(training_records))
print("good")
if __name__ == '__main__':
parser = argparse.ArgumentParser()
parser.add_argument('--buckets', type=str, default='',
help='input data path')
parser.add_argument('--checkpointDir', type=str, default='',
help='output model path')
FLAGS, _ = parser.parse_known_args()
tf.app.run(main=main)注意点1:buckets的定义,而且是缺省值不用定义具体的oss地址
注意点2:使用tensorflow进行读取,Python的open方法在pai上不能使用
注意点3:pickle存储dump时协议要用2,以为pai上的Python是2.7
2.模型的存储
import tensorflow as tf
FLAGS = tf.flags.FLAGS
tf.flags.DEFINE_string("checkpointDir", "model/test.ckpt", "path to logs directory")
w1 = tf.placeholder("float", name="w1")
w2 = tf.placeholder("float", name="w2")
b1= tf.Variable(2.0,name="bias")
feed_dict ={w1:4,w2:8}
w3 = tf.add(w1,w2)
w4 = tf.multiply(w3,b1,name="op_to_restore")
sess = tf.Session()
sess.run(tf.global_variables_initializer())
saver = tf.train.Saver()
print (sess.run(w4,feed_dict))
saver.save(sess,FLAGS.checkpointDir)注意点1:要定义checkpointDir
相关文章推荐
- SharedPreferences获取时报空指针异常,以及普通类中使用SharedPreferences存储数据
- 使用ADO.NET 实体数据模型实现SQL存储过程调用
- Coco2dx 使用sqlite数据库存储以及加密数据总结
- react native AsyncStorage 使用实例 异步存储数据以及读取
- TensorFlow模型的存储、加载以及TensorBoard的使用
- 了解数据模型、以及MySQL使用的数据模型
- STM32的I2C的使用要注意啦(用来连接EEPROM,存储数据),关于I2C的busyflag以及与FSMC冲突!
- 回顾:字符数据在内存中的存储形式以及其使用方法
- Adnroid中的数据存储大全,以及ActiveAndroid的简单使用
- ZK框架简介,以及在ZK下使用JXL读取Excel模板,导出数据模型到Excel的方法
- 关于UEditor插件的使用以及UEditor数据回显问题,数据库存储标签代码前台页面如何解析问题小结
- 使用Weka进行数据挖掘(Weka教程九)模型序列化/持久化存储和加载
- Scrapy爬虫系列笔记之六:使用item以及对得到的数据进行存储以及处理_by_书訢
- 使用Python3 xlrd pymysql 实现读取Excel数据读取以及mysql存储
- Android应用开发SharedPreferences存储数据的使用方法 以及与 getPreferences 、getDefaultSharedPreferences的区别
- Swift - 几种使用数组的数据存储模型
- 使用ADO.NET存储大数据到ORACLE,文本,图象,并检索出来。
- 使用Oracle网络数据模型的缺点
- 使用数据2分处理的通用分页存储过程 前半部分与后半部分数据访问时间相同,同等访问速度提高一倍
- 使用.NET存储XML数据的方法