如何生成FSNS数据集结构的tfrecord数据
2018-01-13 15:38
393 查看
想要用一下attention ocr,github如下:
https://github.com/tensorflow/models/tree/master/research/attention_ocr
发现这里面并没有生成数据的样例代码,只能用fsns的格式,如果想要用自己的数据集要生成一个和FSNS一样结构的tfrecord数据,但是这部分没有仔细说,只给了一个stackoverflow的链接,更坑的是,这个链接里说的也不清楚,而且还有些错误:
https://stackoverflow.com/a/44461910/743658
FSNS的具体结构在这篇论文里有说:
https://arxiv.org/pdf/1702.03970.pdf
不过我们只需要关心这个图就行了。
image/format : 表示图像数据的格式,官方使用的png格式
image/encoded : 表示图像数据转码后的字符串数据
image/class : 长度为37的label list(37是label最长的长度),其实就是真实label的每个字符的id的list,后面长度不足37就添上null
image/unpadded_class : 没有填null的原始label list
image/width : 图像的宽度
image/orig-width : 切分图像的宽度。因为fsns数据集有4个视角,所以是图像宽度除4,如果只有一个视角,和上面宽度一样就行了
image/height : 图像高度,实际使用的时候高度数据没有使用,所以这个也可以不填
image/text : 原始的label字符串
下面贴一下关键代码:
大概就是这样了,因为中间要把numpy的矩阵转为tensorflow的png格式,还要再跑个session,之前按照stackoverflow里的写法,直接用numpy的格式,一直数据读取错误……我看了下源码,其实是可以不用png格式的:
只需要把’image/format’的值改成’raw’就行了。
https://github.com/tensorflow/models/tree/master/research/attention_ocr
发现这里面并没有生成数据的样例代码,只能用fsns的格式,如果想要用自己的数据集要生成一个和FSNS一样结构的tfrecord数据,但是这部分没有仔细说,只给了一个stackoverflow的链接,更坑的是,这个链接里说的也不清楚,而且还有些错误:
https://stackoverflow.com/a/44461910/743658
FSNS的具体结构在这篇论文里有说:
https://arxiv.org/pdf/1702.03970.pdf
不过我们只需要关心这个图就行了。
image/format : 表示图像数据的格式,官方使用的png格式
image/encoded : 表示图像数据转码后的字符串数据
image/class : 长度为37的label list(37是label最长的长度),其实就是真实label的每个字符的id的list,后面长度不足37就添上null
image/unpadded_class : 没有填null的原始label list
image/width : 图像的宽度
image/orig-width : 切分图像的宽度。因为fsns数据集有4个视角,所以是图像宽度除4,如果只有一个视角,和上面宽度一样就行了
image/height : 图像高度,实际使用的时候高度数据没有使用,所以这个也可以不填
image/text : 原始的label字符串
下面贴一下关键代码:
def encode_utf8_string(text, length, charset, null_char_id=133): char_ids_padded = [null_char_id]*length char_ids_unpadded = [null_char_id]*len(text) for i in range(len(text)): hash_id = charset[text[i]] char_ids_padded[i] = hash_id char_ids_unpadded[i] = hash_id return char_ids_padded, char_ids_unpadded def _bytes_feature(value): return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value])) def _int64_feature(value): return tf.train.Feature(int64_list=tf.train.Int64List(value=value)) '''生成tfrecord''' img_data = img_data.resize((IMAGE_SIZE,IMAGE_SIZE),Image.ANTIALIAS) np_data = np.array(img_data) image = tf.image.convert_image_dtype(np_data, dtype=tf.uint8) image = tf.image.encode_png(image) image_data = sess.run(image) char_ids_padded, char_ids_unpadded = encode_utf8_string( text=text, charset = charset, length=MAX_LABEL_LENGTH, null_char_id=38 ) example = tf.train.Example(features=tf.train.Features( feature={ 'image/encoded': _bytes_feature(image_data), 'image/format': _bytes_feature("PNG"), 'image/width': _int64_feature([np_data.shape[1]]), 'image/orig_width': _int64_feature([np_data.shape[1]]), 'image/class': _int64_feature(char_ids_padded), 'image/unpadded_class': _int64_feature(char_ids_unpadded), 'image/text': _bytes_feature(str(text)), # 'height': _int64_feature([crop_data.shape[0]]), } )) tfrecord_writer.write(example.SerializeToString())
大概就是这样了,因为中间要把numpy的矩阵转为tensorflow的png格式,还要再跑个session,之前按照stackoverflow里的写法,直接用numpy的格式,一直数据读取错误……我看了下源码,其实是可以不用png格式的:
只需要把’image/format’的值改成’raw’就行了。
相关文章推荐
- TensorFlow TFRecord数据集的生成与显示
- Tensorflow 处理libsvm格式数据生成TFRecord (parse libsvm data to TFRecord)
- 如何给父子ID结构的数据,动态生成layerorder
- 猫狗大战数据集,演示如何通过Tf处理数据
- 如何生成多叉树,以构建树形结构需要的数据
- 如何在Oracle中复制表结构和表数据
- 数据结构与算法16:最小生成树普利姆prim算法
- Oracle如何比对两库的表结构,表数据差异
- 表生成后(已有数据)如何增加主键,设置自动增长
- 如何对MySQL数据表进行复制、表结构复制
- 如何用Powerdesigner的PDM(物理数据模型)生成数据库
- 数据结构实验之图论九:最小生成树
- 如何对MySQL数据表进行复制、表结构复制
- 如何抓取Js动态生成数据且以滚动页面方式分页的网页
- 数据库中如何保存多级结构的数据
- 数据结构课设 公路村村通 (最小生成树prim算法)
- Powerdesigner中如何生成测试数据
- 如何将sqlserver表中的数据导出sql语句或生成insert into语句
- SQL调优如何生成海量测试数据 推荐
- 如何基于DEM高程数据提取生成等高线的教程