Mongodb 和python相连,从json文本中导入数据
2016-09-02 16:13
435 查看
Mongodb 和python相连,从json文本中导入数据
因为现在mogondb 升级了,pymongo的version 变成了3.3现在是将用scrapy 爬到的zhihu用户数据存到mongodb中,所以代码如下:
#coding=utf-8 import pymongo from bson.objectid import ObjectId import logging from datetime import datetime import json from time import mktime import time import sys propertiesList =["follow_topics","followers","followees","logs","collections"\ ,"name" ,"sign" \ ,"location" \ ,"business" \ ,"employment" \ ,"position" \ ,"education" \ ,"education_extra" \ ,"description" \ ,"agree" \ ,"thanks" \ ,"asks" \ ,"answers" \ ,"posts" ] # print propertiesList hostname = "localhost" port_num = int("27017") db_name = "scrapy" try: client = pymongo.MongoClient(hostname, port_num) #选择数据库 db = client[db_name] #选择数据的collection collection = db.zhihu except: print "connection wrong" count = 0 mongolist = [] try: f = file("data_utf8.json") for line in f: # print line s = json.loads(line) #这里仅仅是为了改变一下文档的格式 for item in propertiesList: if s.has_key(item): if len(s[item])!=0: s[item] = s[item][0] else: s[item] = None # break if s.has_key("asks"): count +=1 mongolist.append(s) except: print "read to json worng",count print mongolist collection.insert_many(mongolist) print count
相关文章推荐
- 通过Python将MongoDB导出的json数据转换成Mysql的insert语句导入
- [MongoDB]外部json数据导入MongoDB
- python将json格式数据转换为insert into语句导入mysql数据库
- python将json格式的数据转换成文本格式的数据或sql文件
- MongoDB 批量以 JSON 形式导入数据的方法
- Python Flask之处理客户端通过POST方法传送的数据(json文本,文件)
- python将json格式的数据转换成文本格式的数据或sql文件
- python 读取单所有json数据写入mongodb(单个)
- 数据从txt文本导入python
- Python将JSON格式数据转换为SQL语句以便导入MySQL数据库
- MongoDB 导入Json数据( 需要用户名密码 )
- MongoDB数据导入 JSON
- python脚本将excel文档数据导入到mongodb
- MongoDB数据导入导出成csv或者json
- python 把json数据导入mongodb数据库
- Python将JSON格式数据转换为SQL语句以便导入MySQL数据库
- Python批量导入文本数据到数据库的方法
- mongodb 执行mongorestore失败,无法导入数据(导入文件夹中包括.json文件和.bson文件)
- Python将JSON格式数据转换为SQL语句以便导入MySQL数据库
- python读取json文件并将数据插入到mongodb的方法