Python读取和处理文件后缀为.sqlite的数据文件(实例讲解)
最近在弄一个项目分析的时候,看到有一个后缀为”.sqlite”的数据文件,由于以前没怎么接触过,就想着怎么用python来打开并进行数据分析与处理,于是稍微研究了一下。
SQLite是一款非常流行的关系型数据库,由于它非常轻盈,因此被大量应用程序采用。
像csv文件一样,SQLite可以将数据存储于单个数据文件,以便方便的分享给其他人员。许多编程语言都支持SQLite数据的处理,python语言也不例外。
sqlite3是python的一个标准库,可以用于处理SQLite数据库。
用sqlite3创建和操作数据库文件
对于数据库的SQL语句,本文会用到最基础的SQL语句,应该不影响阅读。如果想进一步了解,可参考如下网址:
http://www.w3school.com.cn/sql/index.asp
下面,我们来应用salite3模块来创建SQLite数据文件,以及进行数据读写操作。
主要的步骤如下:
与数据库建立连接,创建数据库文件(.sqlite文件)
创建游标(cursor)
创建数据表(table)
向数据表中插入数据
查询数据
演示代码如下:
import sqlite3 with sqlite3.connect('test_database.sqlite') as con: c = con.cursor() c.execute('''CREATE TABLE test_table (date text, city text, value real)''') for table in c.execute("SELECT name FROM sqlite_master WHERE type='table'"): print("Table", table[0]) c.execute('''INSERT INTO test_table VALUES ('2017-6-25', 'bj', 100)''') c.execute('''INSERT INTO test_table VALUES ('2017-6-25', 'pydataroad', 150)''') c.execute("SELECT * FROM test_table") print(c.fetchall())
Table test_table [('2017-6-25', 'bj', 100.0), ('2017-6-25', 'pydataroad', 150.0)]
关于SQLite数据库中数据的可视化预览,有很多的工具可以实现,我这里使用的是SQLite Studio,是一个免费使用的工具,不需要安装,下载下来就可以使用,有兴趣的同学可以参考下面的链接。
https://sqlitestudio.pl/index.rvt?act=download
数据预览的效果如下:
用pandas来读取sqlite数据文件
从上面代码的运行结果可以看出,数据查询的结果是一个由tuple组成的list。python的list数据在进行进一步的数据处理与分析时,可能会不太方便。可以想象一下,假设如果数据库的表格中一共有100万行或者更多数据,从list中循环遍历获取数据,效率会比较低。
这时,我们可以考虑用pandas提供的函数来从SQLite数据库文件中读取相关数据信息,并保存在DataFrame中,方便后续进一步处理。
Pandas提供了两个函数,均可以读取后缀为“.sqlite”数据文件的信息。
read_sql()
read_sql_query()
import pandas as pd with sqlite3.connect('test_database.sqlite') as con: # read_sql_query和read_sql都能通过SQL语句从数据库文件中获取数据信息 df = pd.read_sql_query("SELECT * FROM test_table", con=con) # df = pd.read_sql("SELECT * FROM test_table", con=con) print(df.shape) print(df.dtypes) print(df.head())
(2, 3)
date object
city object
value float64
dtype: object
date city value
0 2017-6-25 bj 100.0
1 2017-6-25 pydataroad 150.0
以上这篇Python读取和处理文件后缀为.sqlite的数据文件(实例讲解)就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。
您可能感兴趣的文章:
- Python读取和处理文件后缀为".sqlite"的数据文件
- python 读取.csv文件数据到数组(矩阵)的实例讲解
- python之从文件读取数据到list的实例讲解
- 【python】详解zipfile模块读取处理压缩文件实例
- Python使用pandas处理CSV文件的实例讲解
- Python读取SQLite文件数据
- 数据处理_文件读取_PythonPickle模块(笔记)
- python读取csv文件并把文件放入一个list中的实例讲解
- C# Python 读取txt中的文件,将16进制的数据按照小端方式排列,处理为有符号的数字,并写入text文件;控制台和界面两种方式
- 【python】如何批量读取文件夹的所有文件数据,os模块与open函数结合使用实例
- ean13码的生成,python读取csv中数据并处理返回并写入到另一个csv文件中
- Python实现读取TXT文件数据并存进内置数据库SQLite3的方法
- 【python图像处理】txt文件数据的读取与写入
- 使用OLEDB方式读取Excel文件到DataTable中数据类型的处理
- Python PDF 文件解析及二次处理 实例
- Jquery调用从ashx文件返回的jsonp格式的数据处理实例
- python 数据文件的读取
- 002_009 Python 从Zip中读取数据 直接检查一个zip格式的归档文件部分或所有文件而且不用解压
- python读取json文件,并将数据插入到mongodb
- PHP按行读取、处理较大CSV文件的代码实例