您的位置:首页 > 大数据

结合SQL*Loader、AWK工具为表构造大数据量,以备测试

2020-06-29 04:38 483 查看
背景:
假设对需求进行评估后,发现某表数据量为1000万,表名为T_1,表结构如下:
COL_1    NUMBER(3)
COL_2    NUMBER(5, 2)
COL_3    VARCHAR2(10)
COL_4    DATE

问题:
需要往表T_1中构造1000万随机数据,这样测试就可以利用工具测试与此表相关功能的性能。

方案:
采用AWK编写随机函数,产生相应数量的文本数据;再利用Oracle数据库的SQL*Loader工具将文本数据导入到表。

方案步骤:
1. AWK编程实现随机函数,请参考【采用AWK编程实现随机函数(包括整数、浮点数、字符串、日期时间)

2. 编写T_1.awk脚本,内容如下:
BEGIN {
# 设置AWK程序输出时各列的分隔符
OFS = "|"; srand();
COUNT = 10000000;
for (i=1; i    print random_int(10, 100), random_float(3, 2), random_string("x", 10), random_time("2009 06 01 12 30 30", "2011 07 15 23 59 59", "%Y-%m-%d %H:%M:%S");
}
}

3. 执行命令:(产生1000万数据,并将数据保存在T_1_DATA.txt文件中)
awk -f random_function.awk -f T_1.awk > T_1_DATA.txt

4. 编写SQL*Loader工具控制文件T_1_CONTROL.ctl,内容如下:
LOAD DATA
INFILE 'T_1_DATA.txt'    -- 数据文件名
append INTO TABLE T_1
FIELDS TERMINATED BY '|'
(
    COL_1,
    COL_2,
    COL_3,
    COL_4 "to_date(:COL_4,'''yyyy-mm-dd hh24:mi:ss''')"    -- 将指定格式的字符串数据转换成日期
)

5. 执行SQL*Loader命令,将数据加载到表中:
sqlldr userid=用户名/密码@SID control=T_1_CONTROL.ctl
注:如果使用上面命令觉得慢,可以使用direct path load方式加载,命令如下:
sqlldr userid=用户名/密码@SID control=T_1_CONTROL.ctl direct=true

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/299797/viewspace-708094/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/299797/viewspace-708094/

内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: