您的位置:首页 > 数据库 > SQL

【sqoop】定时执行shell脚本,sqoop从mysql导出多张表信息到hbase

2017-08-02 16:32 633 查看
一、shell脚本

#!/bin/bash
#coding=UTF-8

#date_year=$(date +%Y)
#echo $date_year
source /etc/profile
for((i=3;i<=8;i++));
do
/opt/sqoop-1.4.6/bin/sqoop import --connect jdbc:mysql://192.168.150.86:3306/ablesky_play_log
--query "SELECT id_cpl,id_account_cpl,id_course_cpl,play_time_cpl,CONCAT_WS('_', id_cpl, play_time_cpl)AS rowkey FROM sta_course_play_log_cpl_2017_0"$i" WHERE 1=1 AND id_account_cpl != 19 AND is_trial_cpl=1 AND \$CONDITIONS"
--split-by id_cpl
--hbase-table courseAuditionLog
 --column-family info
--hbase-row-key rowkey
--username 'zhang'
 -password qzE@2UNYgowo
done


动态插入变量
$i
只需要在query后的两个字符串之间即可,不用++连接

二、定时任务设置

25 16 * * * /usr/bin/sh /opt/cronfile/test/zhang/sqoop.sh >> /opt/cronfile/test/zhang/logs/sqoop_`date +\%Y\%m\%d\%H\%M\%S`.log 2>&1
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  shell mysql hbase sqoop crontab