使用curl递归下载软件脚本分享
2014-03-05 10:33
1141 查看
#!/bin/env bashPATH=/bin:/sbin:/usr/bin:/usr/sbin:/usr/local/bin:/usr/local/sbinexport PATHclearUrl="http://mirrors.cnnic.cn/apache/"DownListFile="/tmp/downlist.txt"DownListTmpFile="/tmp/tmplist.txt"DownFileType="zip$|gz$"DownList=""UrlBack="$Url"[ ! -f $DownListFile ] && touch $DownListFile || echo > $DownListFile[ ! -f $DownListTmpFile ] && touch $DownListTmpFile || echo > $DownListTmpFileCURL_URLS(){ Urls=`curl $UrlBack |awk -F "a href=\"" '{printf "%s\n",$2}'|awk -F "\"" '{printf "%s\n",$1}'|grep -vE "^$|^\?|^http:\/\/"|^#`}URL_LIST(){ CURL_URLS for i in $Urls ;do echo "$UrlBack$i" >> $DownListTmpFile done}RECURSIVE_SEARCH_URL(){ UrlBackTmps=`cat $DownListTmpFile` [[ "$UrlBackTmps" == "" ]] && echo "no more page for search" && exit 1 for j in $UrlBackTmps ;do if [[ "${j##*\/}" != "" ]] ;then echo "$j" >> $DownListFile else UrlBack="$j" URL_LIST fi UrlTmps=`grep -vE "$j$" $DownListTmpFile` echo "$UrlTmps" > $DownListTmpFile RECURSIVE_SEARCH_URL done}DOWNLOAD_FILE(){ DownList=`grep -E "$DownFileType" $DownListFile` for k in $DownList ;do FilePath=/tmp/${k#*\/\/} [ ! -d `dirname $FilePath` ] && mkdir -p `dirname $FilePath` [ ! -f $FilePath ] && cd `dirname $FilePath` && curl -O $k done}URL_LIST $UrlsRECURSIVE_SEARCH_URL
相关文章推荐
- python使用7z解压软件备份文件脚本分享
- python使用7z解压软件备份文件脚本分享
- 【资源分享】GIF屏幕录制软件&&GIF轻量级编辑软件(含动图使用方法和下载链接)
- 常用java开发使用到的工具以及下载地址 - Java开发软件列表
- 分享一个自用的 Inno Setup 软件打包脚本
- 使用POSTMAN软件生成cURL请求
- 造福大众,分享一个mp3下载脚本 [转]
- 活动现场控制管理利器--节目文件,会议文件,PowerPoint文件,多媒体文件编辑组织管理播放平台--双屏版软件,欢迎下载使用.
- Mtk6573使用虚拟机下载软件
- 使用shell脚本实现在liunx上进行svn的上传下载更新功能
- linux debugfs使用分享 软件查看gpio状态 .
- Idea的使用与感受(四)--补充破解软件下载地址
- win7使用CMD打开自带的无线热点(wifi热点)教程,不用下载软件
- 使用CURL来自动登录并下载东西
- centos shell编程5 LANMP一键安装脚本 lamp sed lnmp 变量和字符串比较不能用-eq cat > /usr/local/apache2/htdocs/index.php <<EOF重定向 shell的变量和函数命名不能有横杠 平台可以用arch命令,获取是i686还是x86_64 curl 下载 第三十九节课
- 【转】如何编写Nullsoft Installation System的安装脚本(软件站提供下载)
- DDOS软件使用教程以及工具包下载 网站渗透 和攻击
- windows下curl的下载和使用
- Firefox - 附加软件 - Firebug - Script脚本视图 - 使用step into, step over等按钮需要先设置javascript脚本的断点