浅谈python多线程和队列管理shell程序

首先来描述下环境，在机器上有很多个JAVA程序，我们在每个JAVA程序里都配置了一个启动|停止|重启的脚本

举个例子：

我们现在要同时运行这些脚本，来达到快速启动所有的JAVA程序，如果我们只用多线程的话，线程是不会返回消息给父进程，我们如何才能知道这些程序是启动成功了呢？

所以我们用到了队列来管理。

"""我试过gevent,但是会在command这里造成阻塞"""

gevent代码如下  如果有朋友知道如何优化，请您告诉我

#!/usr/bin/python2.7
# -*- coding:utf-8 -*-
import os,sys
from datetime import datetime
import commands
import gevent.monkey
gevent.monkey.patch_os()
import gevent
def Servers():
servers=commands.getoutput('''ls /data/program/payment/ | grep 'payment' ''')
servers=servers.split('\n')
return servers
def handle(servername):
if sys.argv[1] == 'start' or sys.argv[1] == 'stop' or sys.argv[1] == 'restart':
print '\033[1;31;40m'
print '========================>>>go to handle %s<<<=========================' %servername
print '\033[0m'
r=commands.getoutput('''su - tomcat -c "/data/program/payment/%s/bin/server.sh %s &" ''' %(servername,sys.argv[1]))  #在这里会阻塞，我们无法找到合适的地方进行协程的切换
gevent.sleep(0)        #无论放到何处，不是之前就是切换之后都会阻塞。
print r
else:
print 'Please Use start | stop | restart To Handle The Command'
sys.exit(1)
if __name__ == '__main__':
s=Servers()
threads=[]
for i in s:
threads.append(gevent.spawn(handle,i))
#  print threads
gevent.joinall(threads)

多线程代码如下

#!/usr/bin/python2.7
# -*- coding:utf-8 -*-
from datetime import datetime
import commands
from Queue import Queue
from threading import Thread
_sentinel = object()
def Servers():
servers=commands.getoutput('''ls /data/program/payment/ | grep 'payment' ''')
servers=servers.split('\n')
return servers
def producer(servername,out_q):
if sys.argv[1] == 'start' or sys.argv[1] == 'stop' or sys.argv[1] == 'restart':
print '\033[1;31;40m'
print '========================>>>put %s in Queue<<<=========================' %servername
print '\033[0m'
out_q.put_nowait(commands.getoutput('''su - tomcat -c "/data/program/payment/%s/bin/server.sh %s &" ''' %(servername,sys.argv[1])))  #放入队列的对象
else:
print 'Please Use start | stop | restart To Handle The Command'
sys.exit(1)
def consumer(servername,in_q):
n=len(servername)
while n > 0:             #循环在队列中取结果，直到循环结束
data=in_q.get()
n -= 1
print '\033[1;31;40m'
print data
print '\033[0m'
print '\033[1;31;40m'
print 'consumer was done!!!!!!!'
print '\033[0m'
if __name__ == '__main__':
s=Servers()
q = Queue()
t1 = Thread(target=consumer, args=(s,q,))      #消费者在队列中获取结果，前面的函数内部已经循环获取
for i in s:
t2=Thread(target=producer, args=(i,q,))     #讲线程进行管理，放入队列
t2.start()                   #启动生产者线程
#    t2.join()                   #启动生产者以后放弃校验线程是否结束，进行并发，因为我们是把线程放入队列进行管理的，所以不用在这里等待线程结束，如果使用了join这里会阻塞我们的程序。线程结束后，消费者会通知父进程线程已经结束。
t1.start()                     #启动消费者线程
t1.join()                      #在获取完成之前进行线程的阻塞

简单的说下join这个方法：

调用Thread.join将会使主调线程堵塞，直到被调用线程运行结束或超时。参数timeout是一个数值类型，表示超时时间，如果未提供该参数，那么主调线程将一直堵塞到被调线程结束。

以上所述就是本文的全部内容了，希望大家能够喜欢。

您可能感兴趣的文章:

• python异步任务队列示例
• python实现堆栈与队列的方法
• 利用Python学习RabbitMQ消息队列
• python基于mysql实现的简单队列以及跨进程锁实例详解
• Python实现的数据结构与算法之队列详解
• Python3中多线程编程的队列运作示例
• python计算最大优先级队列实例
• Python实现简单多线程任务队列
• Python多线程和队列操作实例
• Python实现的数据结构与算法之双端队列详解
• 栈和队列数据结构的基本概念及其相关的Python实现
• Python多线程结合队列下载百度音乐的方法
• Python实现队列的方法
• 理解生产者消费者模型及在Python编程中的运用实例