一种分布式框架设计(三)
2015-03-09 17:52
127 查看
本文讨论在分布式框架中使用到的两个数据结构。为了实现高性能,这两个数据结构都是无锁的。
第一个数据结构存储的是客户端发过来的socket。由于我们的框架只有一个线程接受用户的请求,所以很容易对每一个socket创建一个unique number(稍候我们再来看unique number包含了哪些信息)。框架中有一个线程专门来做清理工作,同时关闭没有返回给客户端的socket。最后框架中有多个线程去查询所需的socket,由于是根据unique number进行查找,那么它保证了每一个socket至多只会被一个线程查询一次。如果查找前就获知该unique
number所对应的socket已经因timeout而被删除了,就放弃当前的查找。unique number至少需要包含当前的时间窗口和递增的序列数这两类信息。时间窗口的作用是对于所有socket按照时间进行分组,防止递增序列号无限增大,同时清理线程很容易根据timeout的时间找到该时间窗口的所有socket。递增的序列号保证了在该时间窗口内的唯一性。数据结构如下图所示:
第二个数据结构是一个多进多出的队列。比如有n个dispatcher线程,m个receiver线程。实现的思想也是基于分组,则上述的例子会包含n*m个分组,每个分组中只包含一个dispatcher和一个receiver。由于我们知道循环队列是可以支持同时插入和删除,我们的问题也就这么解决了,示意图如下:
在一种分布式框架设计(四)中,我会分享分布式系统是如何协调工作的,另一个利器zookeeper就要出场了。
第一个数据结构存储的是客户端发过来的socket。由于我们的框架只有一个线程接受用户的请求,所以很容易对每一个socket创建一个unique number(稍候我们再来看unique number包含了哪些信息)。框架中有一个线程专门来做清理工作,同时关闭没有返回给客户端的socket。最后框架中有多个线程去查询所需的socket,由于是根据unique number进行查找,那么它保证了每一个socket至多只会被一个线程查询一次。如果查找前就获知该unique
number所对应的socket已经因timeout而被删除了,就放弃当前的查找。unique number至少需要包含当前的时间窗口和递增的序列数这两类信息。时间窗口的作用是对于所有socket按照时间进行分组,防止递增序列号无限增大,同时清理线程很容易根据timeout的时间找到该时间窗口的所有socket。递增的序列号保证了在该时间窗口内的唯一性。数据结构如下图所示:
第二个数据结构是一个多进多出的队列。比如有n个dispatcher线程,m个receiver线程。实现的思想也是基于分组,则上述的例子会包含n*m个分组,每个分组中只包含一个dispatcher和一个receiver。由于我们知道循环队列是可以支持同时插入和删除,我们的问题也就这么解决了,示意图如下:
在一种分布式框架设计(四)中,我会分享分布式系统是如何协调工作的,另一个利器zookeeper就要出场了。
相关文章推荐
- 一种分布式框架设计(四)
- 一种分布式框架设计(二)
- 一种高性能分布式Web爬行器的设计与实现(二)
- 一种面向作业流(工作流)的轻量级可复用的异步流水开发框架JobFlow的设计与实现
- 基于分布式计算平台的流数据挖掘框架设计
- Android多线程操作sqlite数据库连接池框架的一种设计思路
- 分布式服务框架原理(一)设计和实现
- J2EE分布式系统框架设计
- 分布式任务编排调度框架设计
- 分布式服务框架设计笔记一
- 分布式框架设计中的服务降级
- 一种采用消息框架切分扩展的设计方法
- 分布式统一框架的设计与实现(数据库)
- 一种互联网应用的分布式架构模式微服务应用框架的实现(gradle,dubbo,zookeeper,springmmvc)
- 使用XML,Spring,和struts以MVC为设计模式的分布式应用程序框架
- 一种Java日志系统框架的设计与实现(转)
- 分享基于分布式Http长连接框架--设计模型
- 【niubi-job——一个分布式的任务调度框架】----框架设计原理以及实现
- niubi-job:一个分布式的任务调度框架设计原理以及实现
- EhCache 是一个纯Java的进程内缓存框架,具有快速、精干等特点,是hibernate中默认的CacheProvider Ehcache是一种广泛使用的开源Java分布式缓存。主要面向通