Google Guava缓存实现接口的限流
2016-06-20 15:06
477 查看
一.项目背景
最近项目中需要进行接口保护,防止高并发的情况把系统搞崩,因此需要对一个查询接口进行限流,主要的目的就是限制单位时间内请求此查询的次数,例如1000次,来保护接口。参考了 开涛的博客聊聊高并发系统限流特技 ,学习了其中利用Google Guava缓存实现限流的技巧,在网上也查到了很多关于Google Guava缓存的博客,学到了好多,推荐一个博客文章:http://ifeve.com/google-guava-cachesexplained/,关于Google Guava缓存的更多细节或者技术,这篇文章讲的很详细;
这里我们并不是用缓存来优化查询,而是利用缓存,存储一个计数器,然后用这个计数器来实现限流。
二.效果实验
static LoadingCache<Long, AtomicLong> count = CacheBuilder.newBuilder().expireAfterWrite(2, TimeUnit.SECONDS).build(new CacheLoader<Long, AtomicLong>() { @Override public AtomicLong load(Long o) throws Exception { //System.out.println("Load call!"); return new AtomicLong(0L); } });
上面,我们通过CacheBuilder来新建一个LoadingCache缓存对象count,然后设置其有效时间为两秒,即每两秒钟刷新一次;缓存中,key为一个long型的时间戳类型,value是一个计数器,使用原子性的AtomicLong保证自增和自减操作的原子性, 每次查询缓存时如果不能命中,即查询的时间戳不在缓存中,则重新加载缓存,执行load将当前的时间戳的计数值初始化为0。这样对于每一秒的时间戳,能计算这一秒内执行的次数,从而达到限流的目的;
这是要执行的一个getCounter方法:
public class Counter { static int counter = 0; public static int getCounter() throws Exception{ return counter++; } }
现在我们创建多个线程来执行这个方法:
ublic class Test { public static void main(String args[]) throws Exception { for(int i = 0;i<100;i++) { new Thread(){ @Override public void run() { try { System.out.println(Counter.getCounter()); } catch (Exception e) { e.printStackTrace(); } } }.start(); } } }
这样执行的话,执行结果很简单,就是很快地执行这个for循环,迅速打印0到99折100个数,不再贴出。
这里的for循环执行100个进程时间是很快的,那么现在我们要限制每秒只能有10个线程来执行getCounter()方法,该怎么办呢,上面讲的限流方法就派上用场了:
public class Counter { static LoadingCache<Long, AtomicLong> count = CacheBuilder.newBuilder().expireAfterWrite(2, TimeUnit.SECONDS).build(new CacheLoader<Long, AtomicLong>() { @Override public AtomicLong load(Long o) throws Exception { System.out.println("Load call!"); return new AtomicLong(0L); } }); static long limits = 10; static int counter = 0; public static synchronized int getCounter() throws Exception{ while (true) { //获取当前的时间戳作为key Long currentSeconds = System.currentTimeMillis() / 1000; if (count.get(currentSeconds).getAndIncrement() > limits) { continue; } return counter++; } } }
这样一来,就可以限制每秒的执行数了。对于每个线程,获取当前时间戳,如果当前时间(当前这1秒)内有超过10个线程正在执行,那么这个进程一直在这里循环,直到下一秒,或者更靠后的时间,重新加载,执行load,将新的时间戳的计数值重新为0。
执行结果:
每秒执行11个(因为从0开始),每一秒之后,load方法会执行一次;
为了更加直观,我们可以让每个for循环sleep一段时间: public class Test { public static void main(String args[]) throws Exception { for(int i = 0;i<100;i++) { new Thread(){ @Override public void run() { try { System.out.println(Counter.getCounter()); } catch (Exception e) { e.printStackTrace(); } } }.start(); Thread.sleep(100); } } }
在上述这样的情况下,一个线程如果遇到当前时间正在执行的线程超过limit值就会一直在while循环,这样会浪费大量的资源,我们在做限流的时候,如果出现这种情况,可以不进行while循环,而是直接抛出异常或者返回,来拒绝这次执行(查询),这样便可以节省资源。
相关文章推荐
- 页面缓存:内存和文件之间的那些事
- 浅析SQL Server中的执行计划缓存(上)
- Enterprise Library for .NET Framework 2.0缓存使用实例
- PowerShell中编程清空IE缓存方法
- PowerShell中使用.NET将程序集加入全局程序集缓存
- C#中缓存的基本用法总结
- 探究在C++程序并发时保护共享数据的问题
- Android实现图片异步加载并缓存到本地
- wap开发中如何有效的利用缓存减少消息的传送量
- PHP基于文件存储实现缓存的方法
- smarty缓存用法分析
- 在ASP.NET 2.0中操作数据之四十八:对SqlDataSource控件使用开放式并发
- 在ASP.NET 2.0中操作数据之五十九:使用SQL缓存依赖项SqlCacheDependency
- 在ASP.NET 2.0中操作数据之五十八:在程序启动阶段缓存数据
- 在ASP.NET 2.0中操作数据之五十七:在分层架构中缓存数据
- 在ASP.NET 2.0中操作数据之二十一:实现开放式并发
- 引用全局程序集缓存内的程序集的方法
- asp Response.flush 实时显示进度
- C#实现清除IE浏览器缓存的方法
- ASP.NET缓存管理的几种方法