如何提升springboot服务吞吐量
2020-01-31 22:48
351 查看
背景
生产环境偶尔会有一些慢请求导致系统性能下降,吞吐量下降,下面介绍几种优化建议。
方案
1、undertow替换tomcat
电子商务类型网站大多都是短请求,一般响应时间都在100ms,这时可以将web容器从tomcat替换为undertow,下面介绍下步骤: 1、增加pom配置
<dependency> <groupid>org.springframework.boot</groupid> <artifactid>spring-boot-starter-web</artifactid> <exclusions> <exclusion> <groupid>org.springframework.boot</groupid> <artifactid>spring-boot-starter-tomcat</artifactid> </exclusion> </exclusions> </dependency> <dependency> <groupid>org.springframework.boot</groupid> <artifactid>spring-boot-starter-undertow</artifactid> </dependency>
2、增加相关配置
server: undertow: direct-buffers: true io-threads: 4 worker-threads: 160
重新启动可以在控制台看到容器已经切换为undertow了
2、缓存
将部分热点数据或者静态数据放到本地缓存或者redis中,如果有需要可以定时更新缓存数据
3、异步
在代码过程中我们很多代码都不需要等返回结果,也就是部分代码是可以并行执行,这个时候可以使用异步,最简单的方案是使用springboot提供的@Async注解,当然也可以通过线程池来实现,下面简单介绍下异步步骤。 1、pom依赖 一般springboot引入web相关依赖就行
<dependency> <groupid>org.springframework.boot</groupid> <artifactid>spring-boot-starter-web</artifactid> </dependency>
2、在启动类中增加@EnableAsync注解
@EnableAsync @SpringBootApplication public class AppApplication { public static void main(String[] args) { SpringApplication.run(AppApplication.class, args); } }
3、需要时在指定方法中增加@Async注解,如果是需要等待返回值,则demo如下
@Async public Future<string> doReturn(int i){ try { // 这个方法需要调用500毫秒 Thread.sleep(500); } catch (InterruptedException e) { e.printStackTrace(); } // 消息汇总 return new AsyncResult<>("异步调用"); }
4、如果有线程变量或者logback中的mdc,可以增加传递
import org.slf4j.MDC; import org.springframework.context.annotation.Configuration; import org.springframework.core.task.TaskDecorator; import org.springframework.scheduling.annotation.AsyncConfigurerSupport; import org.springframework.scheduling.annotation.EnableAsync; import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor; import java.util.Map; import java.util.concurrent.Executor; /** * @Description: */ @EnableAsync @Configuration public class AsyncConfig extends AsyncConfigurerSupport { @Override public Executor getAsyncExecutor() { ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor(); executor.setTaskDecorator(new MdcTaskDecorator()); executor.initialize(); return executor; } } class MdcTaskDecorator implements TaskDecorator { @Override public Runnable decorate(Runnable runnable) { Map<string, string> contextMap = MDC.getCopyOfContextMap(); return () -> { try { MDC.setContextMap(contextMap); runnable.run(); } finally { MDC.clear(); } }; } }
5、有时候异步需要增加阻塞
import lombok.extern.slf4j.Slf4j; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor; import java.util.concurrent.Executor; import java.util.concurrent.ThreadPoolExecutor; @Configuration @Slf4j public class TaskExecutorConfig { @Bean("localDbThreadPoolTaskExecutor") public Executor threadPoolTaskExecutor() { ThreadPoolTaskExecutor taskExecutor = new ThreadPoolTaskExecutor(); taskExecutor.setCorePoolSize(5); taskExecutor.setMaxPoolSize(200); taskExecutor.setQueueCapacity(200); taskExecutor.setKeepAliveSeconds(100); taskExecutor.setThreadNamePrefix("LocalDbTaskThreadPool"); taskExecutor.setRejectedExecutionHandler((Runnable r, ThreadPoolExecutor executor) -> { if (!executor.isShutdown()) { try { Thread.sleep(300); executor.getQueue().put(r); } catch (InterruptedException e) { log.error(e.toString(), e); Thread.currentThread().interrupt(); } } } ); taskExecutor.initialize(); return taskExecutor; } }
4、业务拆分
可以将比较耗时或者不同的业务拆分出来提供单节点的吞吐量
5、集成消息队列
有很多场景对数据实时性要求不那么强的,或者对业务进行业务容错处理时可以将消息发送到kafka,然后延时消费。举个例子,根据条件查询指定用户发送推送消息,这里可以时按时、按天、按月等等,这时就 </string,></string>
(window.slotbydup = window.slotbydup || []).push({ id: "u5894387", container: "_0hv0l6ey3zro", async: true });相关文章推荐
- 详解如何使用Jersey客户端请求Spring Boot(RESTFul)服务
- Spring Boot 如何进行部署与服务配置的详解
- Spring Boot 如何部署到 Linux 中的服务
- 利用Nginx负载均衡的访问SpringBoot服务,还有如何利用Nginx实现404,500等错误页面的拦截
- springboot或者jetty等启动服务器后,如何去停止这个服务
- SpringWeb项目和SpringBoot微服务项目如何进行junit调试
- 详解Spring Boot微服务如何集成fescar解决分布式事务问题
- 两个springboot项目如何部署在同一个服务上,two spring boot applications deploy in same server
- Spring Boot微服务如何集成fescar解决分布式事务问题?
- 在微服务领域Spring Boot自动伸缩如何实现
- Spring Boot如何集成duboo服务
- Spring Boot微服务如何集成fescar解决分布式事务问题?
- 如何零基础搭建一套微服务框架(Spring Boot + Dubbo + Docker + Jenkins)
- 如何在Spring Boot中,使用Https提供服务,并将Http请求自动重定向到Https。
- Java微服务——如何优雅关闭 Spring Boot 应用
- 如何做自己的服务监控?spring boot 1.x服务监控揭秘
- Spring Boot如何优雅地停止服务
- 如何做自己的服务监控?spring boot 2.x服务监控揭秘
- 利用Spring Boot如何开发REST服务详解
- Spring Boot微服务如何集成fescar解决分布式事务问题?