集群、限流、缓存 BAT 大厂无非也就是这么做

集群、限流、缓存 BAT 大厂无非也就是这么做

前言

前阵子有网友询问,如何优化网站?这个问题真的很大,跟他简单的聊了一下,随便说了几点,觉得有必要整理一篇文章出来,正好前阵子在做爬虫博客,于是把大体思路分享出来,与大家互通有无,共同进步。

优化

版本一

集群、限流、缓存 BAT 大厂无非也就是这么做

系统开始是这样子的,一个 Tomcat 拖着一个 MySql 服务,跑在一个 2C 4G 的Linux服务器上,所有的请求都走 Tomcat,所有的查询都走 MySql,看起来像一句废话?

资源是有限的,那么如何有效的利用资源,提升服务性能?Tomcat 号称能抗住数十万并发访问,但是这事也得分场景,还得有足够牛逼的机器。

Tomcat 优化

Tomcat支持以下三种模式:

  • BIO:一个线程处理一个请求,缺点:并发量高时,线程数较多,浪费资源,Tomcat7或以下在Linux系统中默认使用这种方式。

  • NIO:利用Java的异步IO处理,可以通过少量的线程处理大量的请求。Tomcat8在Linux系统中默认使用这种方式。Tomcat7 必须修改Connector配置来启(conf/server.xml配置文件):
<Connector port="8080" 
          protocol="org.apache.coyote.http11.Http11NioProtocol" 
          connectionTimeout="20000"
          redirectPort="8443"/>
  • APR(Apache Portable Runtime):从操作系统层面解决io阻塞问题。Linux如果安装apr和native,Tomcat直接启动就支持apr。

为了方便易用这里我们选择NIO模式,小伙伴们直接下载使用 Tomcat8 以上版本即可,连接池什么的一般使用默认的即可。

版本二

集群、限流、缓存 BAT 大厂无非也就是这么做

可能部分小伙伴知道 Tomcat 容器处理静态请求的性能力并不强,所以这里需要一款能处理静态文件请求又超牛逼的服务,这里推荐 Nginx,当然你可以使用其变种 Tengine、OpenResty 才实现动静分离。

版本三

集群、限流、缓存 BAT 大厂无非也就是这么做

后端服务链接资源是宝贵的,在高并发下,会拖慢整个系统的响应时间。这里我们可以把一些热点数据进行缓存,后端读取缓存,如果数据存在则直接返回,否则再去读取数据库

版本四

集群、限流、缓存 BAT 大厂无非也就是这么做

资源是有限的,但用户可能是无限的,还可能有一些恶意用户、爬虫、热点搜索。为了大部门用户可以正常访问,这里我们使用前置限流,通过令牌桶算法或者漏桶算法实现多样的限流方案。

版本五

集群、限流、缓存 BAT 大厂无非也就是这么做

在博客系统中,为了提升响应速度,加入了 Redis 缓存,把文章主键 ID 作为 key 值去缓存查询,如果不存在对应的 value,就去数据库中查找 。这个时候,如果请求的并发量很大,就会对后端的数据库服务造成很大的压力。这里我们使用布隆过滤器对空命中进行拦截处理。

终极版

集群、限流、缓存 BAT 大厂无非也就是这么做

  • 如果仅仅对于一个博客而已一个Nginx 足够了,后面可以带多个Tomcat 做负载均衡进群

  • Nginx 应用层面做限流,后端单个服务可以做接口限流

  • 后端服务用户 Session 可以集中存储到 Redsi 中

  • 布隆过滤拦截防止缓存穿透

  • 热点数据读取 Redis 缓存

  • 如有必要 Redis 、MySql 可以做主从集群

小结

优化过程可能仅仅是冰山一角,但大体思路差不多就是这个样子,发现问题然后解决问题,本来架构就是演进而来的。

参考

从SpringBoot构建十万博文聊聊缓存穿透

SpringBoot开发案例之打造十万博文Web篇

从SpringBoot构建十万博文聊聊高并发文章浏览量设计

从0到1构建分布式秒杀系统,脱离案例讲架构都是耍流氓

原文 

http://www.cnblogs.com/smallSevens/p/11427689.html

本站部分文章源于互联网,本着传播知识、有益学习和研究的目的进行的转载,为网友免费提供。如有著作权人或出版方提出异议,本站将立即删除。如果您对文章转载有任何疑问请告之我们,以便我们及时纠正。

PS:推荐一个微信公众号: askHarries 或者qq群:474807195,里面会分享一些资深架构师录制的视频录像:有Spring,MyBatis,Netty源码分析,高并发、高性能、分布式、微服务架构的原理,JVM性能优化这些成为架构师必备的知识体系。还能领取免费的学习资源,目前受益良多

转载请注明原文出处:Harries Blog™ » 集群、限流、缓存 BAT 大厂无非也就是这么做

赞 (0)
分享到:更多 ()

评论 0

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址