来源 | 码哥字节

上帝视角拆解 Tomcat 架构设计，在了解整个组件设计思路之后。我们需要下凡深入了解每个组件的细节实现。从远到近，架构给人以宏观思维，细节展现饱满的美。关注「码哥字节」获取更多硬核，你，准备好了么？

在上文《追新求快的时代，别让 Java Web 开发必备工具 Tomcat 变成“熟悉的陌生人”！》中，我们站在上帝视角给大家拆解了 Tomcat 架构设计，分析 Tomcat 如何实现启动、停止，通过设计连接池与容器两大组件完成了一个请求的接受与响应。连接器负责对外交流，处理 socket 连接，容器对内负责，加载 Servlet 以及处理具体 Request 请求与响应。

作者：kosamino

作者 | 小林coding

来源 | 小林coding

责编 | 王晓曼

前言

网上许多博客针对增大 TCP 半连接队列和全连接队列的方式如下：

• 增大 TCP 半连接队列方式是增大 tcp_max_syn_backlog；

• 增大 TCP 全连接队列方式是增大 listen 函数中的 backlog；

这里先跟大家说下，上面的方式都是不准确的。

在开发高并发系统时有三把利器用来保护系统：缓存、降级和限流。本文结合作者的一些经验介绍限流的相关概念、算法和常规的实现方式。

缓存

缓存比较好理解，在大型高并发系统中，如果没有缓存数据库将分分钟被爆，系统也会瞬间瘫痪。使用缓存不单单能够提升系统访问速度、提高并发访问量，也是保护数据库、保护系统的有效方式。大型网站一般主要是“读”，缓存的使用很容易被想到。

在大型“写”系统中，缓存也常常扮演者非常重要的角色。比如累积一些数据批量写入，内存里面的缓存队列（生产消费），以及HBase写数据的机制等等也都是通过缓存提升系统的吞吐量或者实现系统的保护措施。甚至消息中间件，你也可以认为是一种分布式的数据缓存。

今天跟大家聊聊一个 Java 界的老话题，就是怎么理解接口的最大并发处理数。

前言

作者：nick hao

原文链接：http://cnblogs.com/haoxinyue/p/6792309.html

开涛大神在博客中说过：在开发高并发系统时有三把利器用来保护系统：缓存、降级和限流。本文结合作者的一些经验介绍限流的相关概念、算法和常规的实现方式。

缓存

缓存比较好理解，在大型高并发系统中，如果没有缓存数据库将分分钟被爆，系统也会瞬间瘫痪。使用缓存不单单能够提升系统访问速度、提高并发访问量，也是保护数据库、保护系统的有效方式。大型网站一般主要是“读”，缓存的使用很容易被想到。在大型“写”系统中，缓存也常常扮演者非常重要的角色。比如累积一些数据批量写入，内存里面的缓存队列（生产消费），以及HBase写数据的机制等等也都是通过缓存提升系统的吞吐量或者实现系统的保护措施。甚至消息中间件，你也可以认为是一种分布式的数据缓存。

设定一个场景，假如一个商品接口在某段时间突然上升，会怎么办？

生活中的例子来说，假设冰墩墩在当天晚上上热搜之后，迅速有十几万人去淘宝下单购买，此时并没有做好对该商品的缓存预热以及准备，如何操作？

数据不一致的发生场景

同一份数据，可能会同时存在 DB 和缓存之中。那就有可能发生 DB 和缓存的数据不一致。如果缓存有多个副本，多个缓存副本里的数据也可能会发生不一致现象。

不一致的问题大多跟缓存更新异常有关，比如：

• 更新 DB 后，写缓存失败，从而导致缓存中存的是老数据
• 另外，如果系统采用一致性 Hash 分布，同时采用 rehash 自动漂移策略，在节点多次上下线之后，也会产生脏数据
• 缓存有多个副本时，更新某个副本失败，也会导致这个副本的数据是老数据

背景：

物联网设备数据推送对接，通过http 接口数据加密签名后推送。平台要求5秒内必须反馈成功或者失败，所以应用接收到数据后，丢给异步线程去处理，直接返回接收成功的状态。奈何设备多数据量大，异步线程池爆满了，队列也满了，直接报错了。

错误信息：