前言
The open source，in-memory data store used by millions of developers as a database，cache streaming engine，and message broker.——开源的内存数据存储，被数百万开发人员用作数据库、缓存流引擎和消息中间件。
1. 初始Redis
Redis是在内存中存储数据的，而我们平时定义的变量就是在内存中的，那么Redis在什么场景下才有用呢？这么想在平时确实没有用，但是其实它是需要在分布式系统中，才会有效果的。如果只是单机程序，直接通过变量存储数据是更好的方式。
那么说来说去Redis到底是用来干什么的呢？在学习进程部分，我们知道进程是具有隔离性的，彼此之间是无法看到对方的数据的，如果想进行通信，那么就需要双方先看到同一份资源……。
在进程通信中，有一种方式是通过网络来进行的，我们可以通过网络来实现一个主机的不同进程之间的通信，或者是不同主机之间进程的通信。而Redis就是基于网络，可以把自己内存中的数据给其他进程，甚至是其他主机的进程使用。
2. MySQL VS Redis
MySQL是目前主流的数据库，但是它有一个很大的问题， 就是它的访问速度很慢，在一些产品中，对于性能要求很高，那么此时MySQL就不太适用了。而Redis也可以当作数据库使用，由于它是在内存中存储的，而MySQL是在硬盘中存储的，所以在效率上Redis是远高于MySQL的。
自然它也是有缺点的，我们都知道内存相比较硬盘，肯定是小的多的，所以使用Redis作数据库相比较MySQL，存储的数量是比较小的。
那么有没有方式做到效率又快，存储的数据又多呢？典型的方案就是，将Redis和MySQL进行结合，将Redis作为MySQL的缓存，也就是使用Redis存放热点数据，相当于作为一段缓冲区。但是也有一些其他的代价，比如MySQL和Redis之间的数据同步。
3. 什么是分布式系统（也是一种处理大量数据时的处理方式）
3.1 单机架构
我们先来看看一个单机架构，就是只有一台服务器，这个服务器负责所有的工作。
初期，我们需要利用我们精干的技术团队，快速将业务系统投⼊市场进行检验，并且可以迅速响应变化要求。但好在前期用户访问量很少，没有对我们的性能、安全等提出很高的要求，而且系统架构简单，无需专业的运维团队，所以选择单机架构是合适的。
如果用户量和数据量都不高的话，那么一台主机就可以完成高并发和数据存储，而当用户量和数据量越来越高的时候，一台主机不足以支撑的时候，就需要引入更多的主机来分摊压力，这就是我们所说的分布式系统，也就是使用多台主机进行服务。
但是引入分布式系统，是一种万不得已的决策，一旦引入分布式，那么系统的复杂度就会大大增加，不是双倍，而是指数的程度增加，bug出现的概率也会增加……
3.2 数据库与应用服务分离
随着系统的上线，我们不出意外地获得了成功。市场上出现了⼀批忠实于我们的用户，使得系统的访问量逐步上升，逐渐逼近了硬件资源的极限，同时团队也在此期间积累了对业务流程的⼀批经验。面对当前的性能压力，我们需要未⾬绸缪去进行系统重构、架构挑战，以提升系统的承载能力。但由于预算仍然很紧张，我们可以选择将应用和数据分离的做法，可以最小代价的提升系统的承载能力。
3.3 负载均衡
我们的系统受到了用户的欢迎，并且出现了爆款，单台应用服务器已经无法满足需求了。我们的单机应用服务器首先遇到了瓶颈，摆在我们技术团队面前的有两种方案，大家针对方案的优劣展示了热烈的讨论：
- 垂直扩展 / 纵向扩展 Scale Up。通过购买性能更优、价格更高的应用服务器来应对更多的流量。这种方案的优势在于完全不需要对系统软件做任何的调整；但劣势也很明显：硬件性能和价格的增长关系是⾮线性的，意味着选择性能 2 倍的硬件可能需要花费超过 4 倍的价格，其次硬件性能提升是有明显上限的。
- 水平扩展 / 横向扩展 Scale Out。通过调整软件架构，增加应用层硬件，将用户流量分担到不同的应用层服务器上，来提升系统的承载能力。这种方案的优势在于成本相对较低，并且提升的上限空间也很大。但劣势是带给系统更多的复杂性，需要技术团队有更丰富的经验。
经过团队的学习、调研和讨论，最终选择了水平扩展的方案，来解决该问题，但这需要引⼊⼀个新的组件⸺负载均衡：为了解决用户流量向哪台应用服务器分发的问题，需要⼀个专门的系统组件做流量分发。实际中负载均衡不仅仅指的是工作在应用层的，甚至可能是其他的网络层之中。同时流量调度算法也有很多种，这⾥简单介绍几种较为常见的：
- Round-Robin 轮询算法。即⾮常公平地将请求依次分给不同的应用服务器。
- Weight-Round-Robin 轮询算法。为不同的服务器（比如性能不同）赋予不同的权重（weight），能者多劳。
- ⼀致哈希散列算法。通过计算用户的特征值（比如 IP 地址）得到哈希值，根据哈希结果做分发，优点是确保来自相同用户的请求总是被分给指定的服务器。也就是我们平时遇到的专项客户经理服务。
3.4 数据库读写分离
此时对于应用服务器来说，压力已经减半了（因为有两个服务器），但是对于数据库来说，承担的压力还是很大的。那么此时就可以将数据库的读写进行分离来缓解压力。
在实际场景中，读的请求量是高于写的请求量的。而上面又分为主数据库与从数据库，在其中，从数据库是可以有多个的，也就是可以一主多从，当读的访问量过大时，还可以引入负载均衡，将读请求分摊到多个从数据库服务器上。
3.5 引入缓存（Redis）
数据库有个天然的问题，就是响应速度很慢。此时我们就可以引入缓存，将数据进行 “冷热” 区分，将热点数据放到缓存中——缓存的访问速度是比数据库快很多的。
随着访问量继续增加，发现业务中⼀些数据的读取频率远大于其他数据的读取频率。我们把这部分数据称为热点数据，与之相对应的是冷数据。针对热数据，为了提升其读取的响应时间，可以增加本地缓存，并在外部增加分布式缓存，缓存热门商品信息或热门商品的 html 页面等。通过缓存能把绝大多数请求在读写数据库前拦截掉，大大降低数据库压力。其中涉及的技术包括：使用memcached作为本地缓存，使用 Redis 作为分布式缓存，还会涉及缓存⼀致性、缓存穿透/击穿、缓存雪崩、热点数据集中失效等问题。
缓存服务器只是放了一小部分的热点数据——也就是频繁会被访问到的数据。“二八原则”：百分之二十的数据可以支持百分之八十的访问量。（从数据库中依旧是存放了全部的数据）
此时的缓存服务器就是我们所说的Redis。
这里就会出现一些情况：如果我们需要更改主数据库中的数据，那么如果同步缓存中的数据呢？如果主数据库修改失败了，缓存修改成功了；或者缓存修改失败了，主数据库修改成功了等等一些场景。
3.6 数据库分库分表
当数据量足够大的时候，会不会出现一台服务器存不下所有的数据呢？是有可能的，那么此时就需要多台主机来存放数据了。
随着业务的数据量增大，大量的数据存储在同⼀个库中已经显得有些力不从⼼了，所以可以按照业务，将数据分别存储。比如针对评论数据，可按照商品ID进⾏hash，路由到对应的表中存储；针对支付记录，可按照小时创建表，每个小时表继续拆分为小表，使用用户ID或记录编号来路由数据。只要实时操作的表数据量足够小，请求能够足够均匀的分发到多台服务器上的小表，那数据库就能通过水平扩展的方式来提高性能。其中前面提到的Mycat也支持在大表拆分为小表情况下的访问控制。这种做法显著的增加了数据库运维的难度，对DBA的要求较高。数据库设计到这种结构时，已经可以称为分布式数据库，但是这只是⼀个逻辑的数据库整体，数据库⾥不同的组成部分是由不同的组件单独来实现的，如分库分表的管理和请求分发，由Mycat实现，SQL的解析由单机的数据库实现，读写分离可能由网关和消息队列来实现，查询结果的汇总可能由数据库接口层来实现等等，这种架构其实是MPP（大规模并⾏处理）架构的⼀类实现。
这是一种分库的手段，如果当一个表特别大时，那么就可以将一个表进行拆分，存放到多个服务器中。
3.7 引入微服务
随着人员增加，业务发展，我们将业务分给不同的开发团队去维护，每个团队独立实现自己的微服务，然后互相之间对数据的直接访问进行隔离，可以利用 Gateway、消息总线等技术，实现相互之间的调用关联。甚至可以把一些类似用户管理、安全管理、数据采集等业务提成公共服务。
简单来说就是将一个业务的不同功能进行分离、拆分，形成更多的、功能更单一、更小的服务器。
微服务本质上解决的是人的问题，当功能被分离后，那么就只需要少量的人就可以维护一个功能，相比较很多人维护一个完成的业务来讲，将业务分离成小模块进行维护更加方便、高效。
代价：系统的性能下降，拆分出来的多个服务，多个功能之间都是要依赖网络通信的，而网络通信是比硬盘还要慢的的，所有性能会下降。
4. 系统概念介绍
4.1 应用（Application）/ 系统（System）
为了完成⼀整套服务的⼀个程序或者⼀组相互配合的程序群。生活例⼦类比：为了完成⼀项任务，而搭建的由⼀个⼈或者⼀群相互配的⼈组成的团队。
4.2 模块（Module）/ 组件（Component）
当应用较复杂时，为了分离职责，将其中具有清晰职责的、内聚性强的部分，抽象出概念，便于理解。生活例⼦类比：军队中为了进⾏某据点的攻克，将⼈员分为突击小组、爆破小组、掩护小组、通信小组等。
4.3 分布式（Distributed）
系统中的多个模块被部署于不同服务器之上，即可以将该系统称为分布式系统。如 Web 服务器与数据库分别工作在不同的服务器上，或者多台 Web 服务器被分别部署在不同服务器上。生活例⼦类比：为了更好的满足现实需要，⼀个在同⼀个办公场地的工作小组被分散到多个城市的不同工作场地中进⾏远程配合工作完成⽬标。跨主机之间的模块之间的通信基本要借助网络支撑完成。
4.4 集群（Cluster）
被部署于多台服务器上的、为了实现特定⽬标的⼀个/组特定的组件，整个整体被称为集群。比如多个 MySQL 工作在不同服务器上，共同提供数据库服务⽬标，可以被称为⼀组数据库集群。生活例⼦类比：为了解决军队攻克防守坚固的大城市的作战⽬标，指挥部将大批炮兵部队集中起来形成⼀个炮兵打击集群。
分布式 vs 集群。通常不用太严格区分两者的细微概念，细究的话，分布式强调的是物理形态，即工作在不同服务器上并且通过网络通信配合完成任务；而集群更在意逻辑形态，即是否为了完成特定服务⽬标。
4.5 主（Master）/ 从（Slave）
集群中，通常有⼀个程序需要承担更多的职责，被称为主；其他承担附属职责的被称为从。比如MySQL 集群中，只有其中⼀台服务器上数据库允许进⾏数据的写⼊（增/删/改），其他数据库的数据修改全部要从这台数据库同步而来，则把那台数据库称为主库，其他数据库称为从库。
4.6 中间件（Middleware）
⼀类提供不同应用程序用于相互通信的软件，即处于不同技术、工具和数据库之间的桥梁。生活例⼦类比：⼀家饭店开始时，会每天去市场挑选买菜，但随着饭店业务量变大，成⽴⼀个采购部，由采购部专职于采买业务，称为厨房和菜市场之间的桥梁。
4.7 评价指标（Metric）
4.7.1 可用性（Availability）
考察单位时间段内，系统可以正常提供服务的概率/期望。例如： 年化系统可用性 = 系统正常提供服务时长 / ⼀年总时长。这⾥暗含着⼀个指标，即如何评价系统提供⽆法是否正常，我们就不深⼊了。平时我们常说的 4 个 9 即系统可以提供 99.99% 的可用性，5 个 9 是 99.999% 的可用性，以此类推。我们平时只是用高可用（High Availability HA）这个⾮量化⽬标简要表达我们系统的追求。
4.7.2 响应时长（Response Time RT）
指用户完成输⼊到系统给出用户反应的时长。例如点外卖业务的响应时长 = 拿到外卖的时刻 - 完成点单的时刻。通常我们需要衡量的是最长响应时长、平均响应时长和中位数响应时长。这个指标原则上是越小越好，但很多情况下由于实现的限制，需要根据实际情况具体判断.
4.7.3 吞吐（Throughput）vs 并发（Concurrent）
吞吐考察单位时间段内，系统可以成功处理的请求的数量。并发指系统同⼀时刻支持的请求最高量。例如⼀条辆车道高速公路，⼀分钟可以通过 20 辆⻋，则并发是 2，⼀分钟的吞吐量是 20。实践中，并发量往往无法直接获取，很多时候都是用极短的时间段（比如 1 秒）的吞吐量做代替。我们平时用高并发（Hight Concurrnet）这个非量化目标简要表达系统的追求。
总结
至此，⼀个还算合理的高可用、高并发系统的基本雏形已显。注意，以上所说的架构演变顺序只是针对某个侧面进⾏单独的改进，在实际场景中，可能同⼀时间会有几个问题需要解决，或者可能先达到瓶颈的是另外的方面，这时候就应该按照实际问题实际解决。如在政府类的并发量可能不大，但业务可能很丰富的场景，高并发就不是重点解决的问题，此时优先需要的可能会是丰富需求的解决方案。
对于单次实施并且性能指标明确的系统，架构设计到能够支持系统的性能指标要求就足够了，但要留有扩展架构的接口以便不备之需。对于不断发展的系统，如电商平台，应设计到能满足下⼀阶段用户量和性能指标要求的程度，并根据业务的增长不断的迭代升级架构，以支持更高的并发和更丰富的业务。
所谓的“大数据”其实是海量数据采集清洗转换、数据存储、数据分析、数据服务等场景解决方
案的⼀个统称，在每⼀个场景都包含了多种可选的技术，如数据采集有Flume、Sqoop、Kettle等，数
据存储有分布式⽂件系统HDFS、FastDFS，NoSQL数据库HBase、MongoDB等，数据分析有Spark技
术栈、机器学习算法等。总的来说大数据架构就是根据业务的需求，整合各种大数据组件组合而成的架构，⼀般会提供分布式存储、分布式计算、多维分析、数据仓库、机器学习算法等能力。而服务端架构更多指的是应用组织层面的架构，底层能力往往是由大数据架构来提供