1图片三步加载。从内存、磁盘、搜集三个方面上进行三级缓存的完成。1加载一张图片的时辰，先查看内存是否有该图片的缓存，若无，再查抄磁盘时刻有该图片的缓存，若无，才从搜集中加载；2搜集加载完成之后，必要把图片加进到内存和磁盘缓存中；3按照LRU调整方式对缓存进行管理。 机房监控系统
2预加载技术。基于历史浏览记录和对该网页的保险性判断，没点击请求之前，过后加载这个数据。
3路由计划表对用户每天上岸的上网步履和不合步履连接哪个机房，做了一个路由计划表，推送到用户终端上。当用户的搜集发生切换，就知晓这个搜集情况下他应该连到哪里最近。
4上传加速。世界摆设了跨越70个上传加速节点，让每个用户都会抉择他比来的上传节点上传他图片。同时有启用多端口、多连接的上传加速能力，可以或许尽量的用尽搜集资本，而不是说在一个连接上不停的等候数据包的重传等各方面的器材。
三、带宽
计算带宽要涉及到两个指标(页面平匀巨细、全天pv,
2柔性可用请求我对各种特性一开始就是分好级别（登录>文本动静>图片动静>好友状态浮现>键盘行为提醒）
3模块间调用的超时时辰如果设置不合理。可以或许从access日志统计到详细数据。平匀流量 =全天pv/24*60*60*页面平匀巨细。峰值流量 =平匀流量 *5需购买的带宽即是峰值流量。
但是行为日的峰值流量远不止这个数。2015年微信红包除夕摇一摇总次数110亿次，峰值1400万次/秒。应对行为日，需提早行为当天CDN将准备数百G带宽应答。
四、后援机能。
大型网站不是假想进去的而是缓缓蜕变进去的因为互联网生长运行有其自己的纪律，互联网历史已经一再证实“一开端就把网站假想成大型的这类狡计行不通。别的，蜕变过程中，必要分清面前哪个点是瓶颈，必要知晓哪个点优化的优先级最高。以是，技术架构的演进不一定就是按文章从头到尾这样列下来的要视具体情况来下决定。
从一个小网站说起，一台服务器也就足够了演进包含以下：
1数据服务器和操纵服务器分离。给操纵服务器配置更好的CPU内存。而给数据服务器配置更好更大的硬盘。
2操纵缓存。由于 80%停业访谒都集中在20%数据上，若是我能将这部分数据缓存下来，性能一下子就上来了空数据也要入缓存，否则会增加数据库的压力。
3nosqlNoSql数据库大批量操纵于微博系统等事务性不强的体系。如：BigTablMongoDB
4服务器集群温湿度监控系统。必要斟酌：负载失调成绩?负载失调调整服务器，如nginxSession管理成绩。如何让上传文件这些近似的功能担当畸形？采用文件服务器统一管理。
5数据库读写分离。订阅和发布。实现一个数据访谒模块使基层写代码的人不知道读写分离的存在必要斟酌：时延问题。MySQL数据同步是经由过程binlog日记。提前成就通过水平拆分服务来提高性能、多线程同步解决。
6数据库拆分。垂直拆分数据库时，会遇到成绩：跨业务的事件，利用的配置项多了数据水平拆分会遇到成绩：SQL路由问题，必要知晓某个 User哪个数据库上。主键的策略会有不同。盘问时的性能成绩，如分页问题。
7CDN漫衍式文件系统利用 CDN将网站的内容信息宣布到最接近用户的收集”边沿”操纵户可以或许就近失掉所需的内容信息，处理Internet搜集拥塞状态，前进用户访谒网站的响应速率。据统计，采纳CDN技巧，能处理全数网站页面的70%95％的内容信息访谒量，减轻服务器的压力，提拔了网站的性能和可扩展性。异地安排个体遵守：核心集合，节点分离。如：网宿、睿江、蓝讯，将网站内容信息同步到天下CDN节点，用户就近拜候CDN服务器。
8漫衍式拆分。网站的停业日益庞杂，建立一个独立的大型操纵来完成这所有的停业变得不实际。从管理角度来，也不方便管理。将系统遵照职责履行拆分，同时也能采用大量的廉价机器来撑持着巨大的访谒量和数据量。微服务架构的优势很明显：耦合度低、技术选型灵活、颁布发表更加高效、弊端断绝拆分会碰到许多的挑衅：1拆成分布式后必要供给一个高性能、不变的通信框架，并且必要支撑多种不同的通信和短途调用体式格局；2将一个庞大的操纵拆分必要消费很长的时候，必要履行营业的清理和系统凭借联系的控制等；3如何运维（凭借经管、运行状况经管、错误追踪、调优、监控和报警等）好这个庞大的漫衍式应用。
9大系统小做。将功能错乱较大的体系，化大为小，增添模块耦合，降低关联性。分成一个个高度克己的小系统，形成高内聚低耦合的款式，每个模块之间不会适度凭借对方，如许的优点是不会因为任何一个模块而影响全部办事，预防牵一发动全身的危险，实现真正的灰度服务。
10硬件负载平衡。一台Nginx服务器的软负载已经无法担当庞大的web访谒量了可以或许用硬件负载处理F5或机房监控操纵从逻辑上做一定的分类，尔后分离到分歧的软负载集群中。
五、停业体式格局
有些成就用技术手段并不比用停业手段更有效。12306分时卖票就是一个典型例子。
1前端缓冲请求。比方说在接入层置入摇红包逻辑，将每秒切切级请求转化为每秒万级的红包要求，再传到红包办事的后端逻辑，降低雪崩的可以或许性。
2后端采用异步分拆。耗时最长的入账操纵，直接跳过，异步处置惩罚。如：面前人数较多，收到红包将稍后入账零钱”
3快速谢绝。用户端的版本更新中，将相关的指令和策略埋入，当接收数据失掉异常时，用户端自动就降低请求频次，比如一次请求失败，用户一定想二次再刷，但是可以或许实际上没有向后端请求，而是直接前往，请客户稍安勿躁，如果不提前埋入，有成就时才处理是来不及的
4流量预加载。从用户端入手，将语音图片等极消耗流量的本钱提前让用户端自动下载预置好，提前将流量洪峰疏浚沟通。
5本钱断绝。预防任意一个岔路支路出成就影响全数服务链条，这样即使部分服务出现成就也不会影响到全数办事的崩塌。
6遵照停业场景降低图片品质。1针对不合终端，下载不合品德图片。2研究新的编码花式，使得图片在基础同等品德情况下再下降30%3操纵一些渐进式的传输技巧，会首先看到恍惚的图，一会儿清楚的图就会出现。
7回滚机制会造成停业逻辑庞杂，等闲失足，可以或许会出现漏洞。应该前进办事的简单性、高可用性，增添出错率。对于少少的过错，后续对日志履行单独处理便可。
六、最大连接数限制
1全程压测流程，对全数停业链接履行自动提前评价，防备过载。
会导致柔性策略生效。A挪用B300m超时，B挪用C500m超时；B对c有柔性，挪用c超时的时刻会柔性的担当往下，但是这个没有意思。
4如果成功率高于95%才可以重试，否则接口层拒绝。
如何假想高性能的大型网站体系？移动互联网时期， 5页面动静化。页面上的大部分内容信息在很长一段时间内。用户端操纵斥地自己，并不是体验的决胜之处，真正对团队挑战的地方，还在于后端，不管是承压能力，还是保险性等方面，如果这些地方过不了关，全数利用的根本是不扎实的
前进服务器性能最简单粗暴的体式格局，就是增加机器和升级硬件设置装备摆设。当然现在硬件越来越廉价，但是一味地通过增加机器来处置惩罚并发量的增进，本钱是非常奋发的连络技术优化计划，才是更有效的处置惩罚方式。
一、web端性能
这几年，用户数量并没有出现指数增进，而并发连接数呈指数增长的重要起因是1Web页面元素越来越多，加倍丰硕；2支流的本浏览器的预加载功能。
1建立长连接。增添频频的成立和销毁连接行动。但是毗连的连结是会占用Web系统服务端资源的如果不充分操纵这个毗连，会导致本钱华侈。
2通过缓存减少Web要求。经由过程Http协议头中的expir或max-ag来控制，将动静内容信息放入浏览器的本地缓存。但是这类计划，对首次访问的用户有效，同时，也影响部分Web资本的实时性。
3通过版本号减轻Web要求。筹议体式格局是经由过程Http协定的Last-Modifi或Etag来控制，这个时刻请求服务器，若是是内容信息没有发生变动的环境，服务器会返回304NotModifi但是但是连接仿照照旧被建立，请求也发生了
4合并页面要求。1归并HTML揭示内容信息。将CSS和JS直接嵌入到HTML页面内，不通过连接的方式引入。2Ajax情况内容信息合并要求。对于情况内容信息，将10次Ajax请求合并为1次的批量信息查询。3小图片合并，经由过程CSS偏移量技术Sprite将很多小图片合并为一张。4收缩cssjs图片的巨细。
可以或许都是没有变更的例如一篇新闻报道，一旦颁布发表简直是不会修改内容的如许的话，经由过程CGI天生的动态html页面缓存到web服务器的磁盘本地。
