【面试必问】支撑百万并发的IO多路复用技术你了解吗？
多路复用其实并不是什么新技术，它的作用是在一个通讯连接的基础上可以同时进行多个请求响应处理。对于网络通讯来其实不存在这一说法，因为网络层面只负责数据传输；由于上层应用协议的制订问题，导致了很多传统服务并不能支持多路复用；如：http1.1,sqlserver和redis等等，虽然有些服务提供批量处理，但这些处理都基于一个RPS（每秒请求数）下。下面通过图解来了解释单路和多路复用的区别。
一、单路存在的问题
每个请求响应独占一个连接，并独占连接网络读写；这样导致连接在有大量时间被闲置无法更好地利用网络资源。由于是独占读写IO，这样导致RPS处理量由必须由IO承担,IO操作起来比较损耗性能，这样在高RPS处理就出现性能问题。由于不能有效的合并IO也会导致在通讯中的带宽存在浪费情况，特别对于比较小的请求数据包。通讯上的延时当要持大量的RPS那就必须要有更多连接支撑，连接数增加也对资源的开销有所增加。
二、多路复用的优点
多路复用可以在一个连接上同时处理多个请求响应，这样可以大大的减少连接的数量，并提高了网络的处理能力。由于是共享连接不同请求响应数据包可以合并到一个IO上处理，这样可以大大降低IO的处理量，让性能表现得更出色。
三、通过多路复用实现百万级RPS
多路复用是不是真的如此出色呢，以下在.net core上使用多路复用实现单服务百万RPS吞吐，并能达到比较低的延时性。以下是测试流程：
由于基础通讯不具备消息包合并功能，所以在BeetleX的基础上做集成测试，主要BeetleX会自动合并消息到一个Buffer上，从而降低IO的读写。
四、测试消息结构
本测试使用了Protobuf作为基础交互消息，毕竟Protobuf已经是一个二进制序列化标准了。
4.1、请求消息
4.2、响应消息
4.3、服务端处理代码
4.4、服务响应对象内容
接收消息后放入队列，然后由队列处理响应，设置请求相应请求时间并记录总处理消息计数。
4.5、客户端请求代码
4.6、客户端测试发起代码
整个测试开启了10个连接，在这10个连接的基础上进行请求响应复用。
五、测试配置
测试环境是两台服务器，配置是阿里云上的12核服务器(对应的物理机应该是6核12线程)
服务和客户端的系统都是:Ubuntu 16.04
Dotnet core版本是:2.14
六、测试结果
6.1、客户端统计结果
6.2、服务端统计信息
6.3、带宽统计
测试使用了10个连接进行多路复用，每秒接收响应量在100W，大部分响应延时在1-3毫秒之间；
6.4、测试代码
https://github.com/IKende/BeetleX/blob/master/samples/MultiplexingConnectionTest.zip
欢迎工作一到五年的Java工程师朋友们加入Java填坑之路：860113481
群内提供免费的Java架构学习资料（里面有高可用、高并发、高性能及分布式、Jvm性能调优、Spring源码，MyBatis，Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多个知识点的架构资料）合理利用自己每一分每一秒的时间来学习提升自己，不要再用"没有时间“来掩饰自己思想上的懒惰！趁年轻，使劲拼，给未来的自己一个交代！
相关文章：
DllMain already defined in dllmain.obj错误
错误 uafxcw.lib(dllmodul.obj) : error LNK2005: DllMain already defined in dllmain.obj 修改: 去掉宏定义 _USRDLL 转载于:https://blog.51cto.com/co63oc/1122378
典型的数字水印软件
转自：http://blog.csdn.net/pastora/archive/2005/04/15/348413.aspx ---- 目前，数字水印软件既有商品化产品，也有供研究用的免费软件。 商品化软件 ----提供商品化数字水印软件的公司主要有以下一些： ----1．Digimar…
AI、5G、小程序、AIoT纷纷迎来高峰，下一步开发者们要怎么办？
2018 年，上千名开发者与上百名技术专家齐聚一堂，在 CSDN 2018 AI开发者大会上以“AI技术与应用”为核心，深度聚焦人工智能的技术创新与行业应用，真正做到了“只讲技术，拒绝空谈”。今年，在产业智能化的浪潮…
linux第四课
一、配置软件仓库1.yum简介基于rpm软件包的安装部署机制自动解决软件包的依赖关系需要先配置软件仓库2.配置本地的软件仓库a.放入centos7.iso镜像文件到光驱中，确保电源开启b.命令操作# umount /dev/cdrom# ls /mnt# mount /dev/cdrom /mnt# ls /mnt# mkdir -p /rep…
图像处理和图像识别中常用的CxImage函数
1、Load：reads from disk the image in a specific format； 2、Save：saves to disk the image in a specific format； 3、Filter：2D linear filter(图像锐化，可提高图像清晰度)； 4、Copy&…
大战三回合：XGBoost、LightGBM和Catboost一决高低 | 程序员硬核算法评测
作者 | LAVANYA译者 | 陆离责编 | Jane出品 | AI科技大本营（ID: rgznai100）【导读】XGBoost、LightGBM 和 Catboost 是三个基于 GBDT（Gradient Boosting Decision Tree）代表性的算法实现，今天，我们将在三轮…
云计算之Docker介绍
1. 百科简介 Docker 是一个开源的应用容器引擎，基于 Go 语言 并遵从Apache2.0协议开源。 Docker 可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中，然后发布到任何流行的 Linux 机器上，也可以实现虚拟化。 容器是完全使用沙…
还在纠结垃圾分类问题？带你用Python感受ImageNet冠军模型SENet的强大
作者 | beyondma转载自CSDN博客本月1日起，上海正式开始了“史上最严“垃圾分类的规定，扔错垃圾最高可罚200元。全国其它46个城市也要陆续步入垃圾分类新时代。各种被垃圾分类逼疯的段子在社交媒体上层出不穷。其实从人工智能的角度看垃圾分类就是图像处理…
软件开发流程包含哪些内容
2019独角兽企业重金招聘Python工程师标准>>> 能否开发出一个好的软件，关键是看软件开发前期所做的工作，重点是这个软件有没有一个好的 软件开发流程，因为一个好的软件开发流程关系到到这个软件的成败和最后能达到一个什么的效果&a…
在对话框中应用CScrollView显示图像
1、用vs2008创建一个基于对话框的工程DialogView； 2、添加一个新类CMyDocument，基类为CDocument； 3、添加一个新类CMyView，基类为CScrollView； 4、修改CMyDocument的头文件： #pragma once // CMyDocument …
如何用纯 CSS 创作一个同心圆弧旋转 loader 特效
效果预览 在线演示 按下右侧的“点击预览”按钮在当前页面预览，点击链接全屏预览。 https://codepen.io/zhang-ou/pen/OZmXQX 可交互视频教程 此视频是可以交互的，你可以随时暂停视频，编辑视频中的代码。 请用 chrome, safari, edge 打开观看…
Java长见到的面试题，看你能答出几题，就知道自己有多菜了
作者：Java3y前言只有光头才能变强Redis目前还在看，今天来分享一下我在秋招看过(遇到)的一些面试题(相对比较常见的)0、final关键字简要说一下final关键字，final可以用来修饰什么？这题我是在真实的面试中遇到的，当时答得…
数据结构实验之链表一：顺序建立链表
题目描述 输入N个整数，按照输入的顺序建立单链表存储，并遍历所建立的单链表，输出这些数据。输入 第一行输入整数的个数N；第二行依次输入每个整数。输出 输出这组整数。示例输入 8 12 56 4 6 55 15 33 62 示例输出 12 56 4 6 55 15…
深度学习在人脸检测中的应用 | CSDN 博文精选
作者 | 梁志成、刘鹏、陈方杰责编 | 唐小引转载自CSDN（ID:csdnnews）在目标检测领域，可以划分为人脸检测与通用目标检测，往往人脸这方面会有专门的算法（包括人脸检测、人脸识别、人脸其他属性的识别等）&…
vs2008中，在OCX控件中应用doc/view基本步骤
1、利用向导创建一个MFC ActiveX Control控件CMyOCX； 2、在工程中加入ActivDoc头文件和执行文件； class CActiveXDocTemplate : public CSingleDocTemplate { enum { IDR_NOTUSED 0x7FFF }; CWnd* m_pParentWnd; CFrameWnd* m_pFrameWnd; C…
常见存储过程分页PK赛——简单测试分析常见存储过程分页速度
数据的分页是我们再熟悉不过的功能了，各种各样的分页方式层出不穷。今天我把一些常见的存储过程分页列出来，再简单地测一下性能，算是对知识的总结，也是对您好想法的抛钻引玉。废话不多说，开始吧~~ 1.首先建立一张测试表…
YOLOv3模型剪枝，瘦身80%，提速100%，精度基本不变
作者 | CV君转载自我爱计算机视觉（ID: aicvml）如果要在实际应用中部署目标检测，你会想到哪项算法？在52CV目标检测交流群里，被提及最多的，恐怕就是YOLOv3了。虽然新出的一些算法号称“完胜”“吊打”某某某算…
Ubuntu开发用新机安装流程
1.SSH安装 Ubuntu缺省已安装客户端，此处安装服务端 sudo apt-get install openssh-server 确认sshserver是否启动 netstat -tlp | grep ssh 或 ps -e | grep ssh 未启动，选择启动 sudo /etc/init.d/ssh start 2.问题解决：ACPI Error:Method p…
人工智能六十年技术简史
出品 | AI科技大本营（ID:rgznai100）作者：李理，环信人工智能研发中心vp，十多年自然语言处理和人工智能研发经验。主持研发过多款智能硬件的问答和对话系统，负责环信中文语义分析开放平台和环信智能机器人的设…
【Android游戏开发二十五】在Android上的使用《贝赛尔曲线》！
首先对于《赛贝尔曲线》不是很了解的童鞋，请自觉白度百科、google等等... 为了方便偷懒的童鞋，这里给个《贝赛尔曲线》百科地址，以及一段话简述《贝赛尔曲线》： 《贝赛尔曲线》白度百科快速地址：http://baike.baidu.co…
Spring Boot 工程集成全局唯一ID生成器 Vesta
2019独角兽企业重金招聘Python工程师标准>>> 本文内容脑图如下： 文章共 760字，阅读大约需要 2分钟 ！ 概 述 在前一篇文章 《Spring Boot工程集成全局唯一ID生成器 UidGenerator》 中给大家推荐了一款由百度开发的基于 Snowflake算…
vs2008中，创建基于对话框的mfc动态库步骤
1、利用MFC Dll向导初始生成一个mfc dll(默认设置)； 2、添加一个对话框资源； 3、向工程中添加一个.h、.cpp文件，作为外部的接口； 4、.h头文件的格式仿照于基于控制台的dll的头文件格式； 5、.h头文件中包括资源文件头文…
poj3468 A Simple Problem with Integers
http://acm.hust.edu.cn:8080/judge/problem/viewProblem.action?id14607 题意：题目给你n个数,m个操作，接下来一行给你这n个数，接下的几行给出m个操作，Q a b 表示查询区间[a,b]里的数和和。U a b c 表示把区间[a,b]里的数都加上c…
【Luogu】P1613 跑路
【Luogu】P1613 跑路 一、题目 题目描述 小A的工作不仅繁琐，更有苛刻的规定，要求小A每天早上在6：00之前到达公司，否则这个月工资清零。可是小A偏偏又有赖床的坏毛病。于是为了保住自己的工资，小A买了一个十分牛B的空间…
matlab图形用户界面设计简介
1、File->New->GUI->Create New GUI->Blank GUI->OK即可打开图形用户界面开发环境。 在里面可以拖放需要的控件，包括pushbutton、slider、radiobutton、togglebutton、checkbox、listbox、popupmenu、edit text、static text、table、axes、panel、…
旷视发布《人工智能应用准则》，倡导AI技术健康可持续发展
2019年7月8日，旷视宣布推出基于企业自身管理标准的《人工智能应用准则》（以下简称《准则》），旨在从人工智能企业自身的角度，规范、引导人工智能技术正确运用和健康发展，并确保其安全可控可靠，促…
Java知识积累——String引用的判断问题
看如下程序 1 public static void main(String[] args) {2 String a new String("abc");3 String b new String("abc");4 System.out.println(a b); 5 6 String c "abc";7 String d "abc";8 …
windows7下vs2008常见错误解决方法汇总
1、fatal error LNK1000:Internal error during IncrBuildImage 解决方法：选中对应工程-->点击右键,选择Properties-->Configuration Properties-->Linker-->General-->选中Enable Incremental Linking：改为No(/INCREMENTAL:NO),原始选项…
5G对AIoT的作用并无夸大，最大价值在于融合
采访嘉宾 | 崔宝秋、高恩重整理 | 夕颜出品 | AI科技大本营（ID:rgznai100）近年来，AIoT 的概念非常火爆，有不少企业将 AIoT 提升到公司的战略发展高度，然而实际上，走进普通人日常生活并真正实用的 AIoT 产品…
[USACO07JAN]平衡的阵容Balanced Lineup BZOJ 1699
题目背景 题目描述： 每天,农夫 John 的N(1 < N < 50,000)头牛总是按同一序列排队. 有一天, John 决定让一些牛们玩一场飞盘比赛. 他准备找一群在对列中为置连续的牛来进行比赛. 但是为了避免水平悬殊,牛的身高不应该相差太大. John 准备了Q (1 < Q < 18…