低延迟服务器已成为当今数字经济的重要组成部分。它们支持竞技在线游戏、实时视频流和快速金融交易。当有人玩多人游戏或在外汇平台上进行交易时，用户作与服务器响应之间的微小延迟决定了结果。因此，服务提供商大量投资基础设施，以尽可能降低延迟——即数据包从一个点传输到另一个点所需的时间。阅读这篇文章了解更多信息。

了解低延迟

延迟和带宽不一样。带宽衡量连接能承载的数据量，而延迟则衡量数据传输所需的时间。在光纤电缆中，信号传播速度约为光速的三分之二，因此即使是伦敦和阿姆斯特丹之间的直线（约350公里）也会在每个方向产生约1.75毫秒的延迟。这个身体极限为“低”设定了基线。

软件和硬件会增加额外的延迟。标有“1毫秒”的显示器实际上可能在3–5毫秒内响应。输入设备会额外增加1–5毫秒。无线控制器的延迟甚至更大，有时为5–15毫秒。网络通过有线连接贡献10–30毫秒，通过Wi-Fi贡献10–50毫秒。渲染帧的时间取决于帧率，需要5–20毫秒。由于多个组件累计，总往返延迟低于20毫秒很少见，通常只见专业设备。

人类对延迟的感知不同。研究表明，人类对视觉刺激的平均反应时间约为120–250毫秒，但竞技玩家能感受到15毫秒到25毫秒之间的网络延迟差异。在金融市场中，1毫秒的延迟可能让大型企业损失数百万美元的滑点和错失机会。这些例子说明了为什么即使数字看起来很小，低延迟服务器仍然很重要。

延迟类别

延迟要求因应用而异。工程师通常将端到端延迟分解为以下几类：

这些类别有助于设定现实的预期。一个游戏总共可能需要20–40毫秒，而标准的OTT视频流可以容忍数秒。

测量延迟

延迟通常通过ping测试（往返时间）、traceroute（显示每个网络跳点）或应用级监控来衡量。对于实时流媒体或游戏，往返时间和一致性比原始带宽更重要。开发者还会追踪交易系统中的微秒或纳秒延迟，微秒和毫秒之间的差值可能转化为盈亏。

为什么低延迟对游戏很重要

竞技游戏依赖快速响应。当玩家点击时，游戏引擎必须注册动作，发送到服务器，处理游戏逻辑，并将更新状态广播给所有玩家。每多出一毫秒都会带来“延迟”——即输入延迟的感觉。PubNub 关于游戏端到端延迟的研究指出，大多数玩家难以实现低于10毫秒的总延迟，大多数设置无法突破20毫秒以下。文章详细解析了各个组成部分：

显示延迟：实际像素响应为3–5毫秒，额外有1–5毫秒的输入延迟。

输入延迟：有线鼠标或键盘延迟为1–2毫秒，无线设备则增加2–5毫秒，蓝牙控制器则增加5–15毫秒。

网络延迟：现实世界的有线连接通常往返时间为10–30毫秒，但Wi-Fi可飙升至50毫秒。

渲染延迟：以240 FPS渲染仍然意味着每帧需要~4毫秒，驱动开销会增加更多。

这些延迟会叠加。PubNub 指出，即使是顶级局域网配置，端到端速度也达到 12–18 毫秒，而优质的在线配置则能达到 20–39 毫秒。普通玩家使用Wi-Fi和144 Hz显示器时，会体验到40–60毫秒甚至更长的延迟。低于20毫秒的延迟被视为精英级别。

感知与表现

玩家的反应时间凸显了低延迟的重要性。Ghost Broadband解释说，职业电竞选手可以感受到15毫秒到25毫秒的总延迟差异。在第一人称射击游戏中，这10毫秒的差值意味着对手的移动看起来比你快10毫秒，影响命中判定和态势感知。格斗游戏运行帧率为60帧每秒（每16.67毫秒一帧），因此网络提升8–10毫秒可能决定连击命中与未击中。

尽管人类的平均反应时间为120–250毫秒，但持续低延迟让玩家有更多反应时间。如果一名玩家系统延迟为50毫秒，反应为150毫秒，则系统延迟为20毫秒、反应为120毫秒的对手先开枪。

游戏服务器如何实现低延迟

共址与邻近性：将服务器托管在玩家附近，减少数据传输的物理距离。许多热门游戏在每个大洲都设有区域服务器。服务器提供商有时会与主要互联网交换点共址，以节省微秒级。

优化网络：游戏使用 UDP 而非 TCP，以避免握手开销。客户端预测和回滚网络代码等技术允许客户端当即接收到更新，从而平滑小延迟。服务器对账随后会纠正差异。

更新频率与更新频率：提高服务器的刻度率（每秒更新数）可以减少感知到的延迟。高刻帧服务器可能运行在60–128 Hz，而休闲游戏的30 Hz或更低。

边缘计算：放置在ISP或移动基站附近的边缘服务器会在离玩家更近的地方处理游戏逻辑，进一步缩短往返时间。随着5G网络的部署，多接入边缘计算为移动玩家提供了低于10毫秒的延迟。

专用硬件：使用高性能CPU和网络接口卡配合SmartNIC可以减少处理延迟。LuxAlgo指出，像思科SmartNICS这样的专用网卡可提供比标准卡低10×的延迟。

网络优先级：服务质量（QoS）设置优先考虑游戏流量，防止缓冲膨胀和抖动。一些ISP提供“游戏模式”服务，提供与游戏平台和内容分发网络（CDN）的直接对等连接。Ghost Broadband指出，直接连接主要游戏平台的网络绕过多跳，从而减少排队延迟。

现实世界的例子

三个真实案例说明了低延迟的价值。电竞赛事依赖多条冗余连接和流量优先级来将延迟控制在10毫秒以内。消费者网络性能也有所不同：光纤提供商的延迟大约为5–20毫秒，而有线平均延迟为10–25毫秒。最后，NVIDIA Reflex等技术可以削减10–20毫秒的渲染延迟，但代价是增加驱动复杂度。

低延迟的流媒体

流媒体视频也是另一个对延迟敏感的应用。观看直播体育赛事或在线拍卖时，几秒钟的延迟可能会破坏体验。Nanocosmos 定义了几类流延迟：

高延迟：许多传统工作流程会引入>30秒的延迟，因为基于HTTP的协议如HLS使用6秒分段，且播放前需要多个分段。

典型延迟：大多数直播新闻和体育节目的播出时间在6点到30点之间。

低延迟：调谐后的直播在捕获后1至6秒内到达观众;许多社交媒体平台都属于这个范围。

超低压或实时：亚秒流媒体被认为是“实时”的，非常适合互动娱乐。

Grabyo 比较了不同传输方式的延迟。传统广播电视的延迟约为5秒，而部分玻璃对玻璃的测量延迟可达10至18秒。标准OTT流媒体（HLS/DASH）延迟为20–45秒。低延迟技术如低延迟HLS和DASH目标为1至6秒，超低解决方案如WebRTC或HESP可实现亚秒延迟。这些改进很重要，因为大约87%的体育迷在观看转播时会使用第二台设备。如果社交媒体通知在直播显示之前就透露了进球，观看体验就会被破坏。

为什么流媒体延迟很重要

实时互动：互动流依赖于近乎即时的反馈。拍卖、实时投票、观看派对和赌场游戏都需要亚秒延迟。30秒的延迟让出价毫无意义。

第二屏幕文化：现代观众在观看时通过社交媒体互动。延迟数十秒的直播比在线对话慢。

虚拟现实与增强现实：VR研究指出，动作到光子的延迟必须保持在20毫秒以下，以避免用户不适。因此，实时流媒体基础设施必须几乎瞬间传输帧。

视频会议与教育：Tech Collective指出，当延迟超过200毫秒时，视频通话会变得尴尬。远程课程也要求低延迟，学生不会错过讲解。

流媒体服务器如何实现低延迟

低延迟流式传输涉及优化工作流程的每个阶段：

分段长度与协议：在HLS或DASH中减少段大小可以减少缓冲时间。低延迟HLS和低延迟DASH使用~1秒或部分段段，实现1-6秒的延迟。WebRTC、SRT、RIST 和 HESP 均设计用于亚秒传输。

内容分发网络（CDN）：通过地理分散的节点分发流，确保观众能从附近的边缘服务器获得服务。Tech Collective指出，CDN和边缘计算显著减少了缓冲和延迟。

自适应码率流媒体：通过根据观众的网络状况调整视频质量，自适应流式流可以防止缓冲。自适应码率流确保在环境变化时播放顺畅。

优化编码：选择能平衡质量和速度的编解码器和编码设置至关重要。硬件加速编码器缩短了处理时间。

球员优化：减少玩家缓冲和预取设置可以降低启动延迟。有些播放器提供“延迟模式”，通过降低初始质量以减少延迟。

网络连接：使用光纤连接或与ISP直接对等连接可以减少跳数。移动运营商部署5G和多接入边缘计算，以实现往返时间低于10毫秒。

案例研究：缩小直播延迟差距

BBC最近在其iPlayer服务上试行了超低延迟信号，旨在缩小广播与数字之间的差距。该试验采用了CMAF（通用媒体应用格式）、分块传输和CDN预取技术，以仅有几秒的延迟传输内容。此举反映了更广泛的行业趋势：流媒体平台认识到粉丝们对有线和卫星观众同样的即时性需求。

外汇和高频交易的低延迟

金融市场对延迟极为敏感。自动化交易系统能够对微秒级的价格变化做出反应，即使领先幅度很小，也会带来影响。LuxAlgo解释说，即使是一毫秒的延迟，也可能让大型企业损失数百万美元。高频股票交易力求延迟低于100毫秒，而零售股票和外汇交易则可容忍100至300毫秒。依赖算法策略的交易者因此选择低延迟服务器或VPS解决方案。

市场数据与订单活动

延迟影响市场数据的到达速度以及订单执行的速度。LuxAlgo引用的研究显示，当市场数据在500微秒（<0.5毫秒）内到达时，取消订单的比例不到8%。当数据在50毫秒内到达时，约有25%的取消和20%的交易发生。超过0.5秒的延迟会导致订单取消率更高。执行速度也很重要：大多数订单在十分钟内被取消或执行，但有27.2%的交易发生在参与者在半秒内行动时。这些统计数据表明，每一步削减毫秒能提高执行成功概率。

网络速度与建议

网络基础设施影响交易延迟。直接交换馈源可将传输时间缩短150–500毫秒。日内交易者需要稳定的连接;推荐下载速度为25 Mbps，上传速度为3 Mbps，专业设置的延迟目标是低于20毫秒。StreamNative补充说，跨区域网络跳跃在大陆内单向增加15–40毫秒，跨大陆增加50–150毫秒。因此，伦敦到纽约的交易如果数据跨越大西洋，往返延迟可能达到100至300毫秒。减少这些延迟需要在同一数据中心或至少与交换机所在区域内托管服务器。

资产特定与基于策略的延迟标准

LuxAlgo 提供了按资产类型划分的可接受延迟：

策略也很重要。高频交易（HFT）要求延迟低于100毫秒，而其他算法策略则可在100至300毫秒内运行。每50毫秒更新报价的银行相较于每250毫秒更新一次的银行，具有优势。

硬件与共址

共址：在交易所设施内托管交易服务器可以消除大部分网络路径。许多经纪人提供托管服务，将客户服务器放置在与交易所同一建筑内。

直接市场准入：绕过中介直接连接交换数据流，可以将处理延迟减少数百毫秒。

专用硬件：智能网卡、FPGA加速卡和高性能网络交换机减少了处理时间。SmartNIC可提供比标准网卡低10×的延迟。

优化软件：算法优化和并行处理缩短了服务器处理交易的时间。内核绕过技术避免上下文切换开销。

冗余系统：不间断电源和冗余网络路径确保性能稳定，因为如果数据包丢失或延迟，可能引发波动性......

示例：外汇VPS

外汇交易者通常使用位于经纪商数据中心附近的虚拟私人服务器（VPS）。运营商宣传往返延迟低至1毫秒。虽然这些数字属于理论，但它们说明了对微秒级准确性追求的驱动力。跨洲运营的日内交易者可能会连接到纽约、伦敦或新加坡的VPS站点以降低延迟。一些经纪商还提供交易者服务器与匹配引擎之间的直接交叉连接。

构建低延迟服务器的技术与方法

低延迟服务器结合了优化的硬件、软件和网络架构。以下技巧在游戏、直播和交易中都很常见：

光纤和高速电缆：光纤网络提供最低的延迟，因为信号传播速度接近光速，且避免电磁干扰。Home Connected 观察到光纤提供商的延迟约为5–20毫秒，而高质量有线网络则为10–25毫秒。

边缘计算：在用户或数据源附近处理数据，减少数据包的传输距离。Tech Collective解释说，CDN和边缘计算将内容更贴近观众，显著减少缓冲。

网络优化：BGP路由优化、智能队列管理（SQM）和服务质量（QoS）等技术减少了抖动和缓冲膨胀。自适应路由根据当前网络状况选择最快路径。

方案选择：UDP避免了TCP的三方握手，从而降低开销。SRT、RIST和HESP提供可靠的传输，并内置了流媒体的纠错功能。在交易中，像FIX/FAST和自定义二进制协议这样的协议可以最小化消息大小和解析时间。

内核绕过网络：诸如DPDK（数据平面开发工具包）或RDMA（远程直接内存访问）等技术允许应用程序直接访问网络硬件，绕过内核并减少复制作。

硬件加速：FPGA和ASIC设备加速数据包处理、加密和压缩。交易公司常使用FPGA在微秒级内解析市场数据。

监控与分析：持续监测可以检测延迟尖峰和抖动。工具测量延迟、抖动、丢包和帧时间以识别瓶颈。在数据流中，工程师会跟踪p50和p99.9延迟，以确保最坏情况下的延迟保持在目标范围内。

负载均衡与冗余：将流量分配到多个服务器可以防止过载。在流媒体中，负载均衡器将观众引导到最近的边缘。交易公司在多个数据中心复制订单网关以确保连续性。

实施考虑与挑战

多种权衡使得超低延迟变得具有挑战性。成本与收益是关键：存储在内存中并托管服务器会增加复杂性和成本，因此开发者应仅在需求需求时追求超低延迟。物理限制意味着任何设置都无法超越光速，因此远距离用户需要区域服务器和托管。稳定性比速度更重要;稳定的25毫秒连接优于不稳定的15至45毫秒连接。团队还必须满足安全和合规要求，设计可扩展且不增加延迟的系统。

未来趋势与投资

随着增强现实（AR）、虚拟现实（VR）、云游戏和远程医疗等新兴技术的成熟，低延迟将变得更加重要。虚拟现实应用需要运动到光子的延迟低于20毫秒，以避免晕动症。Tech Collective文章指出，东南亚国家正在大力投资5G、光纤和边缘计算。印度尼西亚的Palapa Ring项目旨在通过国家光纤骨干连接偏远岛屿，而越南则计划到2030年实现99%的5G覆盖。谷歌和亚马逊等科技巨头正在该地区投资数十亿美元的云基础设施。这些发展将降低这些市场用户的基线延迟，并推动新的实时服务。

与此同时，流媒体协议也在不断演进。使用CMAF和LL-HLS的分块传输可减少分段大小，实现近乎即时播放。点对点辅助，即观众与附近对等者共享缓存分段，有望进一步减轻中央服务器的负载。在游戏领域，集成于5G基站的边缘计算将使云渲染游戏达到与本地游戏相当的延迟。交易公司可能会采用纳秒时间戳和更复杂的FPGA加速技术。