本地socket 通信 性能

_相关内容

本地通信开发实践

APP和设备处于局域网环境中,未和外网连接,往往需要通过本地通信的方式,对设备进行控制和查询。阿里云IoT提供了一种本地通信方案,可以达到该目标。背景信息 设备端的Link Kit SDK中已内置本地通信功能(ALCS),这样集成Link Kit SDK的...

TCP

'error' 当Socket通信过程中遇到错误时,触发 'error' 事件。'message' 事件回调函数的参数有:属性 类型 描述 data ArrayBuffer 接收到的TCP数据。datalen Number 接收到的TCP数据长度。'error' 事件的回调函数参数有:属性 类型 描述 ...

D2D通信技术

D2D通信技术,是阿里巴巴LinkWAN团队开发的新型LoRa通信技术,通过实现长前导码唤醒和本地数据控制功能,可很好满足功耗较低,响应时间较快和本地控制的场景需求。1、适用场景 D2D通信技术适用于智能家居,门锁,地锁等多种需要以下能力的...

安装ACCL库

背景信息 ACCL面向阿里云 灵骏 架构设计,通过算法与拓扑的深入协同来收获更好的通信性能,充分挖掘高性能RoCE网络的带宽效率,最大化分布式训练系统的可扩展性。ACCL提供了简单易用的C++ API,语义与MPI等主流集合操作接口相近。ACCL提供...

使用IMB软件和MPI通信库测试集群通信性能

本文以IMB软件和MPI通信库为例介绍如何测试E-HPC集群的通信性能。背景信息 IMB(Intel MPI Benchmarks)用于评估HPC集群在不同消息粒度下节点间点对点、全局通信的效率。MPI(Message Passing Interface)是支持多编程语言编程的并行计算...

eRDMA

众多应用都是基于TCP/IP构建的,但随着数据中心相关的业务蓬勃发展,应用对于网络的性能需求(如延迟、吞吐)越来越高,受限于TCP/IP的局限性(如拷贝开销大、协议栈处理厚、CC算法复杂、上下文切换频繁等),TCP/IP的网络通信性能已经成为...

查询网络通信距离(NCD)

使用NCD的原因 存在的问题 在特定物理网络拓扑下,不同GPU节点之间的通信时延和可能产生的跨多跳交换机转发引发的哈希不均,都可能导致不同GPU节点之间的通信性能存在较大差异,进而进一步影响模型训练的吞吐差异。解决方法 如上图所示,...

组网方案

云盒可以将阿里云的专有网络VPC延伸到您本地IDC,实现和公共云一致的使用体验,在满足本地数据处理、低时延要求的同时,将云盒纳入到阿里云网络进行统一运维和管理。本文介绍云盒的组网方案。专有网络VPC(Virtual Private Cloud)是逻辑上...

功能特性

性能集合通信库ACCL 灵骏支持高性能集合通信库ACCL(Alibaba Collective Communication Library),结合硬件(例如:网络交换机),对万卡规模的AI集群提供无拥塞、高性能的集群通讯能力。在AI集群层面,通讯的碰撞是计算延迟的主要来源...

PAI灵骏智算服务概述

PAI灵骏 是一种大规模高密度计算服务,全称“PAI灵骏智算服务”,提供高性能AI训练、高性能计算所需的异构计算算力服务。PAI灵骏 主要面向图形图像识别、自然语言处理、搜索广告推荐、通用大模型等大规模分布式的AI研发场景,适用于自动...

基于eRDMA增强型实例部署AI训练集群

在NCCL底层通信链接上,有多种不同的传输方式,例如单机内部多卡P2P通信以及多机上的传统socket通信(如VPC网络)和高性能的InfiniBand(IB)通信,其中eRDMA是一种基于RDMA的传输方式,具有极低的延迟,并且在性能上接近RDMA网络的优势。...

共享内存通信(SMC)常见问题

如果您在Alibaba Cloud Linux 3系统中启用了共享内存通信SMC(Shared Memory Communication),且使用过程中遇到无法正常通信、部分端口不可用、对比TCP没有应用性能提升等问题,可以参考本文提供的方案进行排查并解决。启用SMC后应用性能...

什么是AI分布式训练通信优化库AIACC-ACSpeed

AIACC-ACSpeed介绍 AIACC-ACSpeed(本文简称ACSpeed)作为阿里云自研的AI训练加速器,具有其显著的性能优势,在提高训练效率的同时能够降低使用成本,可以实现无感的分布式通信性能优化。ACSpeed在AI框架层、集合算法层和网络层上分别实现...

什么是AI通信加速库Deepnccl

多机CPU-Reduce:该优化继承了单机内CPU-Reduce高效的异步流水线,并将跨机Socket通信也设计为流水线形态,实现多机通信全过程流水化,有效减少通信延迟,提高整体训练性能。例如,在通信量较大的Transformer-based模型的多机训练场景下,...

块存储性能

本地SSD型实例规格族i2ne、i2gne搭载的NVMe SSD本地盘性能如下表所示。NVMe SSD指标 ecs.i2ne.xlarge和ecs.i2gne.2xlarge ecs.i2ne.2xlarge和ecs.i2gne.4xlarge ecs.i2ne.4xlarge和ecs.i2gne.8xlarge ecs.i2ne.8xlarge和ecs.i2gne.16xlarge...

建立VPC到本地数据中心的连接(双隧道模式和BGP路由)

本文介绍如何使用公网网络类型的VPN网关在专有网络VPC(Virtual Private Cloud)和本地数据中心之间建立IPsec-VPN连接(双隧道模式),实现本地数据中心与VPC之间加密通信以及IPsec-VPN连接的高可用。同时,使用BGP动态路由协议实现路由...

HAL说明

本地通信功能 函数名 是否必选 说明 HAL_UDP_create_without_connect 否 创建一个本地UDP Socket,但不发起任何网络交互。HAL_UDP_close_without_connect 否 销毁指定的UDP Socket,回收资源。HAL_UDP_joinmulticast 否 在指定的UDP Socket...

设置性能自动扩容

本地性能自动扩容以分钟为单位计费,每个整点出账一次。计费公式为 单价 x 额外增加的核数 x 小时数。例如,杭州地域下的某实例的CPU规格为4核,触发性能自动扩容后增加至8核,扩容时间为30分钟,而杭州地域的单价为0.54元/小时,则计费...

测试块存储性能

本地盘性能测试命令 以下测试命令适用于NVMe SSD本地盘和SATA HDD本地盘。说明 示例命令中的参数取值仅供参考,请您根据实际情况替换。例如,如果需要测试的云盘为/dev/vdb,则将以下示例命令中的/dev/your_device替换为/dev/vdb。更多信息...

本地

本地盘不支持的操作有:单独创建全新本地盘 使用快照创建本地盘 挂载本地盘 单独卸载并释放本地盘 扩容本地盘 重新初始化本地盘 为本地盘创建快照 使用快照回滚本地本地盘类型 说明 本文主要描述当前与ECS实例一起销售的本地盘的信息。...

配置使用持久内存

持久内存支持的使用方式和实例规格有关,本文介绍如何将持久内存配置为本地盘以及可以配置为本地盘的持久内存型实例(ecs.re7p规格和ecs.i4p规格)使用llpl库分配内存池失败的解决方案。前提条件 持久内存适用于特定的实例规格和镜像版本,...

什么是Deepytorch Training(训练加速)

多机CPU-Reduce:该优化继承了单机内CPU-Reduce高效的异步流水线,并将跨机Socket通信也设计为流水线形态,实现多机通信全过程流水化,有效减少通信延迟,提高整体训练性能。例如,在通信量较大的Transformer-based模型的多机训练场景下,...

块存储概述

本地盘性能说明:本地盘性能。数据安全 说明 除数据擦除机制外,其他内容仅适用于云盘,不适用于本地盘。读写稳定性 在同一可用区中,您的业务数据以多副本的形式分布存储在块存储集群中,保证读写过程中的数据稳定性,为ECS实例实现99....

网络最大传输单元MTU

重要 对于超过链路最大MTU限制的数据包,阿里云转发组件会依据RFC标准对报文进行分片或协商,但是这只能保证连通性,不能保证网络通信性能。因此在链路最大MTU为1500的通信场景下,尽量避免使用巨型帧进行UDP、ICMP通信。对于阿里云上...

云存储网关

云存储网关CSG(Cloud Storage Gateway)是一款可以部署在用户本地数据中心和阿里云上的网关产品。它以阿里云对象存储OSS为后端存储,为云上和云下应用提供业界标准的文件服务(NFS和SMB)和块存储服务(iSCSI)。云存储网关 目前提供两种...

本地通信HAL

本文介绍本地通信HAL的相关接口。HAL_UDP_close 原型:void HAL_UDP_close(_IN_intptr_t p_socket);接口说明:调用此接口销毁指定的UDP连接,释放资源。参数说明:参数 数据类型 方向 说明 p_socket intptr_t 输入 UDP socket句柄。返回...

本地存储卷概述

功能介绍 本地存储是个相对概念:存储介质可以是阿里云提供的本地数据盘(请参见 本地盘),可以是阿里云云盘(请参见 云盘概述),也可以是内存当做临时本地存储使用。本地盘是ECS实例所在物理机上的本地硬盘设备。本地盘能够为ECS实例...

块存储计费

突发性能=总性能-(基准性能+预配置性能),下文的突发IOPS/吞吐量指的是超出基准性能和预配置性能之和的IOPS/吞吐量。如果仅IOPS突发,吞吐量未突发:突发IO量=∑突发IOPS×突发持续时间。示例:仅IOPS突发5s。第1-2s的突发IOPS为10,000 ...

建立gRPC连接

gRPC是一个开源高性能RPC框架,基于HTTP2协议设计开发,使用Protocol Buffers(protobuf)序列化技术对数据进行序列化传输,为开发者提供了一种跨语言、跨平台的服务间通信方式,开发者在客户端上可以像调用本地程序一样调用远程服务。...

共享内存通信(SMC)使用说明

Alibaba Cloud Linux 3提供的共享内存通信SMC(Shared Memory Communication)是一种兼容socket层、使用共享内存技术实现的高性能内核网络协议栈。根据共享内存技术的不同,SMC又可以细分为基于Internal Shared Memory(ISM)技术的SMC ...

共享内存通信(SMC)使用说明

Alibaba Cloud Linux 3提供的共享内存通信SMC(Shared Memory Communication)是一种兼容socket层、使用共享内存技术实现的高性能内核网络协议栈。根据共享内存技术的不同,SMC又可以细分为基于Internal Shared Memory(ISM)技术的SMC ...

实践教程概览

使用IMB软件和MPI通信库测试E-HPC通信性能 IMB(Intel MPI Benchmarks)用于评估HPC集群在不同消息粒度下节点间点对点、全局通信的效率。MPI(Message Passing Interface)是支持多编程语言的并行计算通信库,具有高性能、大规模性、可移植...

产品优势

D2D通信技术 D2D通信技术是Link WAN提供的通信模式,通过实现长前导码唤醒和本地数据控制功能,可很好满足功耗低、响应时间快和本地控制的场景需求,例如智能家居、门锁、地锁等。同LoRaWAN其他模式相比,D2D具备如下特点:功能 Class A ...

搭建高性能网络ACK集群

阿里云托管版容器服务ACK集群,支持自研的Terway网络插件,该插件可以有效减少因容器而引入的网络性能下降,可以基本达到服务器之间直接通信的网络性能。本最佳实践主要是一个性能测试方面的实践,指导客户进行POC测试等。解决问题 Pod之间...

网络优化

云企业网通过 转发路由器 TR(TransitRouter)在跨地域专有网络之间,专有网络与本地数据中心间搭建私网通信通道,支持在地域内定义灵活的互通、隔离、引流策略,帮助您打造一张灵活、可靠、大规模的企业级云上网络。企业版转发路由器实例...

如何使用DataV-WS服务

静态文件服务主要用于本地模型地址的加载,WebSocket服务符合蓝图编辑器WebSocket节点规范,使用该服务后,无需额外开发,在蓝图编辑器中能够直接使用该服务跨越多个同网段下的可视化应用进行通信。DataV-WS服务文档目录 重要 请勿删除...

本地SSD型

推荐 本地SSD型实例规格族i4 本地SSD型实例规格族i4g 本地SSD型实例规格族i4r 性能增强型本地盘实例规格族i4p 本地SSD型实例规格族i3g 本地SSD型实例规格族i3 本地SSD型实例规格族i2 本地SSD型实例规格族i2g 本地SSD型实例规格族i2ne 本地...

规格介绍

简介 DDH规格是指DDH对应的物理服务器的规格配置,包括物理CPU型号和核数、虚拟CPU(vCPU)核数、CPU数量(Socket数)、内存和本地存储等资源的配置。预定义实例规格根据使用场景,延续共享宿主机ECS实例规格族的场景定义。因此,您能在DDH...

修改TCP TIME-WAIT超时时间

背景信息 TCP/IP协议的TIME-WAIT状态是指应用关闭用于通信的套接口(socket)之后,TCP/IP协议栈保持socket处于打开状态。该状态默认持续60秒,用来保证完成服务器和客户端的数据传输。当处于TIME-WAIT状态的连接数过多时,可能会影响到...

lwip

IP 地址等信息 struct hostent*gethostbyname(const char*name)args description name 主机域名 获取本地主机的信息 int getsockname(int s,struct sockaddr*name,socklen_t*namelen)args description s socket 描述符 name sockaddr 结构...
< 1 2 3 4 ... 200 >
共有200页 跳转至: GO
新人特惠 爆款特惠 最新活动 免费试用