在类Unix系统中可以使用top查看系统资源、进程、内存占用等信息。查看网络状态可以使用netstat、nmap等工具。若要查看实时的网络流量，监控TCP/IP连接等，则可以使用iftop。 一、iftop是什么？ iftop是类似于top的实时流量监控工具。 官方网站：http://www.ex-parrot.com/~pdw/iftop/ 二、iftop有什么用？ iftop可以用来监控网卡的实时流量（可以指定网段）、反向解析IP、显示端口信息等，详细的将会在后面的使用参数中说明。 三、安装iftop 安装方法1、编译安装 如果采用编译安装可以到iftop官网下载最新的源码包。 安装前需要已经安装好基本的编译所需的环境，比如make、gcc、autoconf等。安装iftop还需要安装l...阅读全文
什么是JMX JMX（Java管理扩展），是一套给应用程序引入监控管理功能的接口。比如我们可以通过JMX来监控Tomcat的运行状态。JMX最主要的应用场景就是中间件的监控，配置文件的在线修改配置。 相关概念 一个典型的JMX架构图： MBean：是Managed Bean的简称。在JMX中MBean代表一个被管理的资源实例，通过MBean中暴露的方法和属性，外界可以获取被管理的资源的状态和操纵MBean的行为。事实上，MBean就是一个Java Object，同JavaBean模型一样，外界使用自醒和反射来获取Object的值和调用Object的方法，只是MBean更为复杂和高级一些。 MBeanServer：MBean生存在一个MBeanServer中。MBeanServer管理这些MB...阅读全文
CPU缓存一致性协议MESI CPU高速缓存（Cache Memory） CPU为何要有高速缓存 CPU在摩尔定律的指导下以每18个月翻一番的速度在发展，然而内存和硬盘的发展速度远远不及CPU。这就造成了高性能能的内存和硬盘价格及其昂贵。然而CPU的高度运算需要高速的数据。为了解决这个问题，CPU厂商在CPU中内置了少量的高速缓存以解决I\O速度和CPU运算速度之间的不匹配问题。 在CPU访问存储设备时，无论是存取数据抑或存取指令，都趋于聚集在一片连续的区域中，这就被称为局部性原理。 时间局部性（Temporal Locality）：如果一个信息项正在被访问，那么在近期它很可能还会被再次访问。 比如循环、递归、方法的反复调用等。 空间局部性（Spatial Locality）：如果一个存储器...阅读全文
近日，由天翼云科技有限公司云网产品事业部天玑实验室撰写的《关于公有云区分负载QoS感知的内存资源动态超分管理优化》（Thoth：Provisioning Overcommitted Memory Resource with Differentiated QoS in Public Clouds）论文被2023年第25届国际高性能计算与通信会议 IEEE HPCC（IEEE International Conference on High Performance Computing and Communications）长文收录。IEEE HPCC，是高性能计算领域较高水平的国际学术会议，也是中国计算机学会CCF推荐的国际会议之一。HPCC 由IEEE、IEEE计算机协会和IEEE 可扩展计算...阅读全文
天翼云自研国内首个单集群万卡国产化全功能预训练云服务平台发布上线，并完成万卡规模Llama3.1-405B大模型训练。Llama3.1-405B作为4000亿参数的模型，在息壤训推服务平台的支持下经过多轮优化，MFU达到国内领先水平；另外，700亿参数模型Llama2-70B在万卡规模下完成训练，MFU也处于业界领先水平。万卡纳管、并行训练大模型训练效率大幅提升平台具备万卡纳管和并行训练能力，基于HPFS的PB级并行文件系统和CTCCL的RDMA高速卡间互联技术、基于Gang策略与拓扑感知的智算容器调度，以及慧聚自研分布式训练框架TeleFormers和平台，实现万卡资源纳管和万卡规模并行训练。天翼云自研了AI框架Teleformers，对算子、通信、数据处理进行优化，以及并行策略的自适应调...阅读全文
本文分享自天翼云开发者社区《私有云容灾方案设计浅谈》，作者：y****n一、背景在大型企业、金融机构建设私有云时，须考虑私有云各项服务的高可用和容灾/备份方案，防止因单机房故障引发的一系列故障导致业务不可用或整体停服，降低影响范围同时满足监管和等保等安全要求。二、建设范围私有云建设内容一般包含几个重点部分：1.机房建设：通常情况下，容灾设计具备同城双机房，保证业务双活部署或者灾备部署；同时对于重要业务，需要规划异地灾备机房，用于远端冷数据备份。即具备同城双活/灾备和异地备份恢复能力。2.硬件部署：网络/防火墙设备均采用双机方案，在可用区内部满足双活/主备部署要求；在可用区之间需要支持网络流量的故障切换能力，将用户访问无缝切换至另一可用区；服务器采用集群或双活方案，支持可用区内按照跨柜列、跨机...阅读全文
