官方链接 npm install xxx会在node_modules下安装对应的依赖，如果安装的依赖下面的package.json目录里面有bin配置， 比如cross-env 那么就会在node_modules目录下的.bin目录生成对应的脚本文件 所以我们可以在package.json中的scripts中使用对应的脚本。 官方翻译 bin 许多软件包都有一个或多个可执行文件，他们希望将它们安装到 PATH 中。npm 使这非常容易（事实上，它使用此功能来安装“npm”可执行文件。） 要使用它，bin请在 package.json 中提供一个字段，该字段是命令名称到本地文件名的映射。安装时，npm 会将该文件符号链接到 prefix/bin全局安装或./node_modules/.bin/...阅读全文
 一、什么是Doris Doris 是一个 MPP 的 OLAP 系统，主要整合了 Google Mesa（数据模型），Apache Impala（MPP Query Engine) 和 Apache ORCFile (存储格式，编码和压缩) 的技术。 二、Doris得作用 1、对数据分析、统计 2、报表 3、多维分析 4、Doris 是从百度内部自主研发并贡献到 Apache 开源社区的 ROLAP 数据库。 5、Doris 整合了 Google Mesa（数据模型），Apache Impala（MPP Query Eng...阅读全文
MyBatis是一个优秀的持久层框架，它支持定制化SQL、存储过程以及高级映射。那么，它是如何工作的呢？又如何进行基础的使用呢？本文将带你了解MyBatis的工作原理及基础使用。 ## 一、MyBatis的工作原理 ### 1.1 MyBatis的工作原理 工作原理图示：  **1、读取MyBatis配置文件** mybatis-config.xml为MyBatis的全局配置文件，配置了MyBatis的运行环境等信息，例如数据库连接信息。 **2、加载映射文件（SQL映射文件，一般是XXXMapper.xml）** ...阅读全文
近日，由新一代信息技术产业研究院、赛迪未来产业研究中心共同主办，中国电子学会区块链分会、至顶科技联合承办的“2024未来信息技术大会暨首届数据要素创新发展论坛”于北京成功举办。大会公布了“2023年度数据要素价值创新标杆示范案例”评选结果，天翼云“海南省数据产品超市公共数据资源开发利用平台”与“福州市公共数据要素流通平台”获此殊荣，为推动数据要素市场化配置、助力数据要素价值释放树立了行业标杆。天翼云相关专家出席会议并分享了天翼云加速向智能云全面升级，在智算服务体系建设、数据要素平台技术创新方面的实践和成果。今年，“人工智能+”首次写入政府工作报告，全面驱动产业数智化升级。作为云服务国家队，天翼云立足全栈自研的技术体系、行业领先的产品服务、安全可信的运营能力，不断巩固和强化竞争优势。没有...阅读全文
夏天马上就要到了，“瘦身”不光是特定人群的需求，也是数据中心的需求。构建轻量化、低碳化、高性价比的新型数据中心，更有效地支撑经济社会数字化转型，已成为业界主流趋势。如何让数据中心“热辣瘦身”？轻量级存储集群控制器——天翼云存储资源盘活系统HBlock必不可少！“HBlock健身房”究竟是如何发挥功效的？三大招式出击，助力数据中心迅速“逆袭”！第一大招“混合部署”让数据中心精简紧凑，原地“暴瘦”！HBlock作为全用户态的轻量级存储集群控制器，可以和别的业务系统混合部署在同一台服务器内，实现服务器总数量减少。HBlock还可以盘活服务器本地的磁盘，当作高可用虚拟盘提供给服务器现有业务，在3节点起步的轻量集群同时实现计算高可用和存储高可用！例如，某企业有100台资源利用率为50%、单台可用空...阅读全文
本文分享自天翼云开发者社区《如何在弹性云主机上部署高效的数据库系统》，作者：二进制诗人在当今云计算的时代，弹性云主机（Elastic Cloud Compute, EC2）为我们提供了前所未有的灵活性和扩展性，使得在云端部署高效的数据库系统成为可能。本文将从选择合适的云服务配置、优化数据库配置、数据备份与恢复策略以及保障数据库安全四个方面分享如何在弹性云主机上部署高效的数据库系统。1.选择合适的云服务配置选择合适的实例类型弹性云主机提供了多种实例类型，针对不同的用途（如计算优化、内存优化等）。对于数据库系统，通常需要考虑内存优化或存储优化的实例类型，例如AWS的R5实例（内存优化）或I3实例（存储优化）。配置高性能存储数据库性能很大程度上取决于存储性能。推荐使用SSD（固态硬盘）作为数据库的...阅读全文
本文分享自天翼云开发者社区《云迁移中的CT-CMS任务操作指南》，作者：每日知识小分享随着企业业务的快速发展和数据量的不断增长，传统的IT架构逐渐面临性能瓶颈、扩展性不足等问题。为了解决这些问题，越来越多的企业选择将业务迁移到云平台，以实现更高效、灵活和可扩展的IT服务。在云迁移的过程中，CT-CMS（内容管理系统）的迁移是一项重要而复杂的任务。本文将详细介绍云迁移中CT-CMS任务操作的关键步骤、注意事项以及最/佳实践，帮助读者顺利完成CT-CMS的云迁移工作。CT-CMS作为企业内容管理的核心系统，承载着网站内容管理、信息发布、工作流程自动化等重要功能。在云迁移过程中，如何确保CT-CMS系统的稳定性、数据的安全性和业务的连续性，成为了迁移任务的关键。本文将围绕CT-CMS云迁移的任务操...阅读全文
近日，弗若斯特沙利文（Frost & Sullivan，简称“沙利文”）联合头豹研究院发布《2023年中国边缘云市场报告》，天翼云在2023H1中国边缘云IaaS层细分市场位列第一，领跑中国边缘云市场。近年来，随着5G、物联网等技术的飞速发展，智能终端设备数量迅速增加，产生的数据量呈指数级增长，这对数据处理的时效性、可靠性提出更高要求。边缘云通过将网络、计算、存储资源部署到离用户设备更近的位置，更好地满足用户在敏捷连接、实时业务等不同方面的需求。作为云服务国家队，天翼云立足客户需求，持续深耕边缘计算领域，不断加速算力基础设施建设，并构建完善的边缘云产品矩阵，以低时延、高可靠、高安全、可调度的边缘云服务，助力企业实现敏捷业务响应、释放业务价值，推动算力普惠。在边缘算力布局方面，天翼云充分发挥...阅读全文
1.临时生效 # 查看默认设置的过期时间 show variables like "%expire_logs%"; # 设置保留15天 set global expire_logs_days=15 # 刷新日志 flush logs； #查看新生成的binlog日志 show master status\G: 注意：以上命令在数据库执行会立即生效，请确定设置数据的保留日期，以免误删 2.永久生效 # 修改配置文件 vim /etc/my.cnf [mysqld]模块 expire_logs_days=15 注意：在配置文件修改后，需要重启才能永久生效。另，0表示永不过期，单位是...阅读全文
在数据驱动的时代，高效地存储和处理数据成为了开发者们的重要任务。Redis，作为一个开源的高性能键值对（key-value）数据库，以其独特的数据结构和丰富的功能，成为了众多项目的首选。 今天，我们就来揭开Redis的神秘面纱，看看它是如何通过不同的数据类型，为我们提供高效、灵活的数据存储和处理能力的。 ### 一、字符串（String）：数据的基石 #### String类型简介 字符串是Redis最基本的数据类型，它可以存储文本、数字或者二进制数据。 使用字符串类型，你可以执行原子性的操作，如追加（APPEND）、设置（SET）和获取（GET）。例如，你可以将用户信息作为字符串存储，并通过键快速检索。 - 一个key对应一个value。 - String类型是二进制安全的。只要内容可以使...阅读全文
本文分享自天翼云开发者社区《云主机（操作系统：CentOS7版本）安装nfs客户端，挂载文件系统》，作者：c****n1.保证宿主机上有nfs-utils1.1若宿主机yum源不可以用（1）本地下载nfs-utils安装包下载链接：https://mp.csdn.net/mp_download/manage/download/UpDetailed?spm=3001.5299（2）登录宿主机，创建文件夹存放nfs-utils: mkdir /root/lhx（3）进入目录/root/lhx： cd /root/lhx（4)宿主机上安装rz，用于nfs-utils安装包传输到宿主机：yum install lrzsz（5）nfs-utils安装包传输到宿主机:rz -be（6）宿主机上安装gen...阅读全文
位于海南省陵水黎族自治县的清水湾，是一个拥有碧海蓝天与温暖阳光的热带海湾。早春三月，海岸线旁的沙滩上满是享受假期生活的游客。在不远处的海域，重量与1000辆小汽车相当、单个罐体直径与“天和号”空间站核心舱相当的几个“大家伙”正隐于波涛之下，安静地工作着。自去年3月底在陵水正式投入运营以来，全球首/个商用海底数据中心已平稳运行近一年，为人工智能、大数据等互联网企业提供数据存储和计算服务。“把数据存进海底”，这一天马行空的想象变成现实，互联网和数据行业与海洋科技打通，形成了全新的交叉业态。数据中心为何由陆向海？错综复杂的海洋环境能否保障数据安全和稳定？“陆数海算”将如何助力我国算力迈上新台阶？一起走近海南陵水商用海底数据中心。海底数据舱正在进行车间建造集成将海洋能源转化为海洋算力在几乎不消耗淡...阅读全文
Prometheus入门与进阶实践（2024最新） 分享一套课程——Prometheus入门与进阶实践（2024最新），附PDF课件+源码下载。 1、什么是Prometheus Prometheus 是一个开源的服务监控系统和时序数据库，其提供了通用的数据模型和快捷数据采集、存储和查询接口。它的核心组件Prometheus server会定期从静态配置的监控目标或者基于服务发现自动配置的自标中进行拉取数据，当新拉取到的数据大于配置的内存缓存区时，数据就会持久化到存储设备当中。 1.每个被监控的主机都可以通过专用的exporter 程序提供输出监控数据的接口，它会在目标处收集监控数据，并暴露出一个HTTP接口供Prometheus server查询，Prometheus通过基于HTTP的pul...阅读全文
本文分享自天翼云开发者社区《云审计与大数据审计：区别、优势与应用场景》，作者：每日知识小分享随着信息技术的飞速发展，审计领域也迎来了革命性的变革。云审计和大数据审计作为两种新兴的审计模式，各有其独特的特点和应用场景。本文将对云审计和大数据审计进行深入的比较分析，探讨它们之间的区别、优势以及适用的场景，旨在帮助读者更好地理解这两种审计模式，并为企业选择合适的审计方法提供参考。云审计和大数据审计都是信息技术在审计领域应用的产物。云审计主要利用云计算技术的优势，实现审计数据的集中存储、处理和分析；而大数据审计则侧重于利用大数据技术的能力，对海量数据进行挖掘和分析，以发现潜在的风险和问题。虽然两者在某些方面有相似之处，但它们在数据结构、处理方式、技术应用等方面存在明显的区别。一、云审计与大数据审计的...阅读全文
近日，知名开源大规模并行处理 (MPP) 数据库Greenplum的源代码在其官方GitHub页面突然消失，引发了用户和开发者的广泛关注， PostgreSQL生态系统或将产生新变数。开源软件在面对商业化和盈利需求时的举措，将对行业产生巨大影响：开源信任的挑战：频繁的开源协议变更可能会导致企业和开发者对开源项目的信任度下降。法律和合规考虑：新协议条款可能引发企业对法律和合规风险的重新评估，影响其技术选型和投资决策。作为云服务国家队，天翼云不断加快关键核心技术自主攻关，针对市场需求自研TeleDB数据库，能够助力客户平滑迁移Greenplum数据库，实现应用无缝切换，以更可靠的产品和更优质的服务，提供企业数据管理更优解。TeleDB分析型实例，企业数据库领先之选天翼云TeleDB分析型实例是一...阅读全文
flink实时规则营销系统（39期，2023版） 给大家分享一套课程——flink实时规则营销系统（39期，2023版），附源码+文档+虚拟机下载。 CEP 在 Flink 中以 library 形式存在，并不和其底层引擎代码相绑定，只是继承很多 low-level 的 API，阅读 cep 的代码过程中也可以学习到不少 Flink 上新颖的使用方式。我们可以将 Flink 内部的 CEP 实现简要分成以下几个步骤： 规则解析 规则匹配 匹配事件提取 flink可以广泛用于实时计算,特别是无限流的场景，比如在双11这天,淘宝或者天猫这天网页在某个时间段被用户浏览了多少次，那些热门商品是用户喜欢的。比如说，每隔5分钟，想看看最近一小时内被点击最多的商品。这就是一个很典型的flink-windo...阅读全文
本文分享自天翼云开发者社区《云内GSLB技术及应用场景》，作者:c****n云业务容灾建设节奏一般是同城双活—异地双活—两地三中心（同城双活+异地多活），因为要解决的问题的复杂度和难度也是在逐步上升的，不可能一蹴而就。gslb可以实现两地三中心容灾，这时应用在多数据中心的情况下，业务需要分布式部署，无论哪个数据中心都可以独立承担业务，数据中心内通过服务器负载均衡（lb）进行数据中心内的业务负载，gslb是通过dns给lb做负载均衡，配合健康检查实现业务的故障切换，数据中心切换，一些算法如静态就近性可以就近访问加速等。一、基本概念1.业务域名用户访问应用服务的dns域名。2.服务成员域名最后返回的ip的地址，这个ip地址一般就是slb负载均衡设备的ip。3.地址池一组服务成员的集合，可以选择服...阅读全文
本文分享自天翼云开发者社区《天翼云发布边缘安全加速平台AccessOne，四大产品能力助力企业安全高速发展》，作者：天翼云社区官方账号2023年5月30日全国科技工作者日，以“连接世界从边缘开始”为主题的天翼云边缘安全加速平台发布会在线上顺利举办。会上，天翼云重磅发布边缘安全加速平台AccessOne（后称AccessOne），并深入介绍了产品四大能力，以及在教育行业的实践成果，为企业提供性能、安全、算力等满足不同场景需求的智能边缘网络。应对多重网络应用挑战，一体化服务成优先选择数字化转型进程中，新型产业在改善人们生活质量的同时，也对网络应用服务提出挑战。天翼云智能边缘事业部副总经理鄢智勇指出，首先，越来越多的数据和应用需在离数据源更近的位置进行实时处理和分析，满足对低延迟和高带宽的需求。其...阅读全文
近日，由中国通信企业协会主办的“第13届数据中心产业发展大会暨AIDC智能算力生态合作展览会”在北京顺利举行。现场展示了天翼云“AIDC”“紫金”“云骁”“息壤”等技术和平台能力；中国电信天翼云2023年智算资源池上海节点建设工程获得大会“算力基础设施高质量发展企业案例奖”；天翼云科技有限公司云网发展部副总经理李启荣围绕天翼云新一代智算中心建设方案与创新实践展开分享。随着人工智能的飞速发展，国家出/台一系列政策，为底层算力基础设施建设，以及人工智能赋能经济社会发展指明了方向。2024年政府工作报告中指出，深化大数据、人工智能等研发应用，开展“人工智能+”行动，打造具有国际竞争力的数字产业集群，适度超前建设数字基础设施，加快形成全国一体化算力体系，培育算力产业生态。人工智能已成为引领未来发展...阅读全文
本文分享自天翼云开发者社区《linux各个目录的作用》，作者：技术小白/bin/：存放系统命令的目录,普通用户和超级用户都可以执行，不过放在/bin下的命令在单用户模式下也可以执行；/sbin/：保存和系统环境设置相关的命令，只有超级用户可以使用这些命令进行系统环境设置，但是有些命令可以允许普通用户查看；/usr/bin/：存放系统命令的目录，普通用户和超级用户都可以执行，这些命令和系统无关，在单用户模式下不能执行；/usr/sbin/：存放根文件系统不必要的系统管理命令，例如多数服务程序，只有超级用户可以使用；/boot/：系统启动目录，保存系统启动相关文件，如内核文件和启动引导程序；/dev/：设备文件保存位置；/etc/：配置文件保存位置，系统内所有采用默认安装(rpm安装)的服务的配...阅读全文
本文分享自天翼云开发者社区《双栈网络使用什么技术实现总部网络能访问分部网络？》，作者：SD万为了实现总部和分部之间的IPv4和IPv6互访，可以使用以下隧道技术：1、IPv4隧道技术：可以使用GRE（Generic Routing Encapsulation）隧道技术，在IPv4网络中隧道传输IPv6数据包。在总部和分部之间分别配置一个GRE隧道接口，并将IPv6数据包封装在IPv4数据包中进行传输。配置完成后，总部的IPv4地址就可以访问分部的IPv4地址。2、IPv6隧道技术：可以使用6to4、Teredo等IPv6隧道技术，在IPv4网络中隧道传输IPv6数据包。在总部和分部之间分别配置一个6to4或Teredo隧道接口，并将IPv4数据包封装在IPv6数据包中进行传输。配置完成后，总...阅读全文
Spring Cloud Alibaba: 实现服务的无损下线功能作者：谁偷走了我的奶酪2024.01.18 02:49浏览量：2简介：在微服务架构中，服务的上线和下线是一个常见的操作。然而，直接关闭服务可能会导致数据丢失或服务中断。本文将介绍如何使用Spring Cloud Alibaba实现服务的无损下线功能。在微服务架构中，服务的上线和下线是一个常见的操作。但是，直接关闭服务可能会导致数据丢失或服务中断，这被称为“有损下线”。为了解决这个问题，我们可以使用Spring Cloud Alibaba提供的解决方案来实现服务的无损下线。无损下线的原理是在服务关闭之前，将所有待处理的任务或者请求全部处理完成，保证服务的正常运行，然后再安全地关闭服务。这样就可以避免数据丢失和服务中断的问题。要实...阅读全文
步骤1： 设置HBase环境与连接确保已经正确配置了HBase的客户端依赖（如hbase-client、hbase-common等），并设置了HBase的ZooKeeper地址。以下是一个简化的示例，假设您已经有了一个配置好的Configuration对象（conf）和表名（tableName）：import org.apache.hadoop.hbase.HBaseConfiguration;import org.apache.hadoop.hbase.TableName;import org.apache.hadoop.hbase.client.Connection;import org.apache.hadoop.hbase.client.ConnectionFactory;// 创建...阅读全文
本文分享自天翼云开发者社区《玩转云端|天翼云边缘安全加速平台AccessOne实用窍门之上传下载极速推进，纵享丝滑体验！》，作者：天翼云社区官方账号随着传媒行业数字化转型驶入深水区，如何提升内容生产与服务能力成为传媒产业新的时代命题。传媒业务数据量庞大，包含海量视频、音频、图像及文字等数据，这意味着传媒业务的内容上传和下载工作成为从业者工作中的重要部分。受限于传输速度和网络拥堵等因素，传媒业务中的上传和下载工作往往会遇到诸多困难。那么，如何提高传媒业务的上传下载速度，助力传媒行业提升平台运营水平与服务效率？天翼云边缘安全加速平台AccessOne来支招！某主流媒体平台为推动线上业务蓬勃发展，搭建了门户网站、APP客户端等多类用户入口，在线提供视频、音频、图片等高质量内容。然而，由于平台用户数...阅读全文
本文分享自天翼云开发者社区《浅谈Redis的三种集群策略及应用场景》，作者：段林Redis提供了三种集群策略：1.主从模式：这种模式⽐较简单，主库可以读写，并且会和从库进⾏数据同步，这种模式下，客户端直接 连主库或某个从库，但是但主库或从库宕机后，客户端需要⼿动修改IP，另外，这种模式也⽐较难进⾏ 扩容，整个集群所能存储的数据受到某台机器的内存容量，所以不可能⽀持特⼤数据量。2.哨兵模式：这种模式在主从的基础上新增了哨兵节点，但主库节点宕机后，哨兵会发现主库节点宕机， 然后在从库中选择⼀个库作为进的主库，另外哨兵也可以做集群，从⽽可以保证但某⼀个哨兵节点宕机 后，还有其他哨兵节点可以继续⼯作，这种模式可以⽐较好的保证Redis集群的⾼可⽤，但是仍然不能 很好的解决Redis的容量上限问题。3...阅读全文
数字时代，数据成为重要的生产要素。随着企业数据量的爆发式增长，管理和维护庞大的数据集合变得愈发复杂。数据库中存储了企业的核心数据资产，一款安全高效的数据库管理工具必不可少。天翼云数据管理服务（AOne-DMS），不仅能让你的数据库管理工作变得轻松简单，还能保障数据安全无忧！ 数据安全 核心坚守安全，一直是数据库管理的重中之重，尤其是在面临管理多云异网数据库时，启用公网访问不仅增加了流量成本，还可能带来安全隐患。天翼云AOne-DMS支持多云异网数据安全管理，可提供“网络+数据”双效安全防护，管理经过AOne网络连接的数据库，并通过精细化的权限管理、操作风险管控、审批流及数据库审计等手段，保障用户数据安全无忧。全局管理 简化操作多云异网数据库面临的不仅仅是安全问题，日常数据库管理的复杂...阅读全文
2024年6月26日，2024世界移动通信大会上海（简称“MWC上海”）盛大开幕。围绕“未来先行”主题，来自全球的产业、技术和社区等各界代表齐聚一堂，共话产业高质量发展。在“智启云领 向新未来”主题馆内，天翼云展出了“息壤”“云骁”“慧聚”三大智算平台和“天翼AI云电脑”“一体化紫金算力基础设施”等最新智算成果，全方位展示在人工智能时代的科技创新实力。算力分发网络平台“息壤”一体化计算加速平台“云骁”一站式智算服务平台“慧聚”一体化紫金算力基础设施天翼AI云电脑夯实智算底座全栈赋能AI产业创新与应用落地天翼云智算云体系中，“息壤”平台可实现跨域、跨服务商异构算力的统一调度管理、并网交易，加快全国一体化算力体系形成，让智算更普惠。“云骁”具备超大规模集群管理、运营和算力加速能力，集“...阅读全文
近日，国际数据公司IDC发布的《中国专属云服务市场（2023下半年）跟踪》报告显示，2023下半年，专属云服务整体市场规模同比增长18.0%。中国电信天翼云以21.8%的市场份额，蝉联中国专属云服务市场第一。天翼云连续五次登顶，以实力持续领跑中国专属云服务市场。IDC报告指出，2023下半年，中国专属云服务市场继续从“规模发展”向“规模+质量并行发展”进阶，企业对于专属云服务的能力要求随着用云深度的不断加深而不断提高。依托自主可控的全栈云服务产品体系，天翼云可为客户提供公有云、专属云、私有云、边缘云等多类型高品质云服务。天翼专属云能够为用户实现资源物理隔离、网络隔离、存储隔离，消除用户之间的资源相互影响和网络互访隐患，具有安全隔离、稳定可靠、灵活可控、易于管理等优势。在专属云内，用户可独享...阅读全文
本文分享自天翼云开发者社区《NFS v3及v4协议区别》，作者:章****凯NFS v4相比v3，有部分功能的增强，如果应用需要实现如下功能，则必须使用NFS v4（建议和应用侧确实是否有NFS v4需求，一般情况下，应用侧会对是否采用NFS v4有明确需求）：ID Domain MappingNFS v4引入Domain概念，加强了权限管控的能力。访问NFS v4的卷需要授权，因此性能相比NFS v3略有下降。授权NFS V4访问，需要部署LDAP服务器做权限管控，并涉及操作系统部分配置文件修改NFS v4.x Access Control Lists (ACLs)NFS v4支持同一文件的不同用户权限控制，例如对文件1.txt，用户A是755权限，用户B是600权限，通常这类权限管控要求...阅读全文
本文分享自天翼云开发者社区《TiDB体系架构》，作者:x****n如图所示，TiDB体系中三大组成部分：PD、TiDB Server、TiKV1.PD：负责产生全局的TSO时间、控制Region在TIkv中的分布、产生全局事务ID、还有其他ID。2.TiDB：没有数据落地，接收客户端sql语句，对sql语句进行解析和编译，最终形成执行计划。DDL语句和基于MVCC的老版本数据的回收，也是TiDB Server操作。3.TiKV：数据以键值队存储在TiKV中，主要负责数据持久化、MVCC、Coprocessor、事务以及自身副本的高可用和强一致性（由Muti-raft实现）。4.TiFlash：列式存储引擎，主要由扩展的raft共识算法与Tikv进行数据同步，实现负载均衡、强一致读取和实时更...阅读全文
本文分享自天翼云开发者社区《CBR云备份与恢复管控简介》，作者:c****n1.CBR云备份与恢复介绍CBR (Cloud Backup & Restore)是一般云厂商提供的备份与恢复服务。用户可以在云端对数据进行备份和恢复，保证数据的安全性和可靠性。使用CBR，用户可以方便地随时随地备份和恢复数据。采用增量备份、快照备份、跨区域复制等先进的备份和恢复技术，提供快速、高效、可靠的数据保护。此外，CBR还提供了基于agent的备份、快照备份、VSS备份等多种备份方式，以适应不同类型的数据和应用。2.云备份与恢复管控介绍CBR 管理架构旨在为用户提供安全、可靠、易用的备份与恢复服务。该架构由几个关键组件组成，包括备份服务端、消息中间件、备份仓库、备份引擎和恢复引擎。备份服务端为用户提供了基于...阅读全文
【完结18章】C++大型流媒体项目-从底层到应用层千万级直播系统实战 一、什么是流媒体。 流媒体是一种以流的形式在网络上进行数字媒体(音频、视频)传输的技术。 它将频、音视频之类的连续媒体经压缩编码、数据打包后按照一定的时间间隔要求连续地发送给接收方，接收方在后续数据不断到达的同时对接收到的数据进行重组、解码和播放。 如果你对流媒体感兴趣的话，可以看一下 Live555，一个更流行且更专业的流媒体库。 它支持了各种标准流媒体传输协议，如 RTP/RTCP、RTSP、SIP，实现了对多种音视频编码格式的音视频数据的流化、接收和处理等支持。播放 VLC 和 MPlayer 都是基于它来实现流媒体播放的功能，并且非常适合嵌入式领域。 二、流媒体特征 (1)内容主要是时间上连续的媒体数据(音频、视频...阅读全文
本文分享自天翼云开发者社区《ceph数据重构原理》，作者:x****n在分布式存储系统Ceph中，硬盘故障是一种常见问题。为了保证数据安全，当发生硬盘故障后，分布式存储系统会依据算法对故障硬盘上的数据进行数据重构及转储。和一般分布式系统一样的是，Ceph同样使用多副本机制来保证数据的高可靠性（注：EC在实现层面可以理解为副本机制的一种），给定一份数据，Ceph在后台自动存储多份副本（一般使用3个副本），从而使得在硬盘损毁、服务器故障、机柜停电等故障情况下，不会出现数据丢失，甚至数据仍能保持在线。不过在故障发生后，Ceph需要及时做故障恢复，将丢失的数据副本补全，以维系持续的数据高可靠性。一.PG和PGLogCeph中对象数据的维护由PG（Placement Group）负责，PG作为Ceph...阅读全文
本文分享自天翼云开发者社区《快照技术对比学习》，作者:z****n1.快照的分类根据 SNIA 的定义, 快照有全量快照 (full snapshot) 和增量快照 (incremental snapshot) 两种类型。2.全量快照克隆(Clone)：与备份操作类似，克隆技术是一种数据复制和恢复的方法，用于创建源数据的完全副本。将源数据的所有信息和状态以二进制形式进行备份，并在需要时将其恢复到相同或另一个系统中。克隆对象可以是存储卷、文件系统或者LUN，优势在于它提供了完全一致和独立的复制，不受源系统的影响。缺点就是在创建时要完整的复制一份数据，需要占用和源数据空间一样大的存储空间，资源成本高，消耗时间长。镜像分离(Split Mirror)：镜像分离也属于全量快照，先创建源卷的一个镜像卷...阅读全文
近日，由中国互联网协会主办的2024（第二十三届）中国互联网大会在北京举行。天翼云凭借“慧泽”大模型项目荣获首届“金灵光杯”中国互联网创新大赛金灵光大奖以及人工智能专题赛一等奖，天翼云电脑荣获信息技术应用创新专题赛优秀奖。天翼云科技有限公司副总经理、首席网络安全官广小明出席中小企业数据安全工具箱上线仪式，天翼云科技有限公司资深安全专家闫斐围绕“构筑原生安全基础设施，赋能企业数字转型发展”进行分享。以科技创新为引领匠心打造数智化产品服务大会开幕式上，中国工程院院士、中国互联网协会专家咨询委员会主任邬贺铨院士为获奖单位颁发了“金灵光”奖杯和获奖证书。“慧泽”是天翼云推出的政务行业大模型，此次获奖的天翼云“慧泽”大模型项目是基于政府惠民和政务管理的实际需求，在开源基模的基础上，通过持续预训练和有监...阅读全文
引言 在实际业务开发中，随着业务的变化，数据的复杂性和多样性不断增加。传统的关系型数据库模型在这种情况下会显得受限，因为它们需要预先定义严格的数据模式，并且通常只能存储具有相同结构的数据。而面对非结构化或半结构化数据的存储和处理需求，选择使用非关系型数据库或者创建子表存储这些变化的结构可能会变得复杂。在这种情况下，我们可以利用MySQL的JSON字段类型来解决这个问题。JSON字段提供了灵活的数据存储方式，能够轻松应对数据结构的变化和动态性，从而更好地满足业务需求。 MySQL5.7.8版本引入了JSON数据类型，允许在数据库表中存储和操作符合JSON格式的数据。这种原生支持JSON（JavaScript对象表示法）的数据类型遵循RFC 7159标准，提供了有效存储复杂、半结构化数据的方式。...阅读全文
本文分享自天翼云开发者社区《一文带您了解如何降低对象存储成本》，作者：刘****筠首先，需要了解天翼云对象存储（原生版）I型ZOS的三种存储类型，分别供标准、低频、归档存储，全面覆盖从热到冷的各种数据存储场景，您可根据使用场景和性能要求选择合适的存储类型。标准存储提供高可靠、高可用、高性能的存储服务，适用于频繁访问（平均一月访问多次）的存储场景，比如移动应用、网站、音视频、社交图片、大数据分析等业务场景。低频存储提供高可靠、低成本的存储服务，适用于不频繁访问（平均一月访问一次）的存储场景，但在需要时也能快速实时访问数据的业务场景，比如数据备份、监控数据存储等场景。归档存储提供高可靠、更低成本的存储服务，需要解冻后访问，适用于很少访问（平均一年访问一次）的存储场景，比如档案数据、医疗影像、长期...阅读全文
本文分享自天翼云开发者社区《支持S3协议的S3cmd工具简单使用》，作者：付****健一：安装方法#wget http://nchc.dl.sourceforge.net/project/s3tools/s3cmd/1.0.0/s3cmd-1.0.0.tar.gz #tar -zxf s3cmd-1.0.0.tar.gz -C /usr/local/ #mv /usr/local/s3cmd-1.0.0/ /usr/local/s3cmd/ #ln -s /usr/local/s3cmd/s3cmd /usr/bin/s3cmd二：使用方法1.配置Access Key ID 和 Secret Access Key#s3cmd --configure2.列举所有的Buckets#s3cmd l...阅读全文
近年来，随着各行业数智转型逐步深入以及人工智能大模型的蓬勃发展，气象分析、大模型训练、自动驾驶、石油勘探、EDA仿真、基因分析等高性能计算（HPC）场景和智算场景（AI）不仅对算力需求激增，也产生了图片、视频等大规模非结构性数据，企业在实践中面临着数据量大、存储性能不足等问题，导致训练阻塞、算力利用率低甚至训练中断现象频繁发生。在此背景下，企业需要不断创新和优化存储系统技术架构，以便实现更加高效、可靠和灵活的存储解决方案。作为云服务国家队，天翼云坚持科技创新，不断加快推进数据存储基础设施建设，创新推出并行文件服务HPFS（CT-HPFS，High Performance File Storage），助力企业构建高性能存储底座。天翼云HPFS支持全NVMe闪存和InfiniBand高速网络，并...阅读全文
本文分享自天翼云开发者社区《Redis缓存异常及解决方案》，作者：l****n本文向读者解释了Redis使用过程中，数据不一致、缓存雪崩、缓存击穿和缓存穿透等问题的定义，并给出对应的解决方案。1、数据不一致 一致指的是：缓存中有数据，那么，缓存的数据值需要和数据库中的值相同；缓存中本身没有数据，那么，数据库中的值必须是最新值。不一致如何发生：对于读写缓存来说，写缓存时同步写数据库，需要使用事务保证缓存和数据库的更新具有原子性。弱一致性情况下，可以使用异步写回。对于只读缓存，删改数据需要既更新数据库，又删除缓存。如果不使用事务，就会出现数据不一致。比如先更新数据库，再删除缓存。更新成功，删除缓存失败，则缓存中为旧值。如果先删除缓存再更新数据库，则缓存删除成功，数据库更新失败，再访问数据库，数据...阅读全文
近日，天翼云联合权威科技媒体InfoQ举办了以“新存储，更轻量”为主题的线上技术分享会。天翼云存储产品线总监武志民讲解了HBlock的创新设计和技术。高性能·高可用·高可靠自研创新解决存储技术难题天翼云自主研发的业内首款存储资源盘活系统HBlock能够与底层基础设施完全解耦，同服务器上现网业务并存，将x86、ARM、龙芯等异构通用服务器中的存储资源统一管理，通过标准的iSCSI协议提供分布式块存储服务。在性能方面，HBlock单卷IOPS可达15万次、读写延迟小于200微秒，这要归功于自研的分布式多控架构和智能调度算法，以及多模式写缓存与读缓存的设计。写缓存方面，HBlock具有三种模式，可以根据不同场景的读写需求动态调整。读缓存方面，HBlock采用按需更新、分段加锁、高效淘汰算法和智能预...阅读全文
之前文章提到过Kafka的broker端有ISR机制，它可以看成多个副本的集合，里面有leader副本和多个follower副本，数量是我们可以配置的，只有ISR中的副本才有可能成为leader副本。 我们可以通过一些参数的配置，例如ack的配置、生产者重试、isr最小数量，消费者改为手动提交等方式来尽可能的保障Kafka的消息可靠性。 Kafka在保证数据的可靠性上使用的是‘数据冗余’的方式，即将一个分区下的数据保存到多个副本中，起到备份数据的作用。这样如果leader挂了，会重新选举follower作为leader继续工作，那么Kafka中leader副本是如何将数据同步到follower副本中的呢？今天想通过这篇文章总结记录下。 1.副本中的高水位（High Watermark） 什么...阅读全文
在2024年的AI领域，Meta发布的Llama 3.1模型无疑成为了研究者和开发者的新宠。我有幸通过魔乐社区提供的资源，对这一模型进行了深入的学习和实践。在这个过程中，魔乐社区的资源和支持给我留下了深刻的印象。环境准备的便捷性魔乐社区提供的实践指导非常详尽，从安装Ascend CANN Toolkit和Kernels到openMind Library以及openMind Hub Client的安装，每一步都有清晰的命令和说明。这大大简化了环境搭建的过程，即使是对于新手来说，也能够快速上手。模型下载与推理的直观体验通过魔乐社区提供的链接，用户能够轻松下载Llama 3.1模型，并使用openMind Library和LLaMa Factory进行模型推理。实践指导中的示例代码和配置文件非常...阅读全文
本文分享自天翼云开发者社区《小谈容灾备份》，作者：胡****静一.容灾分类从其对系统的保护程度来分,可以将容灾系统分为：数据容灾和应用容灾 1.数据容灾数据容灾，指建立一个异地的数据系统，该系统是本地关键应用数据的一个可用复制。在本地数据及整个应用系统出现灾难时，系统至少在异地保存有一份可用的关键业务的数据。该数据可以是与本地生产数据的完全实时复制，也可以比本地数据略微落后，但一定是可用的。采用的主要技术是数据备份和数据复制技术。数据容灾技术，又称为异地数据复制技术，按照其实现的技术方式来说，主要可以分为同步传输方式和异步传输方式(各厂商在技术用语上可能有所不同)，另外，也有如“半同步”这样的方式。半同步传输方式基本与同步传输方式相同，只是在Read占I/O比重比较大时，相对同步传输方式，可...阅读全文
本文分享自天翼云开发者社区《CRISP-DM的应用与理解》，作者：吴****嫄CRISP-DM是一个数据挖掘项目规划的开放标准流程框架模型，主要分为业务理解、数据理解、数据准备、建模、评估、部署六个阶段。业务理解从业务的角度理解项目的目标和需求，将业务的目的转换为一个数据挖掘的问题，制定一个初步的实现计划计划。商业理解是明确要达到的业务目标，并将其转化为数据挖掘主题。要从商业角度对业务部门的需求进行理解，并把业务需求的理解转化为数据挖掘的定义，拟定达成业务目标的初步方案。具包括商业背景分析、商业成功标准的确定、形势评估、获得企业资源清单、获得企业的要求和想、评估成本和收益、评估风险和意外、初步理解行业术语，并确定数据挖掘的目标和制定数挖掘计划。在整个CRISP-DM的过程当中，围绕数据为核心...阅读全文
本文分享自天翼云开发者社区《云灾备：云时代的数据安全》，作者：l****n灾备（DR），在信息化的IT系统中，指的是容灾与备份结合，利用IT技术对企业数据、业务高可用进行保护，确保系统遭受灾难时数据安全、业务快速恢复。其作为“网络安全的最后一公里”，是网络安全保障体系的重要组成部分，也是网络与系统基础设施持续有效运行的基本保障。对于各行各业而言，数据是最核心、最重要的财富。但是火灾、地震、黑客攻击、人为失误等时刻威胁数据和信息系统的稳定运行。一、容灾的分类从其对系统的保护程度来分，可以将容灾系统分为：数据容灾和应用容灾，数据容灾就是指建立一个异地的数据系统，该系统是本地关键应用数据的一个实时复制。应用容灾是在数据容灾的基础上，在异地建立一套完整的与本地生产系统相当的备份应用系统（可以是互为备...阅读全文
我使用的安装文件是 flink-1.9.3-bin-scala_2.12.tgz ，以下内容均以此版本进行说明。 说明 搭建集群首先要进行集群的规划【哪台做主节点，哪些做从节点】，这里简单搭建一个 3 节点的 Flink Standalone 集群，其中三台主机Flink01、Flink02、Flink03 均为 worker 节点，Flink01 为 master 节点。 1. 配置免密登录【每台服务器】 Flink 组件之间需要基于 SSH 进行通讯。 1.1 配置映射 配置 ip 地址和主机名映射：==很关键==通过ifconfig查询本机的ip地址，这个地方没有配置正确的话节点会有问题。 vim /etc/hosts xxx.xx.x.x flink01 flink01 xxx.xx...阅读全文
DataLeap 字节跳动数据流的业务背景 数据流处理的主要是埋点日志。埋点，也叫Event Tracking，是数据和业务之间的桥梁，是数据分析、推荐、运营的基石. 用户在使用App、小程序、Web等各种线上应用时产生的行为，主要通过埋点的形式进行采集上报，按不同的来源分为客户端埋点、Web端埋点、服务端埋点。 不同来源的埋点都通过数据流的日志采集服务接收到MQ，然后经过一系列的Flink实时ETL对埋点进行数据标准化、数据清洗、实时风控反作弊等处理，最终分发到下游，主要的下游包括ABTest、推荐、行为分析系统、实时数仓、离线数仓。 所以，如果用一句话来概括数据流主要业务，其实就是埋点的收集、清洗、分发。 目前在字节跳动，清洗和分发环节是基于Flink搭建的。 01 - 数据流业务规模 ...阅读全文
React面试宝典 React 是靠数据驱动视图改变的一种框架，它的核心驱动方法就是用其提供的 setState 方法设置 state 中的数据从而驱动存放在内存中的虚拟 DOM 树的更新。 更新方法就是通过 React 的 Diff 算法比较旧虚拟 DOM 树和新虚拟 DOM 树之间的 Change ，然后批处理这些改变。 React 性能优化的手段 React 中进行性能优化的手段可以从多个维度进行分类，以下是一些关键类别及其对应的优化策略： 1. 组件优化 使用PureComponent或React.memo：对于仅根据props和state改变才重新渲染的组件，使用React.PureComponent或者对其包装一层React.memo，它们都能通过浅比较props来避免不必要的重...阅读全文
近日，由天翼云数据库团队、中国电信云计算研究院和深圳北理莫斯科大学合作完成的《Taste: Towards Practical Deep Learning-based Approaches for Semantic Type Detection in the Cloud》（构建云上基于深度学习的大规模语义类型识别系统）论文被28th International Conference on Extending Database Technology（EDBT）长文收录。EDBT是数据库领域的知名国际会议，也是中国计算机学会CCF推荐的重点学术会议，已连续举办27届。此次天翼云数据库产品线所著论文被EDBT收录，代表着天翼云的科技创新能力再次获得数据库工业界和学术界的权威认可。该论文专注于数据...阅读全文
