LLM应用开发平台特训营（20周） 什么是大语言模型（LLM） 通过海量文本训练的、能识别人类语言、执行语言类任务、拥有大量参数的模型，称之为大语言模型。GPT、LLaMA、Mistral、BERT等都是LLM，LLM是对训练文本信息的压缩，同时拥有了泛化能力，不同于数据库和搜索引擎，LLM能创造性地生成历史上没有出现过的文本内容。 LLM能做什么 总体可以概括为：创作内容、处理和分析数据、自动化任务、智能客服 • 写作：写邮件、计划书、宣传文案、简单的故事等，可以模仿小红书风格、指定作家风格，尤其适合写长篇套话，但目前要写出完整且有趣的小说还比较难。 • 润色：提供大纲或已有文本，由LLM来扩写、改写，适用于洗稿、避免被查重等场景。 • 总结：提供会议记录、文章，由LLM自动总结要点和待办...阅读全文
本文分享自天翼云开发者社区《虚拟化技术简介》，作者：s****n在计算机科学中，虚拟化技术（Virtualization）是一种资源管理技术，将计算机的各种物理资源予以抽象、转换，然后呈现出来的一个可供分割并任意组合为一个或多个虚拟计算机的配置环境。虚拟化技术是云计算的基础，本文将简介虚拟化技术，同时介绍虚拟化技术在云计算中的重要作用。虚拟化技术的历史1959年，牛津大学的计算机教授Christopher提出并论述了虚拟化技术概念，从此拉开了虚拟化发展的帷幕。但受限于服务器架构局限，当时的虚拟化技术发展不足。1998年，VMware软件公司成立,并推出VMware Workstation和ESX Server等虚拟化产品,成为行业领导者。目前主流商业虚拟化产品有VMware、Virtual ...阅读全文
近日，天翼云联合权威科技媒体InfoQ举办了以“新存储，更轻量”为主题的线上技术分享会。天翼云存储产品线总监武志民讲解了HBlock的创新设计和技术。高性能·高可用·高可靠自研创新解决存储技术难题天翼云自主研发的业内首款存储资源盘活系统HBlock能够与底层基础设施完全解耦，同服务器上现网业务并存，将x86、ARM、龙芯等异构通用服务器中的存储资源统一管理，通过标准的iSCSI协议提供分布式块存储服务。在性能方面，HBlock单卷IOPS可达15万次、读写延迟小于200微秒，这要归功于自研的分布式多控架构和智能调度算法，以及多模式写缓存与读缓存的设计。写缓存方面，HBlock具有三种模式，可以根据不同场景的读写需求动态调整。读缓存方面，HBlock采用按需更新、分段加锁、高效淘汰算法和智能预...阅读全文
本文分享自天翼云开发者社区《GPU虚拟化技术简介：实现高性能图形处理的灵活部署》，作者：z****nGPU虚拟化技术是一项重要的创新，通过将物理GPU划分为多个虚拟GPU，实现多用户共享和独立运行图形处理任务的能力。本文介绍了GPU虚拟化技术的基本原理、应用场景和优势。该技术在云计算、虚拟桌面基础设施和科学研究等领域具有广泛应用。GPU虚拟化技术提高了资源利用率、性能和灵活性，同时保证了系统的安全隔离。随着技术的不断进步，GPU虚拟化技术将进一步改善，为用户提供更高效、便捷的图形处理体验。GPU虚拟化技术的基本原理 GPU虚拟化技术通过软件或硬件的方式将物理GPU划分为多个虚拟GPU，每个虚拟GPU被分配给一个独立的用户或虚拟机。虚拟化管理软件负责对GPU资源进行调度和分配，确保每个用户或虚...阅读全文
本文分享自天翼云开发者社区《私有云服务器虚拟化超分比及资源扩容管理》，作者：7****m服务器虚拟化技术已商用多年，并已成为云计算产业发展的基石。私有云用户更是非常关注服务器虚拟化的超分比，因为直接影响到用户可用的虚机资源量。超分比技术介绍：服务器虚拟化超分比，就是控制宿主机最大开出的vcpu资源数，当设置的超分比高时，可开出的最大vCPU资源就多。真正影响虚机性能的还是物理CPU的利用率，即物理CPU低并发没什么影响，高并发下超分比过高会增加CPU调度产生的性能损耗。举例，资源池物理资源总核数为100核，无论是3倍还是4倍的超分比，当已开出的虚机vCPU小于100核时，云主机独立占用CPU的时间片，性能和独享CPU性能基本一致。当开出的虚机vCPU是300核在运行时，无论是3倍还是4倍的超...阅读全文
【完结14章】MQ大牛成长课--从0到1手写分布式消息队列中间件 消息中间件是一种用于构建分布式系统的软件基础设施，提供了一种异步的，可靠的，可伸缩的消息传递机制。 提高系统性能首先考虑的是数据库的优化，但是数据库因为历史原因，横向扩展是一件非常复杂的工程，所有我们一般会尽量把流量都挡在数据库之前。 不管是无限的横向扩展服务器，还是纵向阻隔到达数据库的流量，都是这个思路。阻隔直达数据库的流量，缓存组件和消息组件是两大杀器。 什么是消息队列 消息队列（Message queue，简称MQ），是指利用高效可靠的消息传递机制进行与平台无关的数据交流，并基于数据通信来进行分布式系统的集成。从字面理解就是一个保存消息的一个容器。 常见的消息队列 当前使用较多的消息队列有RabbitMQ、RocketM...阅读全文
本文分享自天翼云开发者社区《云电脑架构设计的层次》，作者：3****m一、基础设施层基础设施层是云电脑架构的最底层，负责提供计算、存储、网络等基础设施。这些基础设施可以由多个服务器组成，通过虚拟化技术进行资源池化，实现资源的动态分配和共享。基础设施层需要提供足够的计算、存储和网络资源，以满足虚拟化层和应用层的资源需求。同时，基础设施层还需要具备高可用性、可扩展性和安全性等特点，以满足用户的需求和保障数据安全。二、虚拟化层虚拟化层是云电脑架构的核心层，负责将硬件资源虚拟化成多个虚拟机。每个虚拟机都拥有独立的操作系统和应用程序，可以独立运行。虚拟化层还可以实现虚拟机的动态迁移和容错处理。通过虚拟化技术，虚拟化层可以实现对计算资源的动态分配和共享，提高计算机的处理能力和资源利用率。同时，虚拟化层还...阅读全文
本文分享自天翼云开发者社区《云电脑架构设计的层次》，作者：3****m 一、基础设施层 基础设施层是云电脑架构的最底层，负责提供计算、存储、网络等基础设施。这些基础设施可以由多个服务器组成，通过虚拟化技术进行资源池化，实现资源的动态分配和共享。基础设施层需要提供足够的计算、存储和网络资源，以满足虚拟化层和应用层的资源需求。同时，基础设施层还需要具备高可用性、可扩展性和安全性等特点，以满足用户的需求和保障数据安全。 二、虚拟化层 虚拟化层是云电脑架构的核心层，负责将硬件资源虚拟化成多个虚拟机。每个虚拟机都拥有独立的操作系统和应用程序，可以独立运行。虚拟化层还可以实现虚拟机的动态迁移和容错处理。通过虚拟化技术，虚拟化层可以实现对计算资源的动态分配和共享，提高计算机的处理能力和资源利用率。同时，虚...阅读全文
