架构案例:从初创互联网公司到分布式存储与反应式编程框架的架构设计

news2025/5/11 14:14:35

文章目录

  • 引言
  • 一、初创互联网公司架构演化案例
    • 1. 万级日订单级别架构
    • 2. 十万级日订单级别架构
    • 3. 百万级日订单级别架构
  • 二、分布式存储系统 Doris 架构案例
  • 三、反应式编程框架架构案例
  • 总结

在这里插入图片描述

引言

分布式架构

今天我们将探讨三种不同类型的架构案例,分别探讨

  • 一个初创互联网公司如何从简单架构发展到百万级订单的架构演化
  • 一个分布式存储系统(Doris)的架构设计
  • 一个反应式编程框架的架构设计

这三类架构代表了不同领域和技术背景下的架构设计,分别考验着架构师在不同场景下的技术能力和架构思维。


一、初创互联网公司架构演化案例

1. 万级日订单级别架构

在初创互联网公司开始时,系统架构较为简单。系统主要包括前端(移动端应用)通过负载均衡访问 Web 服务器集群,前端服务器再将请求分发到应用服务器集群。每个应用服务器集群(买家系统、卖家系统、供应链系统和运营系统)连接到一台 MySQL 服务器。当订单量达到万级时,架构仍能承受高负载,但随着交易活跃度的增加,系统开始暴露出性能瓶颈。

在这里插入图片描述


2. 十万级日订单级别架构

随着订单量的增加,系统架构经历了一次重构。引入了 CDN 服务来加速静态资源的加载,使用分布式文件系统管理商品图片,提高了访问效率。同时,添加了 Redis 集群用于缓存,优化了数据存取速度。数据库也进行了主从分离,读写分离和数据分析分离,以减轻数据库压力。大数据平台通过 Kafka 消息队列与 MySQL 数据库进行数据同步,支撑着更复杂的统计分析与运营需求。

在这里插入图片描述


3. 百万级日订单级别架构

当订单量突破百万级时,主要的挑战来自于复杂的业务和庞大的数据存储需求。为了解决这些问题,系统进行了微服务化重构,把一些独立的业务模块拆分成单独的服务,进行分布式部署,这大大简化了功能扩展与维护。数据库的冷热分离进一步提升了性能,将已完成的订单数据迁移到 MongoDB 中,减轻 MySQL 的存储压力。微服务架构不仅提升了系统的可扩展性,还提升了团队开发效率。

在这里插入图片描述

微服务拆分

一方面是做了一个微服务方面的重构拆分,将可复用的一些业务拆分为独立的微服务,进行分布式部署,供应用系统调用,典型的就是用户服务、商品服务、订单服务、红包服务等。以前红包作为一个功能,在各个应用系统中可能都有涉及,买家需要使用红包,卖家要发放红包,而运营系统也可能发放系统级的红包,而这些红包的功能在各个子系统都有存在,所以对红包功能进行维护修改的时候,可能在很多个系统都要进行相关的代码变更和维护。产品经理需要跟几个系统开发团队进行合作,开发一个功能一不小心就可能会产生Bug。

重构以后,红包服务作为一个独立的功能,独立部署,其他的所有系统都通过远程调用的方式访问红包服务。红包的发放使用,以及红包的各种记录都通过红包服务进行管理,其他的应用只需要调用服务接口就可以了。如果要修改红包服务相关的功能,进行业务变更,那么大多数情况下只需要修改红包服务就可以。这样使业务系统开发变得更加的简单,因为红包功能相对比较集中,也更容易实施和落地。

数据库冷热分离

另一方面是,对数据库在原来的主从分离的基础上又做了一次冷热分离。因为我们刚才提到经过主从分离后的数据库,读写访问压力已经可以接受,这时候,主要压力来自于订单的持续不断增长和数据表记录的不断扩展,带来的存储方面的压力。而订单的一个特点是当订单已经完成,订单状态被关闭以后,订单就是只读的。这个时候只需要能够对订单提供查询、读服务就可以了,无需为它提供事务性写操作,那么我们就可以从比较宝贵的 MySQL 数据库资源中,把这些已经关闭了的订单分离出来,存储到更容易进行分步式存储的其他的 NoSQL 系统上。

可以选择MongoDB 作为订单数据的冷存储。每天夜里运行批处理任务,执行一个冷订单备份的迁移操作,将已经关闭一个月以上的订单数据,从 MySQL 数据库中迁移到了 MongoDB 中。而订单服务在进行订单操作的时候,所有的写操作依然访问 MySQL 数据库。对于读操作,如果要是查询一个月以内的订单,也还是访问 MySQL 从数据库,而如果是需要查询一个月以上的订单,那么就访问 MongoDB 数据库就好了。

通过这样一个冷热分离来设计数据库,只存储最近一个月的数据,存储访问的压力、数据存储的压力大大的减轻。


二、分布式存储系统 Doris 架构案例

Doris 是一个高性能的分布式存储系统,其设计目标主要包括高可用、线性伸缩、高性能以及低运维成本。

在这里插入图片描述

Doris 的架构包括三个主要部分:

  • 客户端(KV Client):应用程序通过 Doris SDK 进行数据的读写操作。客户端连接到集群的控制中心,获取配置信息,并根据路由算法将数据请求发送到具体的存储节点。

  • 控制中心(Administration):负责集群的故障管理和扩容管理,确保系统的高可用性。

  • 数据存储(Data Server):Doris 的数据存储采用分片存储,并通过一致性哈希和虚拟节点结合的路由算法来实现数据均匀分布。在扩容时,只需要调整虚拟节点和物理节点之间的映射关系,大大降低了集群扩容的复杂性。

Doris 提供高可用性和故障容错机制。在集群发生故障时,Doris 会自动进行故障转移,保证数据的高可用性。对于临时失效(如硬件故障或程序升级),系统仍然可以保证数据的多份写入,确保数据的完整性。在永久性失效的情况下,Doris 会通过恢复正常服务器中的数据来替代失效节点,保证系统的稳定运行。


三、反应式编程框架架构案例

在这里插入图片描述

Flower 是一个基于 Akka 构建的反应式编程框架,它支持开发者使用传统的命令式编程方式构建反应式系统。Flower 具备四个主要特性:

  • 即时响应:系统可以即时响应用户请求,不会阻塞线程。
  • 回弹性:系统能够自我修复,当部分功能失效时,系统仍能正常运行。
  • 弹性:系统根据负载自动伸缩,适应不同的请求压力。
  • 消息驱动:服务之间通过异步消息进行驱动,避免了阻塞式的同步调用。
    在这里插入图片描述

Flower 的设计目标是使开发者能够更容易地创建反应式系统,而无需深入了解反应式编程的细节。与传统的阻塞式编程不同,Flower 使用有限数量的线程处理大量并发请求,极大提高了吞吐量和响应时间。Flower 的服务之间通过异步消息传递,利用 Akka 的 Actor 模型来实现非阻塞的消息处理。异步数据库驱动让数据库操作不会阻塞线程,进一步提高了系统的效率。

在高并发情况下,Flower 能够通过少量的线程处理大量的用户请求,避免了传统阻塞式编程中因线程资源耗尽导致的性能瓶颈。通过这种设计,Flower 能够显著提升系统的吞吐量和响应能力,适应更高的业务需求。


总结

通过这三个架构案例,我们可以看到架构设计如何随着业务的增长和需求的变化而不断演化:

  1. 互联网应用架构的演化:从简单的单一系统架构到复杂的微服务架构和分布式数据库设计,架构的变化反映了业务的成长和技术的不断创新。
  2. 分布式存储系统设计:通过合理的分区算法和高可用设计,Doris 展示了如何构建一个既高效又易于扩展的分布式存储系统。
  3. 反应式编程框架设计:Flower 提供了一个易于使用的反应式编程框架,帮助开发者构建非阻塞、高吞吐量的系统。

这三个案例从不同角度展现了架构设计的复杂性与灵活性,同时也为架构师提供了多样的架构设计思路。在日常工作中,架构师需要灵活应对不同的需求与挑战,设计出既能满足当前业务需求,又具备良好扩展性的架构。

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2308684.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

神经网络之CNN图像识别(torch api 调用)

1.简介 CNN 是受生物学上感受野机制启发而提出的。它通过卷积操作自动提取数据中的特征,避免了传统机器学习方法中复杂的特征工程过程,能够自动学习到数据中的有效特征,从而进行分类、识别等任务。 2.结构 2.1卷积: 假设你有一…

使用Truffle、Ganache、MetaMask、Vue+Web3完成的一个简单区块链项目

文章目录 概要初始化Truffle项目创建编写合约编译合约配置Ganache修改truffle-config.js文件编写迁移文件部署合约使用Truffle 控制台使用MetaMask和VueWeb3与链交互 概要 使用Truffle、Ganache、MetaMask、VueWeb3完成的一个简单区块链项目。 初始化Truffle项目 安装好truf…

学生管理前端

文章目录 首页student.html查询功能 首页 SpringBoot前端html页面放在static文件夹下:/src/main/resources/static 默认首页为index.html,我们可以用两个超链接或者两个button跳转到对应的页面。这里只是单纯的跳转页面,不需要提交表单等其…

DeepSeek 助力 Vue3 开发:打造丝滑的网格布局(Grid Layout)

前言:哈喽,大家好,今天给大家分享一篇文章!并提供具体代码帮助大家深入理解,彻底掌握!创作不易,如果能帮助到大家或者给大家一些灵感和启发,欢迎收藏关注哦 💕 目录 Deep…

lvgl运行机制分析

lv_timer_handler() 是 LVGL 的“心脏”:这个函数会依次做以下事情: 处理定时器(如动画、延迟回调)。 读取输入设备(如触摸屏、按键的状态)。 刷新脏区域(仅重绘屏幕上发生变化的区域&#xf…

8 SpringBoot进阶(上):AOP(面向切面编程技术)、AOP案例之统一操作日志

文章目录 前言1. AOP基础1.1 AOP概述: 什么是AOP?1.2 AOP快速入门1.3 Spring AOP核心中的相关术语(面试)2. AOP进阶2.1 通知类型2.1.1 @Around:环绕通知,此注解标注的通知方法在目标方法前、后都被执行(通知的代码在业务方法之前和之后都有)2.1.2 @Before:前置通知,此…

day01_Java基础

文章目录 day01_Java基础一、今日课程内容二、Java语言概述(了解)1、Java语言概述2、为什么要学习Java语言3、Java平台版本说明4、Java特点 三、Java环境搭建(操作)1、JDK和JRE的概述2、JDK的下载和安装3、IDEA的安装4、IDEA的启动…

cursor 弹出在签出前,请清理仓库工作树 窗口

问题出现的背景:是因为我有两台电脑开发,提交后,另一个电脑的代码是旧的,这个时候我想拉取最新的代码,就会出现如下弹窗,因为这个代码暂存区有记录或者工作区有代码的修改,所以有冲突&#xff0…

详解直方图均衡化

直方图均衡化(Histogram Equalization) 是图像处理中一种常用的对比度增强技术,通过调整图像的灰度分布,使得图像的直方图尽可能均匀分布,从而提高图像的对比度和细节表现。以下是直方图均衡化的原理详解: …

Kibana:Spotify Wrapped 第二部分:深入挖掘数据

作者:来自 Elastic Philipp Kahr 我们将比以往更深入地探究你的 Spotify 数据并探索你甚至不知道存在的联系。 在由 Iulia Feroli 撰写的本系列的第一部分中,我们讨论了如何获取 Spotify Wrapped 数据并在 Kibana 中对其进行可视化。在第 2 部分中&#…

C++—类与对象(中)

目录 1、类的6个默认成员函数 2、构造函数 构造函数的特性 3、初始化列表 4、析构函数 概念 5、拷贝构造函数 6、运算符重载 7、赋值运算符重载 赋值运算符重载格式 8、前置和后置重载 9、const修饰的成员 10、取地址及const取地址重载 1、类的6个默认成员函数 一…

MySQL 事务笔记

MySQL 事务笔记 目录 事务简介事务操作事务四大特性并发事务问题事务隔离级别总结 事务简介 事务(Transaction)是数据库操作的逻辑单元,由一组不可分割的SQL操作组成。主要用于保证: 多个操作的原子性(要么全部成功…

网络空间安全(7)攻防环境搭建

一、搭建前的准备 硬件资源:至少需要两台计算机,一台作为攻击机,用于执行攻击操作;另一台作为靶机,作为被攻击的目标。 软件资源: 操作系统:如Windows、Linux等,用于安装在攻击机和…

HarmonyOS学习第11天:布局秘籍RelativeLayout进阶之路

布局基础:RelativeLayout 初印象 在 HarmonyOS 的界面开发中,布局是构建用户界面的关键环节,它决定了各个组件在屏幕上的位置和排列方式。而 RelativeLayout(相对布局)则是其中一种功能强大且灵活的布局方式&#xff0…

【2025年2月28日稳定版】小米路由器4C刷机Immortalwrt 23.05.4系统搭载mentohust 0.3.1插件全记录

小米路由器4C刷机Immortalwrt系统搭载mentohust插件全记录 首先将路由器按住后面的reset,用一个针插进去然后等待5s左右,松开,即可重置路由器。 然后要用物理网线物理连接路由器Lan口和电脑,并将路由器WAN口连接至网口。确保电脑…

【SpringBoot+Vue】博客项目开发二:用户登录注册模块

后端用户模块开发 制定参数交互约束 当前,我们使用MybatisX工具快速生成的代码中,包含了一个实体类,这个类中包含我们数据表中的所有字段。 但因为有些字段,是不应该返回到前端的,比如用户密码,或者前端传…

idea + Docker + 阿里镜像服务打包部署

一、下载docker desktop软件 官网下载docker desktop,需要结合wsl使用 启动成功的画面(如果不是这个画面例如一直处理start或者是stop需要重新启动,不行就重启电脑) 打包成功的镜像在这里,如果频繁打包会导致磁盘空间被占满,需…

ubuntu 20.04 安装labelmg

1. 下载安装包 下载链接:下载链接 2. 安装启动 # 创建labelImg的环境 conda create -n labelImg# 激活labelImg环境 source activate labelImg安装依赖 pip install pyqt5-dev-tools -i https://pypi.tuna.tsinghua.edu.cn/simple/cd requirements/pip install -…

Redis版本的EOL策略与升级路径(刷到别划走)

各位看官,刷到就点进来,大数据已经抓到你喽~😊 前言 在软件行业做服务端开发的我们,多多少少都会接触到Redis,用它来缓存数据、实现分布式锁等,相关八股文烂熟于心,但是往往会忽略具…

ExpMoveFreeHandles函数分析和备用空闲表的关系

第一部分:ExpMoveFreeHandles和备用空闲表的关系 ULONG ExpMoveFreeHandles ( IN PHANDLE_TABLE HandleTable ) { ULONG OldValue, NewValue; ULONG Index, OldIndex, NewIndex, FreeSize; PHANDLE_TABLE_ENTRY Entry, FirstEntry; EXHAND…