使用 Tonic 构建高性能异步 gRPC 服务

news2026/4/27 0:33:27
使用 Tonic 构建高性能异步 gRPC 服务在分布式系统开发中gRPC 作为 Google 开源的高性能 RPC 框架凭借 Protobuf 二进制序列化的高效性和 HTTP/2 传输的优势成为服务间通信的首选方案。而在 Rust 生态中Tonic 框架以其原生异步支持、类型安全、高性能的特性成为实现 gRPC 服务的最优选择之一。本文将从 Tonic 基础入手带你从零搭建 gRPC 服务与客户端。搭建 Tonic 开发环境安装 Protobuf 编译器Tonic 依赖 Protobuf 编译器来解析.proto文件并生成 Rust 代码不同系统的安装方式如下# LinuxUbuntu/Debiansudoapt-getinstallprotobuf-compiler# macOSbrewinstallprotobuf# Windowswingetinstall-e--idGoogle.Protobuf安装完成后执行protoc --version验证是否成功。创建项目并配置依赖接下来创建一个包含服务端和客户端的 Rust 项目模拟真实的服务通信场景cargonew tonic-democdtonic-demo修改Cargo.toml添加核心依赖和构建依赖# 二进制目标服务端和客户端 [[bin]] name server path src/server.rs [[bin]] name client path src/client.rs [dependencies] tokio { version 1, features [full] } # tokio 的流式处理需要用到 tokio-stream { version 0.1, features [full] } tonic 0.14 tonic-prost 0.14 prost 0.14 prost-types 0.14 anyhow 1.0 chrono 0.4 [build-dependencies] tonic-prost-build 0.14 anyhow 1.0创建build.rs文件用于配置 Protobuf 编译规则告诉 Tonic 在构建时自动生成代码useanyhow::Result;fnmain()-Result(){println!(cargo:rerun-if-changedbuild.rs);println!(cargo:rerun-if-changedproto/chat.proto);// 编译 proto 目录下的所有 .proto 文件tonic_prost_build::compile_protos(proto/chat.proto)?;Ok(())}入门案例实现一个双向流式聊天服务gRPC 支持四种服务方法一元 RPC单次请求-响应、服务端流式、客户端流式、双向流式。其中双向流式适合实时聊天、即时数据推送等场景本文将基于 Tonic 实现一个简单的双向流式聊天服务完整覆盖 Protobuf 定义、服务端实现、客户端测试全流程。定义 Protobuf 接口gRPC 是接口定义优先的首先需要通过 Protobuf 定义服务接口和数据结构。在项目根目录创建proto文件夹新建chat.proto文件syntax proto3; package chat; // 包名用于生成 Rust 模块 // 定义聊天消息结构 message ChatMessage { string username 1; // 用户名 string content 2; // 消息内容 string timestamp 3; // 发送时间戳 } // 定义聊天服务接口 service ChatService { // 双向流式 RPC客户端和服务端可同时发送消息 rpc ChatStream (stream ChatMessage) returns (stream ChatMessage); }生成 Rust 代码执行cargo build命令Tonic 会根据build.rs的配置编译chat.proto并生成对应的 Rust 代码生成的代码位于target/debug/build/tonic-demo-*/out/chat.rs需要注意的是在使用时在代码中可通过tonic::include_proto!(chat)引入生成的模块。实现服务端逻辑服务端需要实现 Protobuf 定义的ChatService特征核心逻辑是接收客户端消息并将消息广播给所有连接的客户端。这里利用 Tokio 的广播通道实现消息分发新建src/server.rsusetokio::sync::Mutex;usetokio::sync::broadcast;usetokio::sync::mpsc;usetokio_stream::StreamExt;usetokio_stream::wrappers::BroadcastStream;usetokio_stream::wrappers::ReceiverStream;usetokio_stream::wrappers::errors::BroadcastStreamRecvError;usetonic::transport::Server;usetonic::{Request,Response,Status,Streaming};usecrate::chat::ChatMessage;usecrate::chat::chat_service_server::ChatService;usecrate::chat::chat_service_server::ChatServiceServer;// 引入生成的 Rust 代码pubmodchat{tonic::include_proto!(chat);}#[derive(Debug, Default)]pubstructChatServer{// 广播通道发送端用于向所有客户端广播消息// 用 Mutex 包裹实现异步环境的内部可变性broadcaster:MutexOptionbroadcast::SenderChatMessage,}#[tonic::async_trait]implChatServiceforChatServer{// 双向流式方法的实现返回值为 StreamItem ResultChatMessage, StatustypeChatStreamStreamReceiverStreamResultChatMessage,Status;asyncfnchat_stream(self,request:RequestStreamingChatMessage,)-ResultResponseSelf::ChatStreamStream,Status{// 获取客户端发送的消息流letmutstreamrequest.into_inner();// 初始化广播通道首次连接时创建letmutbroadcaster_lockself.broadcaster.lock().await;lettxmatch*broadcaster_lock{Some(sender)sender.clone(),None{// 首次连接创建广播通道并存储到服务端实例中let(sender,_)broadcast::channel(128);*broadcaster_lockSome(sender.clone());sender}};// 释放锁避免长时间占用drop(broadcaster_lock);// 当前客户端订阅广播通道letrxtx.subscribe();// 处理 broadcast 通道的 Lagged 错误消费者消息落后letbroadcast_streamBroadcastStream::new(rx).filter_map(|msg|matchmsg{Ok(msg)Some(Ok(msg)),Err(BroadcastStreamRecvError::Lagged(_)){eprintln!(客户端消息落后跳过旧消息);None}});// 创建客户端下行通道let(client_tx,client_rx)mpsc::channel(128);letresponse_streamReceiverStream::new(client_rx);// 监听客户端发送的消息广播给所有人tokio::spawn(asyncmove{whileletSome(result)stream.next().await{matchresult{Ok(msg){// 广播消息忽略发送错误无客户端时正常let_tx.send(msg);}Err(e){eprintln!(接收客户端消息失败: {},e);break;}}}eprintln!(客户端断开连接上行);});// 转发广播消息给当前客户端tokio::spawn(asyncmove{tokio::pin!(broadcast_stream);whileletSome(msg)broadcast_stream.next().await{ifclient_tx.send(msg).await.is_err(){// 客户端断开连接终止任务break;}}eprintln!(客户端断开连接下行);});// 返回流给客户端Ok(Response::new(response_stream))}}// 服务端入口函数#[tokio::main]asyncfnmain()-Result(),Boxdynstd::error::Error{// 绑定服务地址letaddr[::1]:50051.parse()?;// 创建服务实例letchat_serverChatServer::default();println!(Chat server running on {},addr);// 启动 gRPC 服务Server::builder().add_service(ChatServiceServer::new(chat_server)).serve(addr).await?;Ok(())}实现客户端逻辑客户端需要连接服务端同时执行两个操作读取用户输入并发送消息、监听服务端广播的消息并打印。新建src/client.rsuseanyhow::Result;usetokio::{io::{self,AsyncBufReadExt,AsyncWriteExt,BufReader},sync::mpsc,};usetokio_stream::{StreamExt,wrappers::ReceiverStream};usecrate::chat::{ChatMessage,chat_service_client::ChatServiceClient};// 引入生成的 Rust 代码pubmodchat{tonic::include_proto!(chat);}#[tokio::main]asyncfnmain()-Result(){// 连接服务端letmutclientChatServiceClient::connect(http://[::1]:50051).await?;println!(Connected to chat server);// 获取用户名println!(Enter your username: );io::stdout().flush().await?;letmutreaderBufReader::new(io::stdin());letmutusernameString::new();reader.read_line(mutusername).await?;letusernameusername.trim().to_string();// 创建消息发送通道let(tx,rx)mpsc::channel(128);letrequesttonic::Request::new(ReceiverStream::new(rx));// 发起双向流请求获取服务端响应流letmutresponse_streamclient.chat_stream(request).await?.into_inner();// 启动异步任务监听服务端消息并打印tokio::spawn(asyncmove{whileletSome(Ok(msg))response_stream.next().await{println!([{}] {}: {},msg.timestamp,msg.username,msg.content);}println!(Disconnected from server);});// 读取用户输入并发送消息letmutlinesreader.lines();whileletSome(line)lines.next_line().await?{ifline.eq_ignore_ascii_case(exit){println!(Exiting chat...);break;}// 构造聊天消息letmsgChatMessage{username:username.clone(),content:line,timestamp:chrono::Local::now().format(%H:%M:%S).to_string(),};// 发送消息到服务端iftx.send(msg).await.is_err(){println!(Failed to send message);break;}}Ok(())}测试服务分别启动服务端和客户端测试双向流式通信# 启动服务端cargorun--binserver# 新终端启动多个客户端cargorun--binclient输入用户名后即可发送消息所有连接的客户端都会实时收到广播消息实现简单的群聊功能。Tonic 进阶拦截器中间件拦截器类似于 Web 框架的中间件可在请求/响应处理前后执行自定义逻辑如认证、日志记录、指标收集等。下面实现一个简单的 Token 认证拦截器usetonic::service::InterceptorLayer;usetonic::{Request,Status};// 自定义认证拦截器#[derive(Debug, Clone, Copy)]pubstructAuthInterceptor;implInterceptorforAuthInterceptor{fncall(mutself,request:Request())-ResultRequest(),Status{// 从请求头中获取 Tokenlettokenrequest.metadata().get(authorization).and_then(|v|v.to_str().ok()).unwrap_or();// 简单验证 Token实际场景需结合密钥验证iftoken!Bearer tonic-demo-token{returnErr(Status::unauthenticated(Invalid or missing token));}Ok(request)}}usetonic::service::InterceptorLayer;// 服务端启动时添加拦截器Server::builder().layer(InterceptorLayer::new(AuthInterceptor)).add_service(ChatServiceServer::new(chat_server)).serve(addr).await?;客户端发送请求时需在请求头中添加 Tokenletmutrequesttonic::Request::new(ReceiverStream::new(rx));request.metadata_mut().insert(authorization,Bearer tonic-demo-token.parse()?);TLS 加密传输生产环境中服务间通信需要加密Tonic 基于 rustls 原生支持 TLS 加密。只需修改服务端和客户端的连接配置即可实现加密通信具体可参考 Tonic 官方示例。四种 gRPC 服务方法对比Tonic 完全支持 gRPC 的四种服务方法适用于不同场景方法类型描述适用场景一元 RPC客户端发送单次请求服务端返回单次响应简单查询、接口调用如用户登录服务端流式 RPC客户端发送单次请求服务端返回流式响应大数据量返回如日志查询、文件下载客户端流式 RPC客户端发送流式请求服务端返回单次响应大数据量上传如文件上传、批量数据提交双向流式 RPC客户端和服务端同时发送流式消息双向独立通信实时通信如聊天、实时监控、行情推送总结Tonic 作为 Rust 生态中成熟的 gRPC 框架凭借其异步原生、类型安全、高性能的优势极大地降低了 Rust 开发 gRPC 服务的门槛。如果你正在用 Rust 构建分布式服务Tonic 绝对值得你深入学习和实践。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2557817.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…