gRPC:在ASP.NET Core上的基本应用

gRPC是Google基于HTTP/2和protobuf推出的一款也是当下热门的开源RPC(Remote Procedure Call)框架。可在程序或者服务之间进行高性能低带宽的通信,并且支持身份认证、日志系统等等需要用到的功能。在微服务作为主流的时代,各个服务之间的通信也是一个亟需解决的问题。在ASP.NET Core 3.x下,gRPC也是微软传统RPC框架WCF的有效替代。

使用gRPC,可以让客户端像调用本地方法一样地去调用服务端中的方法。gRPC是一种合约优先的API开发模式,就是我们需要先具体地定义好方法和参数后,再进行服务端功能开发和客户端调用。并且客户端和服务端可以是使用不同语言开发的程序,通过gRPC,一旦我们在自己的服务中定义了proto文件,任何其他gRPC支持的语言开发的程序都可以来调用这个通信,通信中涉及到的环境、序列化等gRPC都帮我们完成了。默认情况下,gRPC是使用Protocol Buffers作为其接口定义语言(Interface Definition Language),就是用来定义通信中要用的方法和参数。Protocol Buffers不依赖特定的语言,根据不同需求,编译器就可以将其转换生成C#、Java、Python、Go等十几种语言供我们开发使用,并且在通信中数据是序列化成二进制流的,从而获得更好的传输性能。

本文接下来简单介绍Protocol Buffers和gRPC在.NET Core中的基本用法,主要参考为官方文档和各位大佬的教程(文末有链接)。本文Demo已上传至☞GitHub

那么先来简单介绍一下Protocol Buffers的语法。

Protocol Buffers 基本用法

○ 文件名后缀用 ".proto"
○ 别忘记在文首加上一句“syntax = "proto3",来指明使用的是proto3的语法(因为之前还有一个proto2)
○ 通过在proto文件中定义message类型来指明你想序列化传输的对象,可以类比成一个类其中包含你需要的多个字段。比如定义一个叫Person的message,其中包含3个字段。

1 message Person {
2   string name = 1;
3   int32 id = 2;
4   bool has_ponycopter = 3;
5 }

○ 简单介绍下Protocol Buffer中常用的数据类型
  § 数值:double, float, int32, int64, uint32, uint64, sint32, sint64, fixed32, fixed64, sfixed32, sfixed64
  § 字符串:string
  § 布尔:bool
  § 字节:bytes ,最大长度232
  § 枚举:enum
    □ 定义枚举的方法,另外支持使用别名,别名是用不同的名称表示同一个枚举值,如下面的EnumAllowingAlias.STARTED和EnumAllowingAlias.RUNNING表示的是同一个枚举值。

1 enum EnumAllowingAlias {
2     option allow_alias = true;  //表示可以使用别名
3     UNKNOWN = 0;     //枚举的编号是从0开始的
4     STARTED = 1;
5     RUNNING = 1;
6 }

○ 定义message时,注意到每个字段都加了一个“唯一标识”的编号,这些编号用来在message转成二进制形式后标识具体字段是啥,在投入使用后尽可能避免修改字段的编号。编号范围是1~229-1其中编号1~15的字段使用一个字节来编码,编号16~2047则使用两个字节。所以将使用频率高的字段用1~15来编号,另外19000~19999是Protocol Buffers的保留字段,最好别用。
○ 字段的规则分为两种,singular(proto3中默认)和repeated,定义字段时二选一
  § singular
    大概是表示为单值,这个字段的值最多一个,与repeated相对
  § repeated
    大概像是集合类型,比如定义一个字段如“repeated string emails”大概意思可理解为List<string> emails
○ 注释的写法和C#文件中注释的写法基本一致,用“//”或者“/* … */”
○ 保留字段。如果一个已投入使用的proto中移除了某些字段的话,而用户仍然使用这些字段编号就会造成一些较严重的错误。解决办法是将这些想移除的字段名或者字段编号使用reserved关键字修饰。使用了reserved标注的字段在未来使用时,protocol buffer编译器将会抛出错误。

1 message Foo {
2   reserved 2, 15, 9 to 11;
3   reserved "foo", "bar";
4 }

○ 当使用protocol buffer编译器将proto文件编译成C#语言,会自动生成.cs文件,其中为每个message编译成class。
○ 编译后的类型与C#中类型的对应关系

proto类型 double float int32 int64 string bool bytes enum
C#类型 double float int long string bool ByteString enum
默认值 0 0 0 0 string.Empty false 空字节数组 枚举中的第一个值

○ 定义完message后,可以将其打包供其他service或者message引用,那么在protocol buffer中打包和引用的方法也很简单
  § 打包语法:

package foo.bar;
message Open { ... } 

  § 指定生成自定义的C#命名空间的语法:

option csharp_namespace = "Foo.MyBar";

  § 引用其他proto文件中定义的message类型的语法:

import "myproject/other_protos.proto";

○ 有了message的定义,要在RPC中应用的话就需要定义“方法”,在protocol buffer中即是service。在.proto文件中定义service的语法是:

service SearchService {
  rpc Search (SearchRequest) returns (SearchResponse);
}

○ 其中service和rpc都是关键字,Search是“方法”名,SearchRequest与SearchResponse都是定义的message类型。
○ 定义好service后,proto编译器就会将service使用我们选择的语言编译成的服务接口的代码。
○ Protocol buffers的一些其他关键字如any,oneof等暂时没用上,就先不列出了,可参考官方文档

gRPC Demo实践

IDE使用的VS2019,首先使用ASP.NET Core建立一个gRPC的服务端,使用一个WPF程序作为客户端实现最基本的gRPC通信Demo,以一个员工信息的增查为例来演示gRPC中的常用场景。
gRPC 通常有四种模式的通信,分别是“一元(unary)”,“客户端流(client streaming)”,“服务端流(server streaming)” 以及“双向流模式( bidirectional streaming)”,对于 HTTP 2 来说其实都是用流的模式,以下实验是参考杨旭大佬的教程

首先创建gRPC服务端,新建一个空白的ASP.NET Core Web应用程序命名为gRPC.Server。用NuGet安装“Grpc.AspNetCore”。新建一个Protos文件夹来存放.proto文件,新建一个名为Message.proto的文件来定义通信过程中需要的message。

 1 syntax = "proto3";    //给编译器指明语法为proto3
 2 
 3 //员工
 4 message Employee{
 5     int32 Id = 1;                //Id
 6     string Name = 2;                //姓名
 7     int32 EmployeeNo = 3;        //工号
 8     Gender Gender = 4;            //性别
 9     Date BirthDay = 5;            //生日
10     string Department = 6;        //部门
11     bool IsValid = 7;            //有效性
12     bytes Photo = 8;            //照片
13 }
14 //性别(枚举)
15 enum Gender{
16     NOT_SPESIFICED = 0;
17     FEMALE = 1;
18     MALE = 2;
19 }
20 //日期
21 message Date{
22     int32 Year = 1;
23     int32 Month = 2;
24     int32 Day = 3;
25 }
26 
27 //Service 用的参数:
28 //根据Id查询员工信息
29 message GetEmployeeByIdRequest{    
30     int32 Id = 1;
31 }
32 //上传的员工信息请求
33 message EmployeeRequest{
34     Employee Employee = 1;
35 }
36 //返回员工信息
37 message EmployeeResponse{
38     Employee Employee = 1;
39 }
40 //根据条件查询员工
41 message GetEmployeeCollectionRequest{
42     string SearchTerm = 1;
43     bool IsValid = 2;
44 }
45 //返回员工信息集合
46 message GetEmployeeCollectionReponse{
47     Employee Employee = 1;
48 }
49 //上传员工照片
50 message AddPhotoRequest{
51     bytes Photo = 1;
52 }
53 //上传员工照片响应
54 message AddPhotoReponse{
55     bool IsOK = 1;
56 }
message.proto

 接着新建定义service的proto文件,其中定义了5个方法,包括了gRPC的四种通行模式。

 1 syntax = "proto3";
 2 import "Message.proto";
 3 
 4 service EmployeeService{
 5     //根据ID获取员工(一元消息)
 6     rpc GetEmployeeById(GetEmployeeByIdRequest) returns (EmployeeResponse);
 7     //上传员工信息(一元消息)
 8     rpc SaveEmployee(EmployeeRequest) returns (EmployeeResponse);
 9     //根据条件获取全部员工(服务端流)
10     rpc GetEmployeeCollection(GetEmployeeCollectionRequest) returns (stream GetEmployeeCollectionReponse);
11     //员工上传照片(客户端流)
12     rpc AddPhoto(stream AddPhotoRequest) returns (AddPhotoReponse);
13     //(双向流)
14     rpc SaveEmployees(stream EmployeeRequest) returns (stream EmployeeResponse);
15 }

定义好proto文件之后便可以在VS中编译项目,在编译前,需要为两个proto文件配置好属性。在message.proto上右键属性,build action选择protobuf compiler,gRPC Stub Classes选择“Do not generate”。类似的对Service.proto文件build action选择protobuf compiler,gRPC Stub Classes选择“Server only”。

编译好之后可以发现编译器帮我们生成了两个同名的cs文件,包含生成了一个 EmployeeServiceBase 类。将我们使用Protocol Buffer定义的message和service生成相应的class和method。此时,在服务端的通信接口相当于就已经定义好了。客户端若需要与之通信就需要通过这个接口的定义来发送请求。接下来新建一个客户端程序(本文这里选用了一个WPF程序),在NuGet上添加需要用到的三个包,分别是“Google.Protobuf”,“Grpc.Tools”,“Grpc.Net.Client”。接下来通过强大的VS可以快速获得服务端定义的接口信息。在项目上右键,选择“添加”→选择“服务引用”→选择“添加新的gRPC引用”,可以选择在服务端定义好的两个proto文件,在选择文件界面的下方的选项将message.proto选择生成为“仅限消息”,service.proto选择生成为“客户端”便完成了添加操作,这时客户端项目中会多出一个Protos文件夹,刚刚添加的两个文件也在其中。编译后编译器依然会为我们生成两个同名的cs文件,包含生成了一个 EmployeeServiceClient 类。

在定义好了通信接口之后,只需要在客户端和服务端实现具体的接口业务便可以完成通信了。

(1)Simple RPC

首先看下最简单的调用方式即一元模式,该演示用的方法 GetEmployeeById 从客户端获取单个参数并返回相应的员工信息,为了简单起见这里的数据就不涉及数据库操作了使用一个静态的 List<Employee> 。

由于已经定好了通信的接口,服务端只需实现服务端定义的接口方法即可,创建一个Service类来继承从Service.proto生成的 EmployeeServiceBase 类型,命名为 GrpcEmployeeService ,我们通过override EmployeeServiceBase 中的抽象方法来实现具体业务逻辑。编译器生成的方法签名除了我们在proto文件中定义的请求参数类型 GetEmployeeByIdRequest 外,另外还有一个 ServerCallContext 类型的上下文参数,通过它便可以操作通信过程中的Header和HttpStatus等。

 1 public class GrpcEmployeeService : EmployeeService.EmployeeServiceBase  //继承
 2 {
 3     /// <summary>
 4     /// 一元操作演示 —— 根据id获取员工数据
 5     /// </summary>
 6     /// <param name="request"></param>
 7     /// <param name="context"></param>
 8     /// <returns></returns>
 9     public override async Task<EmployeeResponse> GetEmployeeById(GetEmployeeByIdRequest request,
10         ServerCallContext context)
11     {
12         //读取请求头中的元数据(应用层自定义的 key-value 对)
13         var metaDataIdHeaders = context.RequestHeaders;
14         foreach (var data in metaDataIdHeaders)
15         {
16             Console.WriteLine($"{data.Key} => {data.Value}");
17         }
18 
19         //根据请求的Id找到员工信息
20         var employee = EmployeeRepository.Emloyees.SingleOrDefault(emp => emp.Id == request.Id);
21 
22         if (employee == null)
23             throw new RpcException(Status.DefaultSuccess
24                 , $"Employee of {request.Id} is not found");
25 
26         var response = new EmployeeResponse {Employee = employee};
27         return await Task.FromResult(response);
28     }
29 }

一旦客户端调用了存根(Stab,客户端上接口方法),服务端的RPC方法便会被调用并收到客户端发送的参数与元数据信息。但是服务端怎样将客户端的请求定位到接口定义的实现呢?来到服务端项目的Startup.cs中指定映射即可。

 1 public void Configure(IApplicationBuilder app, IWebHostEnvironment env)
 2 {
 3     if (env.IsDevelopment())
 4     {
 5         app.UseDeveloperExceptionPage();
 6     }
 7     app.UseRouting();
 8 
 9     app.UseEndpoints(endpoints =>
10     {
11         endpoints.MapGrpcService<GrpcEmployeeService>(); //将进入的请求映射到特定的服务类中
12     });
13 }

另外还需要将gRPC的服务注册到服务容器中(在ConfigureServices中增加 services.AddGrpc(); )

接下来在客户端调用方法存根即可。

 1 private const string serverAdderss = "https://localhost:5001";  //服务端的地址
 2 protected void GetEmployeeById()
 3 {
 4     Response1 = string.Empty;   //清空前台显示
 5     var metaData = new Metadata   //元数据都是一些 key-value对
 6     {
 7         { "myKey","myValue"}    //随便假装一点 key-value对
 8     };
 9 
10     if (int.TryParse(Request1, out var id))
11     {
12         //*****************************主要是这里********************************
13         using var channel = GrpcChannel.ForAddress(serverAdderss);          //创建通道
14         var client = new EmployeeService.EmployeeServiceClient(channel);
15         var response = client.GetEmployeeById(
16             new GetEmployeeByIdRequest { Id = id }  //参数一:request参数(员工Id)
17             , metaData);                            //参数二:用户自定义的元数据
18         //*********************************************************************
19 
20         Response1 = response.ToString();    //将响应信息输出前台显示
21         return;
22     }
23     MessageBox.Show("request is invalid");
24 }

(2)Server-side streaming RPC

与一元模式不同的是,服务端流模式中服务端向客户端返回数据是一个流响应,编译器帮我们生成的服务端的方法 GetEmployeeCollection 中包含 IServerStreamWriter<GetEmployeeCollectionReponse> 类型的参数,我们需要做的就是将需要返回的数据写入这个流中即可。该演示方法是客户端使用一些查询条件向服务端请求用户数据,服务端将员工集合数据以“流”的模式返回给客户端。

 1 /// <summary>
 2 /// 服务端流演示 —— 根据条件获取员工数据
 3 /// </summary>
 4 /// <param name="request"></param>
 5 /// <param name="responseStream"></param>
 6 /// <param name="context"></param>
 7 /// <returns></returns>
 8 public override async Task GetEmployeeCollection(GetEmployeeCollectionRequest request, IServerStreamWriter<GetEmployeeCollectionReponse> responseStream,
 9     ServerCallContext context)
10 {
11     List<Employee> employees;
12     if (!string.IsNullOrWhiteSpace(request.SearchTerm))  //有条件就根据条件查询
13     {
14         employees = EmployeeRepository.Emloyees
15               .FindAll(emp => emp.Name.Contains(request.SearchTerm) ||
16                               emp.Department.Contains(request.SearchTerm) ||
17                               emp.EmployeeNo.ToString().Contains(request.SearchTerm));
18     }
19     else
20     {
21         employees = EmployeeRepository.Emloyees;
22     }
23     employees = employees.FindAll(emp => emp.IsValid == request.IsValid);
24 
25     foreach (var employee in employees)
26     {
27         //***********************************向响应流中写入数据**************************************
28         await responseStream.WriteAsync(new GetEmployeeCollectionReponse { Employee = employee });
29         //****************************************************************************************
30     }
31 }

在客户端使用存根方法进行RPC请求,并从响应流中读取返回的员工数据。

 1 protected async void GetEmployeeCollection()
 2 {
 3     Response2 = string.Empty;       //清空前台显示
 4     using var channel = GrpcChannel.ForAddress(serverAdderss);
 5     var client = new EmployeeService.EmployeeServiceClient(channel);
 6 
 7     //发送请求,注意和一元模式不同的是,使用client调用存根方法的返回类型是AsyncServerStreamingCall
 8     using var serverStreamingCall =
 9         client.GetEmployeeCollection(
10         new GetEmployeeCollectionRequest
11         {   //两个查询参数而已,没啥
12             IsValid = true,         
13             SearchTerm = Request2.Trim()
14         });
15     var responseStream = serverStreamingCall.ResponseStream;
16 
17     //读取流数据,调用响应流的MoveNext方法
18     while (await responseStream.MoveNext(new CancellationToken()))
19     {
20         // 将消息显示到前端
21         Response2 += responseStream.Current.Employee + Environment.NewLine;
22     }
23 }

(3)Client-side streaming RPC

 客户端流模式的话与服务端流模式类似,服务端流模式中是将响应数据写入响应流中,客户端流模式相似的就是将请求数据写入请求流中发送到服务端,这样发送到服务端的就不是单个的请求了,服务端接收请求流的数据也需要向上面“服务端流模式”的客户端那样利用stream的 MoveNext 方法来获取。本方法是将一张图片读取成文件流后以1024个字节的大小依次写入请求流中发送给服务端来模拟客户端流模式。

由于是客户端流模式,那先看客户端的写法。

 1 protected async void AddPhoto()
 2 {
 3     Response3 = string.Empty;       //清空前台显示
 4     using var channel = GrpcChannel.ForAddress(serverAdderss);
 5     var client = new EmployeeService.EmployeeServiceClient(channel);
 6     // 调用这个存根方法得到的是“AsyncClientStreamingCall类型”
 7     using var clientStreamingCall = client.AddPhoto();
 8     // 拿到“请求流”
 9     var requestStream = clientStreamingCall.RequestStream;
10 
11     //向“请求流”中写数据
12     await using var fs = File.OpenRead(Request3);
13     while (true)
14     {
15         var buffer = new byte[1024]; //模拟多次传递,将缓存设置小一点
16         var length = await fs.ReadAsync(buffer, 0, buffer.Length); //将数据读取到buffer中
17         if (length == 0)  //读取完毕
18         {
19             break;  //跳出循环
20         }
21         else if (length < buffer.Length)    //最后一次读取长度无法填满buffer的长度
22         {
23             Array.Resize(ref buffer, length);   //改变buffer数组的长度
24         }
25         var streamData = ByteString.CopyFrom(buffer);   //将byte数组数据转成传递时需要的ByteString类型
26         //将ByteString数据写入“请求流”中
27         await requestStream.WriteAsync(new AddPhotoRequest { Photo = streamData });
28     }
29 
30     await requestStream.CompleteAsync();  //告知服务端数据传递完毕
31     var response = await clientStreamingCall.ResponseAsync;
32     Response3 = response.IsOK ? "congratulations" : "ah oh"; // 将消息显示到前端
33 }

来到服务端,可以看到编译器为客户端流模式的方法生成的请求参数是 IAsyncStreamReader<TRequest> 类型,表示客户端传来的参数是一串流模式的,服务端读取流数据写法如下。

 1 public override async Task<AddPhotoReponse> AddPhoto(IAsyncStreamReader<AddPhotoRequest> requestStream, ServerCallContext context)
 2 {
 3     var buffer = new List<byte>();
 4     var count = 0;
 5     while (await requestStream.MoveNext(new CancellationToken()))
 6     {
 7         buffer.AddRange(requestStream.Current.Photo);
 8         //每接收一次请求打印一条消息来显示
 9         Console.WriteLine($"{++count} : receive requestStreamData's length is {requestStream.Current.Photo.Length}");
10     }
11     //只是将收到的全部数据还原成原来的图片数据
12     File.WriteAllBytes(@"photo.jpg", buffer.ToArray());
13     return new AddPhotoReponse { IsOK = true };
14 }

(4)Bidirectional streaming RPC

 最后是双向流模式,在熟悉了服务端流模式和客户端流模式之后,这个模式也不难理解了,也就是双方都采用流模式,将上面两个写法进行融合即可。接下来将传递一个员工集合给服务端进行存储,服务端接收到每个员工数据并保存后都向客户端返回一次,将刚刚保存的用户信息在返回给客户端。

客户端写法。

 1 protected async void SaveEmployees()
 2 {
 3     Response5 = string.Empty;       //清空前台显示
 4     using var channel = GrpcChannel.ForAddress(serverAdderss);
 5     var client = new EmployeeService.EmployeeServiceClient(channel);
 6     var serverStreamingCall = client.SaveEmployees();
 7     //因为是双向流的方式,我们需要同时操作“请求流”和“响应流”
 8     var requestStream = serverStreamingCall.RequestStream;
 9     var responseStream = serverStreamingCall.ResponseStream;
10     //获取员工数据
11     var employees = GetNewEmployees(Request5.Trim());
12 
13     //依次将员工数据写入请求流中
14     foreach (var employee in employees)
15     {
16         await requestStream.WriteAsync(new EmployeeRequest { Employee = employee });
17     }
18     //告知服务端数据传递完毕
19     await requestStream.CompleteAsync();
20     //读取服务端返回的流式数据
21     await Task.Run(async () =>
22     {
23         while (await responseStream.MoveNext(new CancellationToken()))
24         {
25             Response5 += $"New Employee “{responseStream.Current.Employee.Name}” is Saved"
26                 + Environment.NewLine;
27         }
28     });
29 }

服务端写法,可以看到这次编译器生成的方法参数包含了请求流 IAsyncStreamReader<TRequest> 和响应流 IServerStreamWriter<TResponse> 。

 1 public override async Task SaveEmployees(IAsyncStreamReader<EmployeeRequest> requestStream, IServerStreamWriter<EmployeeResponse> responseStream, ServerCallContext context)
 2 {
 3     while (await requestStream.MoveNext(new CancellationToken()))
 4     {
 5         //从请求流中获取数据
 6         var newEmployee = requestStream.Current.Employee;
 7         if (!EmployeeRepository.Emloyees.Exists(emp => emp.Id == newEmployee.Id))
 8         {
 9             EmployeeRepository.Emloyees.Add(newEmployee);
10         }
11         //每存储一条员工数据后在控制台上打印一条记录
12         Console.WriteLine($"receive NewEmployee {newEmployee.Name}");
13         //每存储一条员工数据后向响应流中写入数据返回给客户端
14         await responseStream.WriteAsync(new EmployeeResponse()
15         {
16             Employee = newEmployee
17         });
18     }
19 }

以上便演示了gRPC四种调用模式的使用,将服务端和客户端全都运行起来进行调用,一切OK,泪目。

 本次学习只涉及到gRPC如何简单的进行通信,在gRPC调用中的异常处理,日志,授权等内容在后续学习中再加以记录,谢谢。

参考资料

○ https://www.grpc.io/docs/guides/
○ https://www.cnblogs.com/cgzl/p/11246324.html
○ http://www.csharpkit.com/2017-10-14_90705.html
○ https://unwcf.com/posts/wcf-vs-grpc-round-2/ (WCF PK gRPC)

posted @ 2020-04-11 12:20  冬瓜山总教练  阅读(941)  评论(2编辑  收藏  举报