基于gRPC实现的异步推理框架
该项目是基于gRPC实现的异步推理框架。服务端采用python实现,客户端封装了grpc,对外仅提供推理相关的三个c接口,可用于跨进程推理。
文件大小：8.33KB
评论区