0

GraphPipe

机器学习模型的部署变得简单。（Machine Learning Model Deployment Made Simple.）

官方网站
Github 资源库
主要指标
  • 所有者: oracle/graphpipe
  • 平台: Docker, Linux, Mac, Windows
  • 许可证: Other
  • 分类:
  • 主题:
  • 喜欢:
    0
      比较:

Github星跟踪图

GraphPipe

机器学习模型部署变得简单。

它是什么？

GraphPipe 是一种协议和软件集合，旨在简化机器学习模型的部署，并将其与特定于框架的模型实现解耦。

现有的模型服务解决方案不一致，或者效率低下。与这些模型服务器通信没有一致的协议，因此常常需要为每个工作负载构建自定义客户端。GraphPipe 通过标准化有效的通信协议，并为主要 ML 框架提供简单的模型服务器，解决了这些问题。

我们希望开源 GraphPipe 能够使服务于 landscape 的模型变得更加友好。详细了解我们为何在此处构建它。

或者浏览其余文档。

特性

  • 一个基于 flatbuffers 的极简机器学习传输规范。
  • 简单、高效的 Tensorflow, Caffe2, 和 ONNX 参考模型服务器。
  • 使用 Go、Python 和 Java 实现高效的客户端。

这个存储库中有什么？

这个 repo 包含文档以及 flatubuffer 定义文件，其他特定于语言的 repos 使用这些文件。如果您正在寻找 GraphPipe 客户端、服务器和示例代码，请查看我们的其他 GraphPipe repos：

构建 flatbuffer 定义

如果你已经安装了flatc，你可以完成所有操作但是如果你不想安装它，你可以导出USE_DOCKER = 1然后全部完成。 （请记住，make需要vars导出，而不仅仅是在运行make的命令行上）。 如果你已经安装了 flatc，你可以完成所有操作；但是如果你不想安装它，你可以 export USE_DOCKER=1，然后 make all。(记住，make 需要 exported vars，而不仅仅是在命令行上运行 make )。

这将生成 go、c 和 python 库，然后可以将它们分别复制到他们的项目 graphpipe-go、graphpipe-tf-py 和 graphpipe-py 中。

贡献

所有 GraphPipe 项目都是开源的。 要了解如何贡献，请参阅 CONTRIBUTING.md

您也可以通过我们的 Slack 频道与我们聊天。

（First edition: vz edited at 2019.08.22）

主要指标

概览
名称与所有者oracle/graphpipe
主编程语言Makefile
编程语言Makefile (语言数: 1)
平台Docker, Linux, Mac, Windows
许可证Other
所有者活动
创建于2018-06-27 18:31:23
推送于2018-10-16 22:55:22
最后一次提交2018-10-16 15:56:31
发布数1
最新版本名称v1.0.0 (发布于 2018-08-16 16:25:31)
第一版名称v1.0.0 (发布于 2018-08-16 16:25:31)
用户参与
星数718
关注者数52
派生数103
提交数29
已启用问题?
问题数13
打开的问题数12
拉请求数4
打开的拉请求数1
关闭的拉请求数2
项目设置
已启用Wiki?
已存档?
是复刻?
已锁定?
是镜像?
是私有?

GraphPipe

Machine Learning Model Deployment Made Simple

What is it?

GraphPipe is a protocol and collection of software designed to simplify machine
learning model deployment and decouple it from framework-specific model
implementations.

The existing solutions for model serving are inconsistent and/or inefficient.
There is no consistent protocol for communicating with these model servers so
it is often necessary to build custom clients for each workload. GraphPipe
solves these problems by standardizing on an efficient communication protocol
and providing simple model servers for the major ML frameworks.

We hope that open sourcing GraphPipe makes the model serving landscape a
friendlier place. See more about why we built it
here.

Or browse the rest of the documentation.

Features

  • A minimalist machine learning transport specification based on flatbuffers
  • Simple, efficient reference model servers for Tensorflow, Caffe2, and ONNX.
  • Efficient client implementations in Go, Python, and Java.

What is in this repo?

This repo contains documentation as well as the flatubuffer definition files
that are used by other language specific repos. If you are looking for
GraphPipe clients, servers, and example code, check out our other GraphPipe
repos:

Building flatbuffer definitions

If you've got flatc installed you can just make all but if you don't want
to install it, you can export USE_DOCKER=1 and then make all. (Remember,
make needs vars exported, not just on the command-line where you run make).

This will produce the go, c, and python libraries, which can then be copied
into their projects graphpipe-go, graphpipe-tf-py, and graphpipe-py,
respectively.

Contributing

All of the GraphPipe projects are open source. To find out how to contribute
see CONTRIBUTING.md

You can also chat us up on our Slack Channel.