在2018慕尼黑OOP会议上，我展示了使用Apache Kafka生态系统和深度学习框架（如TensorFlow，DeepLearning4J）构建可扩展关键型（mission- critical）任务微服务的最新版本。本文中，我想分享出最新的幻灯片并讨论最新趋势。

本博文的主要内容与我在Confluent Blog中写的关于Apache Kafka生态系统和机器学习文章一样，但这里我更关注深度学习/神经网络。我还讨论了Apache Kafka生态系统中的一些创新以及机器学习最近几个月的趋势：Uber和Netflix上的KSQL，ONNX，AutoML和机器学习平台。下面，让我们来看看这些有趣的平台以及它们之间是如何相互关联的。

KSQL：Apache Kafka上的流式SQL语言

根据这篇可知：

“KSQL是Apache Kafka上的流式SQL引擎，KSQL降低了流处理领域的门槛，为Kafka中的数据处理提供了一个简单且完全交互的SQL接口，并且不再需要用诸如Java或Python编程语言编写代码！KSQL是一个开放源码（Apache 2.0 licensed），具有分布式，可扩展，可靠和实时等特性。它支持大量的流处理操作，包括聚合，连接，窗口化，会话等等。

你可以编写类似SQL查询的语句来部署可伸缩的关键型流处理app（利用Kafka Streams底层技术）——这绝对是Kafka开源生态系统中的一大亮点。

KSQL和机器学习

KSQL是在Kafka Streams基础之上构建的，因此允许构建可扩展的关键型服务，它还包括神经网络在内的机器学习模型可通过构建轻松的嵌入。这些天我正在准备一个例子：将一个神经网络（更确切地说是一个自动编码器）用于传感器分析对异常进行检测，例如：实时检测病人健康检查中的健康临界值，以便向医生发送警报。

现在我们来谈谈机器学习生态系统中一些比较有意思的新发展。

ONNX：代表深度学习模式的开放版本

根据可知：

“ONNX代表着深度学习模式的开放版本，采用ONNX，AI开发人员可以更轻松地在各种最先进的工具之间对模型进行迁移，并选择最适合他们的组合。”

这听起来与（预测模型标记语言，更多细节请参阅）和（便携式格式分析）类似，这两个标准用于定义和共享机器学习模型。然而，ONNX在几个方面有所不同：

1.ONNX专注于深度学习。

2.ONNX有几家巨型科技公司（AWS，微软，Facebook）和硬件厂商（AMD，NVidia，Intel，Qualcomm）在使用。

3.ONNX已经支持许多较为领先的开源框架（TensorFlow，Pytorch，MXNet）。

4.ONNX已经是GA版本1.0，并且可以在生产环境中使用（）。对于不同的框架来说是一个很好的。

ONNX和Apache Kafka生态系统

不幸的是，。 因此，目前还不支持将它嵌入到Kafka Streams Java API本地——只能通过一种解决方法：执行REST调用或嵌入JNI绑定。但我相信这只是时间问题，因为Java平台对许多企业部署关键任务应用程序来说非常重要。

现在，你可以使用Kafka的Java API或其他Kafka客户端。为多种编程语言提供了官方客户端，如Python或Go，这两种编程语言都适用于机器学习应用程序。

自动机器学习（AKA AutoML） 

如所述：

“自动机器学习（AutoML）是一个炙手可热的新领域，旨在使您轻松选择不同的机器学习算法，其参数设置和预处理方法提高了在大数据中检测复杂模式的能力。”

使用AutoML，你不需要学习任何关于机器学习的知识就可以构建分析模型。 AutoML使用决策树、聚类、神经网络等不同的实现方式来构建和比较不同模型，AutoML支持即开即用。你只需要上传或连接历史数据集，然后单击几个按钮即可启动该过程——不一定对于每种用例来说都是完美的，但是你可以很轻松的改进许多现有的流程，而无需使用罕见且昂贵的数据科学家。

和是这个领域众多知名云产品中的两个。被集成到其开源的机器学习框架中，同时它们也提供了一个非常好的基于UI的商业产品，称为。我强烈建议在任何一个AutoML工具上花费30分钟的时间来研究下，来看看现在的人工智能工具如何发展，这真的很吸引人。

AutoML和Apache Kafka生态系统

大多数AutoML工具都提供了模型的部署。你可以访问分析模型，即通过一个REST接口，而不是像Kafka可扩展的事件驱动架构这样的的完美解决方案。 有一个好消息就是：许多AutoML解决方案还允许导出其生成的模型，以便将它们部署到你的应用程序中。例如，在H2O开源框架中的AutoML只是众多选择之一。您只需在你选择的编程语言（R，Python，Scala，Web UI）中使用另外一个操作：

这和构建线性回归方法、决策树或神经网络比较类似。其结果是生成的Java代码，你可以很轻松地将其嵌入到Kafka Streams微服务或任何其他的Kafka应用程序中去。借助AutoML，你无需对机器学习有特别深入的了解，同样也可以构建和部署高度可扩展的机器学习。

ML平台：Uber的Michelangelo平台; Netflix的Meson平台

科技巨头通常比“传统企业”早几年，他们早在几年前就已经建立了你今天或明天想要建造的东西。同样，ML平台也不例外。编写一个来训练分析模型的机器学习源代码只是真实世界ML基础设施中非常小的一部分。你需要考虑整个开发过程，下图显示了：

你可能会用不同的技术来构建几个分析模型，并非所有内容都将在你的Spark、Flink聚类或单个云基础架构中构建。你可以在公共云中的一些大而昂贵的GPU上运行TensorFlow来构建强大的神经网络。又或者你可以使用H2O构建立一些小的，但非常有效率和高性能的决策树，它能在几微秒内做出推断。 ML有许多应用用例。

这就是为什么许多科技巨头已经建立了自己的ML平台，如或。这些ML平台允许他们构建和监控强大的可扩展分析模型，同时也能够灵活地为每个用例选择正确的ML技术。

应用于ML平台的Apache Kafka生态系统

Apache Kafka能够取得如此成功的原因之一就是它被很多科技巨头广泛使用。几乎所有伟大的硅谷公司，如LinkedIn，Netflix，Uber和eBay都在谈论他们将Kafka作为其关键任务应用的中枢神经系统。许多人专注于分布式信息流平台，但是我们也看到越来越多的附加组件被采用，如Kafka Connect，Kafka Streams，REST Proxy，Schema Registry以及KSQL。

再看看上面的图片，想一想：Kafka不适合ML平台吗？它可以进行训练，监控，部署，推理，配置，A / B测试等。这也许就是Uber，Netflix和其他许多公司已经将Kafka作为ML基础设施核心组件的原因。

这一次，你不会被迫只使用一种特定的技术。Kafka最棒的设计理念之一就是：你可以一次又一次地从它的分布式提交日志中重新处理数据，这就意味着可以使用一种技术构建不同的模型作为Kafka接收器（比如Apache Flink或Spark），或者连接不同的技术，如：用于本地测试的scikit-learn，运行在Google Cloud GPU上实现强大的深度学习的TensorFlow，用于AutoML的H2O节点的部署安装，以及其它的部署在Docker容器或Kubernetes中Kafka Streams ML的一些应用程序。所有这些ML应用程序都会按照自己的步调并行地使用数据，不过他们经常性的必须这么做。

这个例子很好的说明了。它没有必要再添加另一个大数据集群，这就是在你的ML应用程序上使用Kafka Streams或KSQL代替其他流处理框架的主要区别之一。

Apache Kafka和深度学习：OOP会议上的幻灯片

在对Apache Kafka生态系统和机器学习/深度学习的新趋势的所有讨论的同时，也展示了作者在OOP 2018会议上的演讲中展示幻灯片，幻灯片请点击观看。

我还使用了Apache Kafka，Kafka Streams以及不同的开源ML框架（）构建了一些示例。GitHub项目显示了将分析模型部署到高度可扩展的容错任务关键型Kafka微服务上是一件很容易的事。我们也很快将会推出一个KSQL演示。

本文由北邮 老师推荐，组织翻译。

文章原标题《5 Machine Learning Trends for 2018 Combined With Apache Kafka Ecosystem》，译者：Mags，审校：袁虎。

文章为简译，更为详细的内容，请查看。