MQTT中文站
  • 首页
  • MQTT 学习
    • MQTT 入门
    • MQTT 进阶
    • MQTT 编程
    • MQTT 实例
    • MQTT 要点
    • MQTT5 要点
    • MQTT 工具
    • MQTT 客户端库
    • MQTT 服务器
    • Zigbee2MQTT
    • Sparkplug
    • Home Assistant
    • Node-RED
      • Node-RED 安装部署
      • Node-RED 用户指南
      • Node-RED 创建节点
      • Node-RED 示例教程
      • Node-RED 开发流程
      • Node-RED 接口参考
      • Node-RED 配置模板
      • Node-RED 常见问题
  • MQTT 规范
    • MQTT 5 规范
    • MQTT 3.1.1 规范
    • MQTT 3.1 规范
    • MQTT-SN v1.2规范
    • Sparkplug® v3.0.0规范
  • 产品中心
  • 解决方案
    • 环境监测
    • 工业制造
    • 智慧水利
    • 水利管网
    • 积水监测
    • 综合管廊
    • 档案库房
    • 交通物流
    • 智慧城市
    • 智慧农业
    • 智慧养殖
    • 能源电力
    • 石油石化
    • 智能家居
    • 物联网
    • 汽车与出行
  • 使用文档
  • MQTT 云平台
  • 登录
  • 注册

使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据

12 月前 • 未分类

使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据

MQTT 和 Apache Kafka 常常被一起使用,以增强 IoT 和机器对机器(M2M)通信的功能。以下是它们通常被组合使用的一些场景:

数据收集:MQTT 用于从 IoT 设备收集数据并将其发布到 Kafka broker,数据在这里被处理、分析和存储以供将来使用。

实时处理:使用 MQTT 和 Kafka,组织可以构建实时数据处理管道,以处理来自 IoT 设备的大量数据。

通过 HiveMQ Cloud Starter,您现在可以通过我们新的 Kafka 集成将数据流转到 Apache Kafka。

HiveMQ Cloud Kafka 集成

通过以下五个简单步骤,您可以使用您选择的 Apache Kafka 服务从 IoT 设备中获取数据。这些步骤可以大致分为:

  • 连接配置参数
  • 主题映射参数

连接配置参数帮助建立 HiveMQ Cloud 和您的 Apache Kafka 集群之间的安全连接。主题映射让您能够在您的 MQTT 集群和 Apache Kafka 之间设置双向数据流。

首先,您需要在 HiveMQ Cloud 集群内的“集成”选项卡中找到 Kafka 扩展。这个集成在 HiveMQ Cloud Starter 中可用。

使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据-MQTT中文站

配置您的 Kafka 集成

现在您可以深入了解这五个步骤:

  1. 连接 HiveMQ Cloud 和您选择的 Kafka 服务:要连接,您需要您的 Kafka 集群的引导服务器列表,以便集成能够获取您的 Kafka 集群的初始元数据。
使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据-MQTT中文站
  1. 确保连接安全:现在,您需要添加您的 Kafka 凭据。这有助于确保 HiveMQ Cloud 和 Kafka 之间的连接是安全的。
使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据-MQTT中文站
  1. 将数据从 HiveMQ 发送到 Kafka:一旦您设置并确保连接安全,您可以选择要从 IoT 设备转发的数据。这需要将 HiveMQ Cloud 的主题映射到您的 Kafka 集群。源主题是您希望从 HiveMQ 集群发送的 MQTT 主题。目标主题是接收您的 HiveMQ 集群发送的消息的 Kafka 主题。
  2. 建立双向通信:要在 Kafka 和 HiveMQ 之间建立双向通信,您可以像定义从 HiveMQ Cloud 到您的 Kafka 集群的主题映射一样配置 Kafka 集群到 HiveMQ Cloud。您还可以使用 ${KAFKA_TOPIC}、${KAFKA_KEY} 或 ${KAFKA_VALUE} 作为 MQTT 主题中的变量部分。这有助于您有效地将一个 Kafka 主题映射到一个或多个 MQTT 主题。在这种情况下,源主题表示集成应该从中读取消息的 Kafka 主题。然后,这些消息会使用在 HiveMQ Cloud MQTT broker 集群上定义的目标主题发布。
  3. 启用配置:通过选择“启用”按钮,您可以启动 HiveMQ Cloud 集群和您的 Kafka 集群之间的数据流。一旦激活,您会看到顶部出现一个绿色横幅,表示您的集成已激活。
使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据-MQTT中文站
使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据-MQTT中文站

使用 Web 客户端验证数据流

现在您已经启用了集成,您可以使用内置的 web 客户端快速验证 HiveMQ Cloud 和 Kafka 服务器之间的数据流。

使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据-MQTT中文站
使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据-MQTT中文站

为此,您需要输入您的凭据,并在“发布消息”部分添加与配置中输入的相同的主题名称。然后,您可以添加测试消息负载并点击发布按钮,如下图所示。

一旦看到消息被发布,您可以转到您的 Kafka 服务器,并验证数据是否已经流入映射的 Kafka 主题。对于本博文,我们使用了 Confluent Cloud,但您可以使用任何您选择的 Kafka 服务器。

打赏赞微海报分享
apache kafka mqtt 大数据 集群服务器

一体式温振在线监测预警系统解决方案

使用自动化破解MQTT性能:基准测试的实施

猜你喜欢

智能会议电子门牌产品说明书

智能会议电子门牌产品说明书

04/03
2025
负氧离子监测站:守护清新空气的科技哨兵

负氧离子监测站:守护清新空气的科技哨兵

11/27
2024
远程控制,近在咫尺:CX-R00L-485红外智能管家

远程控制,近在咫尺:CX-R00L-485红外智能管家

10/15
2024

回复

抢沙发咯
  • 解决方案
    • 智能家居
    • 汽车与出行
    • 工业制造
    • 能源电力
    • 石油石化
    • 交通物流
    • 零售
  • 学习
    • MQTT 规范
    • MQTT 教程
    • MQTT 软件
    • MQTT 客户端库
    • MQTT 服务器
    • 工具和应用程序
  • 关于我们
    • 了解创科慧仁
    • 加入创科慧仁
    • 投资者关系
    • 新闻动态
    • 合作伙伴
    • 联系我们
  • 友情链接
    • Modbus中文网
    • 跳动符号官网
    • 物联网世界
    • RFID世界网
    • 深圳物联网协会
    • isoftstone软通动力
    • 中国发展战略学研究会
    • B.P商业伙伴
  • 在线客服
  • 全国客户服务热线
    4006909885
  • 官方公众号
  • 联系邮箱
    contact@mqtt.cn
Copyright © 2025 MQTT中文站. All rights reserved.Designed by nicetheme. 京ICP备20029519号
在线客服

微信咨询

微信咨询

4006909885

服务热线 7*24小时

电话咨询
  • 首页
  • MQTT 学习
    • MQTT 入门
    • MQTT 进阶
    • MQTT 编程
    • MQTT 实例
    • MQTT 要点
    • MQTT5 要点
    • MQTT 工具
    • MQTT 客户端库
    • MQTT 服务器
    • Zigbee2MQTT
    • Sparkplug
    • Home Assistant
    • Node-RED
  • MQTT 规范
    • MQTT 5 规范
    • MQTT 3.1.1 规范
    • MQTT 3.1 规范
    • MQTT-SN v1.2规范
    • Sparkplug® v3.0.0规范
  • 产品中心
  • 解决方案
    • 环境监测
    • 工业制造
    • 智慧水利
    • 水利管网
    • 积水监测
    • 综合管廊
    • 档案库房
    • 交通物流
    • 智慧城市
    • 智慧农业
    • 智慧养殖
    • 能源电力
    • 石油石化
    • 智能家居
    • 物联网
    • 汽车与出行
  • 使用文档
  • MQTT 云平台
  • 登录
  • 注册
 

正在加载评论...
 

您必须登录才能发表评论。

    string(5) "2.0.0"