概述
深圳市城市交通规划设计研究中心(以下简称“深城交”)创建于 1996 年,是深圳市委市政府重要的交通决策支持科研机构,行业前沿的科技创新带头单位。近年来,深城交立足深圳、引领行业、服务全国,业务范围已覆盖全国 30 多个省级地区,120 余座城市,改善超过 6 亿人出行。经过 20 多年发展,深城交在资质等级、人员规模、专业类别上均于国内城市交通专业研究机构中处于领先地位,目前已在创业板挂牌上市。
深城交致力于提供先进的城市交通技术与服务,提供以大数据分析为基础、以协同规划为引领、以综合设计为支撑、以系统集成为实践、以智慧运营为反馈的城市交通整体解决方案。
挑战
物联网管理平台属于深圳市交通局一体化项目交通大脑中通用技术平台之一,项目遇到的挑战如下:
- 多种接入方式:物联网平台不仅需要对接既有监测平台,还需要通过直连接入、监测节点接入和边缘计算节点接入等方式接入新增设备。
- 协议类型众多:城市物联网平台需要支持 MQTT、Modbus、HTTP 等协议的接入,以实现数据收集和执行下发。
大量设备接入并发:城市交通物联网平台本期需要支持接入 2 万路设备,并预留 10 万设备连接能力,未来将拓展接入全市所有交通物联网设备。
数据流转过程复杂:城市交通物联网平台向下接入外场设备,收集到的数据需要在平台进行解析、加工、转换处理,然后将设备数据发送给交通大数据平台、交通大数据平台、交通业务支撑平台和运维平台等业务支撑平台。
- 数据解析任务繁重:城市交通物联网管理平台需要支持标准化协议和非标准化协议解析,支持设备注册类信息解析、设备采集类消息解析、设备状态类消息解析。
解决方案
针对支持 MQTT 协议传输数据的直连设备、监测节点设备接入和边缘计算设备,制定标准统一的通信协议和数据格式,借助运行在 Intel X86 上的云原生分布式物联网消息服务器 EMQX 提供的开放标准物联网 MQTT 协议连接支持 ,完成新增设备的接入;针对既有的系统平台,通过集成 EMQ 云边协同管理平台的开放 SDK 实现系统对接和数据传输。同时,通过 TLS/SSL 或 QUIC 和多样化的认证机制,确保与 MQTT 服务器 EMQX 进行包括用户名/密码、LDAP、JWT、PSK 和 X.509 证书在内的安全通信,确保了数据的安全与隐私。
基于 EMQX 一站式多协议能力,和各类开放的 SDK 实现平台与设备间多协议接入。在设备端通过使用 EMQ 旗下边缘工业协议网关软件 Neuron 将各类工业协议转换成标准的 MQTT 协议,配合 EMQX,实现 Modbus、CoAP 等多种协议的接入。同时,Neuron 的一站平台网关配置管理、标准工业报警处理、边缘规则处理引擎、基于 Web 的人机界面,也极大简化了网关软件开发过程,提升了整个系统平台的对接效率。
EMQX 的高可用、分布式集群架构可支持百万到亿级海量并发连接,为大规模设备连接提供了稳定可靠的平台接入层能力。为实现 2 万路设备接入,项目物联网平台采用微服务技术架构,部署多套数据计算服务、数据存储服务扩展接入设备数量,理论上可支持 10 万路设备接入,同时针对未来设备接入提供定制化协议适配、数据解析,可满足未来可能的接入需求。
通过 EMQX 基于 SQL 语句的强大规则引擎和数据桥接功能,无需编写代码即可实现一站式的 IoT 数据提取、过滤、转换、存储与处理,灵活集成物联网数据到 MySQL、ClickHouse 实现数据持久化存储,到 Kafka 或其他消息队列实现数据的共享管理。借助规则引擎的“消息重新发布”能力,还可实现数据在物联网平台各功能板块间的流转,避免了数月的工程开发,快速实现数据应用集成。
通过内置的 Schema Registry 实现对 JSON、Avro、Protobuf 格式 MQTT 消息的高性能编解码,解决了物联网平台标准化协议和非标准化协议解析,设备注册类信息解析、设备采集类消息解析、设备状态类消息解析以及多种结构类型的数据解析,实现物联网平台添加自定义解析脚本,进行数据解析处理,极大降低了数据解析的门槛,减轻了研发工作量。
成果
规范标准建立
借助 EMQ 物联网基础设施解决方案,建立了交通设施信息化相关协议标准,打通既有监测平台的数据壁垒,统一各类设备监测数据的格式,为后期市物联网平台建设提供交通设备板块协议参考依据。
海量设备接入
本期项目覆盖设施总计 113 座,接入监测设备 2 万多个,同时预留了 10 万设备连接能力,为深圳市交通局一体化项目提供了物联网设备基础数据保障和后期扩展能力保障。
海量数据存储分发
实现了 3 个月保存周期内总大小约 10.1TB 的 1466 亿条设备监测数据存储。每秒百万级的高性能、低时延、高可靠解决方案保障了双向实时数据顺畅移动,灵活分发至其他业务系统,满足物联网业务中各类数据需求。接入的各类信息根据数据类型通过 Backend 高速存储至 Redis、MySQL、PostgreSQL、MongoDB 、DynamoDB 等主流数据库。 接入的各类信息也可以桥接到 RabbitMQ、RocketMQ 等消息队列和 Kafka 或 Pulsar 等流式处理引擎或其它支持标准 MQTT 协议的企业消息服务器。
安全可靠的物联网平台
通过一体化项目物联网平台的建设,实现多重认证机制的安全认证能力,保证设备接入、数据存储、平台访问等方面的安全管理。
交通行业物模型体系
借助 EMQ 物联网数据基础设施软件提供的物模型能力,建立了一整套基于设备属性、服务、事件的交通行业物模型,建立了边缘设备与云端进行数据规范化交互和管理流程。
交通行业加工算法库
通过一体化项目物联网平台的建设,借助 EMQ 物联网数据基础设施提供的编解码能力和流式计算能力,实现了对各类物联设备监测的数据的处理分析,并建立了一套成熟的智慧交通的数据加工算法库,释放流数据的实时价值和历史数据价值。