记一次专有云kafka网络故障排查
2023-03-07 09:06:32 时间
背景
之前参与过一个政务专有云项目,该项目服务需部署在政务专区,但是却和外网kafka有通信,需要消费topic消息,但是由于政务专区网络访问外网都是通过代理网关出去的,kafka与外部通信时也走的这种网络策略,最后却无法正常通信。
问题排查过程
在10.1.x.x 通过 172.x.x.x 转发tcp包不行,通过抓包找到原因了,执行下面命令:
./bin/kafka-console-consumer.sh --bootstrap-server 172.x.x.x:19092 --topic opc-sync-zoneId-53-namespace --from-beginning
在10.1.x.x 上抓的包。
对比下发现这个kafka工具开始用代理通信,后面还是点对点了, 172网段可以访问互联网所以能成功获取kafka的数据, 10网段不能访问互联网最后还是不行。
中间有个包会把kafka的源ip给传过回来给10.1.x.x,看起来就是是这一步后又直接和源kafka通信了。
总结
在与kafka建立连接后,注册中心会给一个源服务端的IP,而这个IP会直接返回给客户端发起,客户端不会再向代理机通信,而会直接访问远程IP,所以代理方式也搞不定。
相关文章
- 数据孤岛是业务效率的无声杀手
- 2023展望:新的一年将给大数据分析领域带来什么?
- 阿里云ADB基于Hudi构建Lakehouse的实践
- 大数据在医疗保健领域的使用案例
- 微软增加说明:KB5021751 更新扫描已经 / 即将过时 Office 过程中不会触碰用户隐私
- 2022 Gartner全球云数据库管理系统魔力象限发布 腾讯云数据库入选
- 场景化、重实操,分享一个实时数仓实践案例
- Arctic的湖仓一体践行之路
- 分布式计算MapReduce究竟是怎么一回事?
- 淘系数据模型治理优秀实践
- 大数据分析对医疗保健的影响
- 当我们说大数据Hadoop,究竟在说什么?
- 2022年及以后大数据的五个发展趋势
- 网易严选离线数仓治理实践
- 2023 年数据治理趋势
- 一份“靠谱”的年度经营计划,你学会了吗?
- 漫谈对大数据的思考
- 测试一下,读懂数据的能力,你有吗?
- 用艺术的眼光探索数据之美
- 聊聊数据分析成果如何落地