python连接kafka加载数据的项目实践
更新时间：2023年05月22日 10:46:28 作者：呼伦贝尔-钢蛋儿
本文主要介绍了python连接kafka加载数据的项目实践，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
（福利推荐：【腾讯云】服务器最新限时优惠活动，云服务器1核2G仅99元/年、2核4G仅768元/3年，立即抢购>>>：9i0i.cn/qcloud）
（福利推荐：你还在原价购买阿里云服务器？现在阿里云0.8折限时抢购活动来啦！4核8G企业云服务器仅2998元/3年，立即抢购>>>：9i0i.cn/aliyun）
背景：读取TXT文件，加载到kafka中，然后通过logstash消费kafka中的数据加载到es中
第一步：导入相应的依赖包
pip install kafka-python pip install loguru pip install msgpack
第二步：编写连接kafka的代码
# -*- coding: utf-8 -*-
import json
import json
import msgpack
from loguru import logger
from kafka import KafkaProducer
from kafka.errors import KafkaError
def kfk_produce_1():
"""
发送 json 格式数据
:return:
"""
producer = KafkaProducer(
//连接kafka集群的配置信息
bootstrap_servers='192.168.85.109:9092',
value_serializer=lambda v: json.dumps(v).encode('utf-8')
)
//这里是你创建topic和打算发送数据的地方
producer.send('python_test_topic', {'key': 'value'})
kfk_produce_1()第三步：验证是否在kafka中创建topic
kafka的消费者界面上已经出现了创建的topic，并且数据也接收到了
注意：下面的消费者界面的按钮，要先运行起来，选择好kafka环境和topic，group以后，点击那个绿色的运行按钮，就能实时看到发送过来的消息了，?
问题记录：
然后在使用时，报错提示：ImportError: cannot import name ‘KafkaConsumer’
找了一会儿最后发现自己创建的文件名叫做：kafka.py，突然意识到问题出在哪里了。
原因：
简单说就是因为，创建的文件名是kafka.py，这会导致代码运行时，python解释器查找kafka的模块时，就找到自身kafka.py了，所以就报错。
以后写代码的时候，还是要注意，切记不要用关键字去命名文件，避免不必要的麻烦。
到此这篇关于python连接kafka加载数据的项目实践的文章就介绍到这了,更多相关python连接kafka加载数据内容请搜索程序员之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持程序员之家！
相关文章
正则表达式是用来匹配字符串非常强大的工具，在其他编程语言中同样有正则表达式的概念，Python同样不例外，利用了正则表达式，我们想要从返回的页面内容提取出我们想要的内容就易如反掌了。2016-09-09
Python Pillow.Image 图像保存和参数选择方式
今天小编就为大家分享一篇Python Pillow.Image 图像保存和参数选择方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-01-01
这篇文章主要介绍了python访问类中docstring注释的实现方法,涉及python类注释的访问技巧,非常具有实用价值,需要的朋友可以参考下2015-05-05
这篇文章主要介绍了Python3 合并二叉树的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-09-09
这篇文章主要为大家介绍了Python内存管理精准释放与延迟拷贝技术探究,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2024-01-01
这篇文章主要介绍了使用Requests库来进行爬虫的方式，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-11-11
本篇文章主要介绍了Python实现图片转字符画的示例，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2017-08-08
今天小编就为大家分享一篇浅谈pytorch和Numpy的区别以及相互转换方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-07-07
今天小编就为大家分享一篇python 寻找list中最大元素对应的索引方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-06-06
这篇文章主要介绍了python实现12306火车票查询器,需要的朋友可以参考下2017-04-04
最新评论