目前使用的是 confluent_kafka,发送 10w 条 20 秒左右.
必须要在 10w 条就要调用 flush 方法.不然超过 10w 的部分会丢失
目前试过 python-kafka+ 多线程,效果不太理想,因为是同步的,并且不支持 gevent
也试过 pykafka + gevent,丢消息严重.
求更高并发的库发送 kafka.有例子参考就最好了
python 实在没有的话,go 或者 Java 也行. 谢谢各位大佬
↙↙↙阅读原文可查看相关链接,并与作者交流