kafka數(shù)據(jù)積壓?jiǎn)栴}如何解決 kafka怎么防止消息積壓?
kafka怎么防止消息積壓?卡夫卡,分區(qū)少了,消息積壓就多了。合理增加卡夫卡分區(qū)的數(shù)量是關(guān)鍵。如果使用Spark stream和Kafka direct方法,KafkaRDD也可以重新分區(qū)以增加并行性
kafka怎么防止消息積壓?
卡夫卡,分區(qū)少了,消息積壓就多了。合理增加卡夫卡分區(qū)的數(shù)量是關(guān)鍵。如果使用Spark stream和Kafka direct方法,KafkaRDD也可以重新分區(qū)以增加并行性。此外,由于Kafka消息的key設(shè)置不合理,分區(qū)數(shù)據(jù)不均衡,也可能導(dǎo)致消息積壓。您可以在Kafka produc
kafka數(shù)據(jù)積壓?jiǎn)栴}如何解決?
我們可以這樣做:首先,減少數(shù)據(jù)生產(chǎn);其次,縮短數(shù)據(jù)存儲(chǔ)周期,從默認(rèn)的7天縮短到1天;最后,增加并發(fā)消費(fèi)數(shù)據(jù)。