1746730324
2025-05-08 18:37:00
ハイスループットの低遅延の生産環境でApache Kafkaをスケーリングしたことがあるなら、おそらくこの瞬間を経験したでしょう。
すべてがハミングしています。あなたのプロデューサーは、毎秒数千のメッセージで洪水を起こしています。消費者は時計仕掛けのようなトピックを噛んでいます。ダッシュボードは、ほぼ完璧なスループットを示しています。アーキテクチャ図は美しく見えます。あなたのSREチームは背中を軽くたたいています。
その後 – ヒットします。
誰もあなたに警告しなかった問題。
Apache Kafkaは、毎秒数百万のメッセージを処理する能力で伝説的です。それは分布しており、断層耐性、持続性、高性能です。 LinkedIn、Netflix、Uberなどの企業は、それを誓います。当然のことながら、独自のイベント主導型システムまたはデータパイプラインを構築するとき、Kafkaは頼りになる選択肢です。
プロデューサーをスケーリングできます。消費者をスケーリングできます。パーティションでシャードできます。複製できます。すべてが水平方向にスケーラブルであるように見えます – あなたのユースケースが成長するまで わずかに 典型的なものを超えて。
それは夢が割れ始めたときです。
ポイントにまっすぐに行きましょう: カフカパーティションの規模でのリバランスは、手遅れになるまで誰も語らない問題です。
#大規模なカフカは素晴らしいですねあなたがこの1つの問題にヒットするまでコードしましょう #2025年5月