1954

Thoughts, stories and ideas.

2021-01-01から1年間の記事一覧

Introducing TLA+ Intellij plugin

Motivation Nowadays, it's getting popular to use formal methods to verify complex systems e.g. distributed storages. TLA+ is a widely-adopted formal specification language created by Leslie Lamport. The standard way to write and verify TLA…

Does Kafka bootstrap server have biased connections from clients?

Kafka clientは以下のようなフローでbrokerに接続します。 まずbootstrap.serversに指定されたいずれかのbrokerに接続し、metadata(partitionのleader)を得る partitionのleaderに対してconnectionを開く produce/consumeを開始する 最初に最低1台に繋げれ…

Thoughts about oslo.messaging Kafka driver

(OpenStackについては素人なので間違ったことをいろいろ書いてるかもしれない) OpenStackはクラウド環境を構築するためのオープンソースプロジェクトで、VMなどユーザー向けの計算資源を管理するサービス(Nova)や認証を提供するサービス(Keystone)etc…

A pitfall in Kafka partition splitting when auto.offset.reset = latest

Kafka 2.7.0現在、consumerのauto.offset.reset configはlatestがデフォルトとなっています。 これは、consumer groupがあるpartitionをsubscribeするとき、commit済みoffsetが存在しない場合(consumerの初回デプロイ時や、offsets.retention.minutes以上の…