#24: ユーザー8億人の ChatGPT を支える PostgreSQL アーキテクチャを読み解く - OpenAI テックブログ解説(後編)
Tech Table Log: 同期エンジニアの雑談・勉強ログShow Notes
OpenAI が公開したテックブログ「Scaling PostgreSQL to Power 800 Million ChatGPT Users」を、大規模サービス開発経験のある Lon と PostgreSQL エンジニアの Shinya の2人で読み解きます。後編となる今回は、Azure PostgreSQL のコネクション上限に対処するための PgBouncer の活用、キャッシュミス時の DB 負荷急増（Thundering Herd）を防ぐロック機構、50台のリードレプリカ運用におけるネットワーク負荷とカスケーディングレプリケーション、ORM レベルでのレートリミット、そしてサービス停止を防ぐための慎重なスキーマ管理とデータバックフィル戦略 など、ブログ後半の具体的な技術トピックについて議論します。 PgBouncer とコネクションプーリング / キャッシュミス対策とロック機構 / カスケーディングレプリケーション / ネットワーク帯域とプライマリー負荷 / アプリケーション・ORM層でのレートリミット / スキーマ管理とフルテーブルリライト回避 / データのバックフィル戦略 / 基本的な設計の重要性 参考リンク Scaling PostgreSQL to power 800 million ChatGPT users: https://openai.com/index/scaling-postgresql/
More from Tech Table Log: 同期エンジニアの雑談・勉強ログ
PostgreSQLをドキュメント、ベクトル、全文検索、時系列、地理空間データ、メッセージキューとして活用する設計思想を解説した書籍の翻訳プロジェクトについて解説します。
Sebastian Raschka さんのブログをもとに、話題の GPT-6 Astra について「何が良くなったのか」「推測されているアーキテクチャ」「トークン効率」の3点から振り返りました。Mac mini / Mac Studio を操作対象にした強化学習で強くなった PC 操作、2018年の Universal Transformers に端を発する Looped Transformer や Mixture-of-Recursions、賢いモデルほど少ないトークンで答えにたどり着くという話と reasoning trace の監視性の論点などを話しています。
PostgreSQLの公式コミュニティにより「Significant Contributor」に認定されたShinyaの実体験を元に、大規模OSSコミュニティへの貢献プロセスと歩みについて解説します。
前回に引き続き対面収録で、2人が最近「始めたこと」と「やめたこと」について雑談します。 ポッドキャスト1周年 / オーダーメイドインソール / 睡眠トラッキング / Claude Cowork で栄養管理 / 筋トレとパーソナルトレーニング / 耳栓で睡眠改善 / Xをみなくなった話 / vibe codingと腰痛 / ELSA / 英語学習 / ディズニー英語
Lon が Cloudflare 社の OSS プロダクト「Cloudflare OS」を紹介するエピソードです。機能紹介ブログと CIO によるブログの 2 本をもとに、エージェント用ワークスペース、セキュリティとアクセス権限管理、アプリの配布・共有という 3 つの柱を解説しています。データアクセス権限だけでなく AI が生成したアウトプットに対する権限管理まで考慮されたセキュリティ設計や、ノンテクニカルな人にも使いやすくするための工夫、V1 の課題を踏まえた V2 の設計思想についても取り上げています。