원문: https://openai.com/index/scaling-postgresql/

오픈AI가 ChatGPT 유저들을 버티려고 PostgreSQL 하나를 끝까지 쥐어짜네요.

제가 잘 이해한건지 모르겠습니다만...

읽기 트래픽은 전부 리드 레플리카 수십 개(50개 정도)로 뿌리고, 쓰기 많은 서비스들은 아예 Cosmos DB 같은 샤딩 가능한 시스템으로 빼버린 구조라고 합니다.

캐시 미스 한 번에 DB가 터지지 않게(동시 접속한 사람들이 다 캐시 미스라면 한번에 DB에 접속해버릴테니), 한번 캐싱시키고 다른 사람들은 락 상태로 두기도 하는 듯 합니다.

AI 사용에 중요한 정보는 아니지만, OpenAI 측에서 이러한 노력 등을 통해 향후 사용자 수용량을 늘리려는 포부(?)도 엿볼 수 있었습니다. (Looking ahead, we’ll continue to explore additional approaches to further scale, including sharded PostgreSQL or alternative distributed systems, as our infrastructure demands continue to grow.)