Gemini 티어 서빙 여부를 성공 로그로 관측 가능하게 - #36
Merged
Merged
Conversation
- 앞선 무료 티어 폴백(#34)은 에스컬레이션(실패)에만 로그를 남겼다. 그 결과 "무료가 성공해서 유료를 안 불렀다" 와 "무료가 아예 안 쓰이고 유료가 성공했다" 가 로그상 완전히 같아, 기능이 실제로 도는지 우리 쪽에서 확인할 방법이 없었다 - 배포 후 검증을 시도하다 이 사각을 발견했다. 키가 컨테이너 env 에 실린 것은 배포 로그의 SSM env 줄 수(7 -> 8)로 확인했지만, 그 다음 질문인 "그래서 무료가 서빙 중인가" 에 답할 신호가 없었다 - 메트릭이 아니라 info 로그를 고른 이유는 두 가지다. Grafana Cloud metrics 무료 한도가 이미 도달 상태라 새 시계열을 늘리지 않기로 한 앞선 결정을 유지하고, 호출량이 월 1,000건 미만이라 로그 볼륨이 하루 30줄 수준으로 무시할 만하다 - 프로브 경로(generateContentExactly)에는 넣지 않았다. 프로브는 항상 유료 고정이라 티어 비율에 노이즈만 더한다
|
Important Review available on request
Reviews should be triggered manually for repositories with fewer than 10 stars. Select Trigger review above or comment ⚙️ Run configurationConfiguration used: Organization UI Review profile: CHILL Plan: Pro Plus Run ID: Thanks for using CodeRabbit! It's free for OSS, and your support helps us grow. If you like it, consider giving us a shout-out. Comment |
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
Situation
Task
Action
tier를 담은 info 로그 한 줄을 찍는다.Result
tier=free와tier=paid의 비율이 곧 무료 성공률이 된다. 여기에 기존 에스컬레이션 warn 로그의status분포를 겹치면, Gemini 무료 티어 우선 호출과 유료 폴백 #34 에서 남겨 둔 두 숙제(무료 성공률, 무료 read 10s 의 적정성)를 모두 판정할 수 있다.tier=paid만 찍히므로, 키 주입이 누락된 상태도 같은 로그로 드러난다.연관 이슈