4장 처리율 제한 장치의 설계
우리 서비스에 적용할 수 있을 걸로 보인다.
특히나 유료서비스와 무료서비스의 차이가 llm 을 얼마나 사용할 수 있느냐인 만큼 사용해야할 것으로 보인다!
일단 우리 서비스의 경우에서는 버킷 정도로 구현하면 되지 않을까라고 생각해봤다...
일단 조건은 다음과 같은데
서버에서 제한한다.
api 호출 제한은 user_id 를 통해서 진행한다
시스템 규모는 스타트업 정도의 규모
분산 처리 안함.
정도 였다.
그래서 뭔가 부하가 적으면서 간단히 적용할 수 있는 버킷이 괜찮지 않나 생각해봤는데 월요일에 팀원분들과 이야기해봐야지
얘기한 후에 api 개발이 끝나면 서비스에 적용해봐야겠다.
5장 안정해시 설계
서버 부하를 균등하게 나누는 것에 관련한 내용
일단 캐시를 사용하거나 뭔가 서버가 여러개이고 로드밸런스를 하는경우에 필요한 경우 같다. 일단 현재 프로젝트에서 직접적으로 사용할 일은 없을 것 같았다. 해시공간과 해시링에 대해 다루는 내용이였다.
6장
- cap 정리
나머지는 내일 읽어야겠다.
'소프트웨어 마에스트로 > 문서 작업 | 독서' 카테고리의 다른 글
[문서] 중간평가 준비하기 (1) | 2024.08.17 |
---|