kubernetes3 Kubernetes 용어 정리 및 응용 법 안녕하세요! 최근 많은 회사에서 Kubernetes 를 다루는 것을 기본 소양을 하고 있는데. 실제 본 개발에 들어가면 Production에 제품을 배포하거나 내부적으로 가용성 테스트를 하기 전에는 쓰이는일이 많지 않아서 간단한 프로젝트를 통해 예시를 드리고 중요 키워드 포인트를 집어드리려고 합니다. 필요 환경: FastAPI, Reddis, Celery, Kubernetes, Docker(docker-compose) 상황 & 목표: FastAPI에서 요청이 많이 들어와 Celery의 Worker Pod의 수가 자동으로 늘어나야 하는데, 그럼에도 불구하고 FastAPI의 HTTP 요청이 너무 많아져 FastAPI Pod도 하나 더 늘리고 싶으나, 요청 처리가 완료되면 다시 원래의 Pod 수로 돌아가.. 2025. 8. 23. [Java] 자바 API 호출 시 Thread Exhaustion 문제 해결법 전 회사에 있을 때 경험하면서 해결 했던 문제가 있었는데 처음 겪은지라 생소하면서도 흔할 수 있는 문제점이라 기억을 되세기면서 복기 차원에 다시 작성해 봅니다. 지라에 기술 된 제 업무 티켓에는 Stress 성능 테스팅이 있었습니다. 고객의 펀드 결제 처리, 계정 추가, 교환 결제 등 각종 기능을 초당 얼마나 할 수 있는지 우리가 담당하는 코어 프로세스의 시간과 분당, 시간당 처리량을 계산하고 더 나아가 외부 협력업사의 최종 결제 프로그램의 Threshhold 테스팅을 수행하는 일이였습니다. Batch Script로 자동으로 테스트 계정 로그인을 한 뒤 JWT토큰 헤더를 적용하고 Asynchronous curl 호출을 통해분당 5개,분당 10개,분당 100개,분당 1000개,분당 5000개,분당 1000.. 2025. 4. 6. Kubernetes의 Liveness 그리고 Readiness probes 최근 회사 서비스의 Health check endpoint에 문제가 생겨서 알아보게된 용어들이다. Kubernetes 설정을 비 정상적인 서비스 상태가 3번 이상 감지되면 강제적으로 서비스를 중단하고 다시 복구하는 프로세스를 거치는데, 큰 문제가 없었는데도 지속적으로 HTTP 요청이 느려지고 결국 timeout으로 걸려 실패로 판정되다가 세번연속으로 걸려 서비스가 재부팅 되는 문제점을 발견했었다. 여기서 선임개발자가 Liveness에 문제가 있다라고 언급을 해서 글을 작성한다. 아쉽게도 문제를 분석/최적화를 한 일지는 나중에 적어보도록 하겠다. 모든 일화를 한 글에 적기에는 시간이 너무 부족하다. Readiness 와 Liveness 는 Kubernetes와 같은 서비스가 돌아가는 서버환경에서 많이 사용.. 2024. 1. 22. 이전 1 다음
