본문 바로가기

Programming/Java & JSP & Spring

JVM Warm-up 개선 (feat. JIT Compiler) # JVM Warm up ?JVM 서버는 배포 직후 Latency가 존재한다.그 이유는 java는 기본적으로 `compile -> byte code -> interprete` 과정을 거치는 언어이며, compile시 바로 번역되는 전통적인 컴파일 언어보다 초기 실행 속도가 느리기 때문이다. 그래서 java는 이를 JIT 컴파일러를 통해서 극복한다. JVM이 실행될수록 JIT 컴파일러는 최적화를 통해, 자주 호출되는 메소드들을 네이티브 코드로 컴파일하고 캐시에 저장해두어 점차 성능을 향상시킨다.따라서, API가 최초로 구동되고나면 상대적으로 높은 최적화로 컴파일된 메소드들이 많지 않기 때문에, 처음 요청은 느릴 수 밖에 없는 것이다. 물론 클래스 로딩 외에도 다양한 이유가 있을 수 있다. (DB 커넥션 l.. 더보기
JVM 메모리 누수 트러블슈팅 (Native memory leak) 현재 팀에서는 예전부터 꾸준히 서버의 메모리 사용량이 우상향하는 현상이 있었다.우리는 java application의 서버를 운용중이고, 거대한 모놀리스 시스템으로 많은 트래픽과 동시에 많은 데이터를 처리하고 있다. 서버를 물리장비에서 컨테이너로 전환한 뒤에, 모니터링하면서 메모리 사용량이 지속적으로 증가하는 것을 알 수 있었다.JVM의 Max Heap은 컨테이너의 50% 수준으로 설정해놓았고, 그 외 Metaspace, native memory, cache 등의 용량을 생각해봐도 이해할 수 없는 수치로 계속해서 올라갔고, 어디선가 메모리 누수가 발생하고 있음이 분명했다. # Heap & Metaspace 영역 체크사실 Java 개발자는 직접적으로 작업해서 관여할 수 있는 메모리 영역이 주로 JVM he.. 더보기
[Spring] Guava RateLimiter 사용법 (spring throttling) Spring에서 throttling을 하기 위해 Guava의 RateLimiter가 주로 사용된다. 사용법과 예제를 정리해본다. Guava Rate Limiter Rate Limiter는 초당 실행횟수를 제어해서 throttling을 도와주는 클래스이다. 라이브러리 추가 dependencies { implementation("com.google.guava:guava:31.1-jre") } 1초에 한번 실행 describe("1초에 1번 실행") { val rateLimiter = RateLimiter.create(1.0) // RateLimiter 생성 repeat(10) { val startTime = ZonedDateTime.now().second rateLimiter.acquire() // = ra.. 더보기
[Spring] 외부 API 호출 서비스 테스트코드 작성하기 (WebClient & MockWebServer) Spring에서는 API를 호출할 수 있는 많은 REST Client를 제공한다. 그 중에서도 WebClient가 가장 많이 추천되는 편이다. Spring 팀에서도 RestTemplate의 대안으로 WebClient를 추천하고 있고, Reactive 환경과 MSA를 생각하고 있다면, WebClient는 좋은 대안이 될 것이다. 그럼 이러한 WebClient로 작성한 서비스는 어떻게 테스트 코드를 작성할 수 있을까? 두가지 방법이 존재한다. Mockito를 사용하는 방법 실제 WebClient를 사용하고, MockWebServer를 호출하는 방법 Mockito를 이용해 일일히 stubbing하는 방법도 있지만, 이 방법은 너무 번거롭고 복잡하다. 또한, 테스트하려는 서비스가 WebClient 동작방식에 대.. 더보기
[Spring boot] Hikari CP 적용 & 커넥션 누수 이슈 데이터베이스와 애플리케이션을 연결해주는 커넥션 풀은 다양한 오픈소스 라이브러리가 존재한다. Apache Commons DBCP Tomcat JDBC Bone CP Hikari CP 등등.. Spring boot 2.0부터는 Hikari CP를 default 커넥션 풀로 채택하고 있다. 따라서, 최근 프로젝트를 생성한 경우라면, 기본적으로 Hikari CP를 사용하기 때문에 굳이 다른 커넥션 풀로 전환하는 일은 드물 것이다. # Hikari CP 적용 Spring Boot가 기본적으로 데이터베이스에 대한 설정을 자동으로 생성해주기 때문에, 해당 설정을 특별히 제외하지 않았고, Spring Boot 2.0 이상의 프로젝트를 생성했다면 property 설정만으로 간단하게 Hikari CP를 구성할 수 있다. .. 더보기
[Spring] REQUIRES_NEW과 Exception (REQUIRES_NEW는 정말 독립적인가?) 흔히들 많이 사용하고 기본적으로 작동하는 것이 Propagation.REQUIRED 전파 레벨을 사용한다. 그 다음은 여러 이유로 REQUIRES_NEW 전파 레벨이 사용되는 편인데, 이 둘의 개념을 먼저 간단히 살펴보자. Propagation.REQUIRED 트랜잭션이 존재하면 기존의 트랜잭션이 전파된다. 만약 존재하지 않는다면 트랜잭션을 새로 시작한다. Propagtion.REQUIRES_NEW 매번 새로운 트랜잭션을 생성한다. 그렇다면 REQUIRES_NEW는 부모 트랜잭션에서 완전 독립적인 트랜잭션을 생성하는가 ? 꽤나 많은 곳에서 REQUIRES_NEW는 부모와는 아예 독립된 공간을 생성하는 것으로 표현되고 있고 나 역시 그렇게 알고 있었다. 독립된 공간은 부모 트랜잭션과 새롭게 생긴 자식 트랜.. 더보기
나만의 코딩컨벤션 작성하기(Spring, Java, Naming, 구조, 코드 작성법 등) 현재(2020. 04) 나만의 코딩 컨벤션을 기록으로 남겨 계속해서 보완해나갈 생각이다. 물론 회사에서 하는 작업물은 나의 스타일과 안맞더라도 회사의 코딩컨벤션을 따르는 것이 맞다. 하지만, 회사의 컨벤션을 그냥 무심코만 따라하기만 하면 잘못된 스타일이 몸에 밸수도 있고 나의 스타일이 그냥 회사에 맞춰지게 된다. 나만의 코딩 컨벤션을 기록으로 남기고 꾸준히 보완해나갈 생각이다. 코딩컨벤션이란 어느 블로그에서 본 글인데, 가장 코딩컨벤션을 쉽게 표현한 것 같아 인용해서 설명하면 다음과 같다. 프로그래밍 언어는 한글, 영어, 일본어 등과 흡사하다. 한글에도 지역마다 사투리가 존재하고 그 지역에서 원활한 소통을 하려면 그 지역의 사투리를 잘 배우고 사용해야 한다. 이는 프로그래밍 세계에서도 마찬가지이다. 코딩.. 더보기
[Spring] Retry 재시도 로직 구현하기 With Kotlin 서버를 운영하다보면 일시적인 오류가 종종 발생한다. 특히나 어플리케이션 간의 통신에서 이러한 일시적인 오류가 빈번하게 생기는 편이다. 이러한 오류는 재시도를 통해 문제가 해결되는 케이스가 대부분이다. 이를 위해 스프링에서는 `@Retryable` 이라는 어노테이션을 제공해서 해당 메소드 위에 어노테이션만 붙여주면 간단하게 재시도 할 수 있는 로직을 구현할 수 있다. 하지만 AOP 특성 상 어노테이션이 동작하기 위해서는 외부에서 해당 메소드를 호출해야한다. 고작 한줄만 재시도 로직이 필요한 상황인데, 그 한줄을 다른 클래스로 빼야되는 귀찮은 상황이 발생할 수 있다. 여기저기 Retryable 어노테이션이 붙어있는 것과 위에서 언급한 AOP의 단점을 보완하기 위해 특정 비즈니스 로직을 재시도할 수 있는 Re.. 더보기

티스토리툴바