[Spring MVC][웹 애플리케이션 이해] - 3. 동시 요청 - 멀티 쓰레드

💻본 포스팅은 '스프링 MVC 1편 - 백엔드 웹 개발 핵심 기술 - 김영한'님의 강의를 듣고 작성되었습니다.

https://www.inflearn.com/course/%EC%8A%A4%ED%94%84%EB%A7%81-mvc-1/dashboard

스프링 MVC 1편 - 백엔드 웹 개발 핵심 기술 - 인프런 | 강의

---

[쓰레드]

• 애플리케이션 코드를 하나하나 순차적으로 실행하는 것을 쓰레드라고 한다.
• 자바 메인 메서드를 처음 실행한다면 main 이라는 이름의 쓰레드가 실행된다.
• 이때 쓰레드가 없다면? 자바 애플리케이션 실행 자체가 불가능하게 된다.
• 쓰레드는 한번에 하나의 코드 라인만 수행한다
• 동시 처리가 필요하다면 쓰레드를 추가로 생성해준다.

 

 

[쓰레드 사용]

[단일 요청의 경우]

 

[다중 요청의 경우?]

• 그러나 이 경우 요청마다 쓰레드를 생성하게 되면 이 역시 문제가 발생하게 된다.

 

[요청 마다 쓰레드 생성의 장단점]

• 장점
  • 동시 요청을 처리할 수 있다. (하나의 처리에 처리 지연이 있더라도 다른 요청의 처리에는 영향을 주지 않는다.)
  • 리소스(CPU,  메모리)가 허용할 때 까지 처리 가능하다
  • 하나의 쓰레드의 지연에도 나머지 쓰레드는 정상 동작한다
• 단점
  • 쓰레드는 생성 비용이 매우 비싼데 이것을 요청마다 생성하는 것은 비용 낭비가 크다.
  • 고객 요청마다 쓰레드 생성이 있으면, 응답 속도 역시 늦어지게 된다.
  • 쓰레드는 컨텍스트 스위칭 비용이 발생한다.
  • 쓰레드 생성에는 제한이 없다.
    • 이는 고객 요청마다 쓰레드를 생성해낼 때 너무 많은 요청이 오게 되면 CPU, 메모리 임계점을 넘어서 서버가 죽을 수 있게 된다. 서버는 한 번 죽게 되면 복구하기가 매우 어렵다.

 

 

[쓰레드 풀]

• 쓰레드 생성의 제한이 없는 것을 보완해서 서버가 죽는 일을 방지하고자 등장한 개념으로 쓰레드 풀이 있다.
• 특징
  • 필요한 쓰레드를 쓰레드 풀에 보관하고 관리해준다.
  • 쓰레드 풀에 생성 가능한 쓰레드의 최대치를 관리한다. 톰캣은 최대 200개 기본 설정(변경이 가능하다)
• 사용
  • 쓰레드가 필요하면, 이미 생성된 쓰레드를 쓰레드 풀에서 꺼내 사용한다. (과거에는 필요할 때 마다 쓰레드를 생성해서 제공하는 방식으로 진행했다.)
  • 사용 종료하면 쓰레드 풀에 해당 쓰레드를 반납한다.(과거에는 다 쓰고 나면 종료시켰다.) 
  • 최대 쓰레드가 모두 사용 중이라서 쓰레드 풀에 쓰레드가 없다면?
    • 기다리는 요청을 거절하거나 특정 숫자만큼만 대기하도록 설정할 수 있다.
• 장점
  • 쓰레드가 미리 생성되어 있기 때문에 쓰레드를 생성하고 종료하는 비용(CPU)이 절약되고, 응답 시간이 매우 빠르다.
  • 생성 가능한 쓰레드의 최대치가 있기 때문에 너무 많은 요청이 들어와도 기존 요청은 안전하게 처리 가능하다.

 

 

[WAS의 멀티 쓰레드 지원 - 핵심]

• 멀티 쓰레드에 대한 부분은 WAS가 처리해준다.
• 개발자는 멀티 쓰레드에 관련된 코드를 전혀 신경쓰지 않아도 된다.
• 개발자는 마치 싱글 쓰레드 프로그래밍을 하듯이 편리하게 소스 코드를 개발하면 된다.
• 멀티 쓰레드 환경이기 때문에 싱글톤 객체(서블릿, 스프링 빈)는 주의해서 사용해야 한다!