프로세스(Process)
운영체제로부터 메모리를 할당받아 실행되는 작업(task)의 단위.
Task vs Process
호기심에 찾아보았는데, task와 process는 거의 같은 의미로 사용되지만 엄밀히 따졌을 때 약간의 차이가 있다고 한다.
Process는 메모리 상에서 Input/output 작업을 포함하지 않고 실행되는 작업을 의미하고, Task는 Input/output을 포함하는 작업을 의미한다. 따라서 "멀티태스킹" 이 가능하다는 것은 동시에 여러 I/O Stream을 실행할 수 있다는 것을 의미하고, "멀티프로세싱"이 가능하다는 것은 동시에 여러 프로세스에서 연산이 일어날 수는 있지만, I/O Stream은 하나만 존재하며 이를 여러 프로세스에서 바꿔가며 사용한다는 것을 의미한다.
"Strictly speaking, "processing" is work performed in memory that does not involve input/output operations. A "task" is a process that includes I/O operations. Accordingly, a multi-tasking system can run concurrent I/O streams, whereas a multi-processing system must task switch its I/O. PC's have only one mouse, keyboard, etcetera, so they are not multi-tasking systems to me. I consider a mainframe to be a multi-tasking system."
참고: stackoverflow.com/questions/2560939/task-vs-process-is-there-really-any-difference
하나의 프로세스는 하나의 Heap, Static, Code 메모리를 할당받고, 여러 스레드를 보유할 수 있다.
하나의 프로세스가 중지되고 다른 프로세스가 실행되는 등, 프로세스의 실행 상태가 변할 때 Context Switching이 일어난다.
일반적인 상황에서 프로세스들은 서로 영향을 주지 않고, 서로가 서로의 메모리에 접근할 수 없다.
쓰레드(Thread)
하나의 프로세스 내에서 프로세스의 자원을 사용하며 실행되는 실행 흐름(flow)의 단위.
하나의 스레드는 자신만의 Stack, Register을 할당받는다.
자신만의 스택을 할당받았기 때문에 스레드에서는 독립적인 함수 호출이 가능하고, 따라서 하나의 스레드는 독립적인 실행 흐름(flow)를 갖는다.
Heap, Static, Code 메모리의 경우, 스레드는 자신이 속한 프로세스의 메모리를 사용한다.
때문에 하나의 프로세스 내에 속한 스레드들은 일부 메모리를 공유하며, 서로 빠르게 통신이 가능하다.
프로세스와 마찬가지로, 스레드에서도 실행, 준비, 대기 등 실행상태가 변할 때마다 Context Switching이 일어난다. 그러나 이는 프로세스에 비해 훨씬 빠르게 일어난다.
<스레드의 Context Switching이 프로세스보다 더 빠른 이유>
CPU는 연산을 처리할 때 캐쉬 메모리에 자주 사용하는 데이터를 저장한다.
만약 프로세스에서 Context Switching이 발생할 경우, 프로세스 간에는 메모리를 공유하지 않기 때문에 캐쉬 메모리를 리셋한 후 새로 불러와야 하는데,
반면 스레드에서 Context Switching이 발생한 경우, 스레드 간에는 일부 메모리를 공유하기 때문에 캐쉬 메모리를 리셋하지 않아도 된다.
그렇다면 멀티스레딩과 멀티프로세싱은 무엇일까?
이를 CPU가 어떻게 작업을 분할해서 처리하는지와 함께 살펴보자.
CPU의 병렬 처리(Parallal Processing), 동시 처리(Concurrent Processing)
CPU에는 코어와 스레드라는 개념이 존재한다.
하나의 CPU는 여러 개의 코어를 가질 수 있고, 하나의 코어는 여러 개의 스레드를 가질 수 있다.
이때, 서로 다른 코어에서는 병렬적으로 작업을 분산해 한 번에 처리할 수 있다.
즉 하나의 작업을 쪼개 각각의 코어에서 동시에 처리할 수 있다.
이러한 과정을 병렬 처리(Parallel Computing)이라고 한다.
이와 굉장히 유사한 개념이 멀티 프로세싱(Multi Processing)인데, 병렬 처리가 하나의 큰 작업(one big task)을 여러 개로 분산하는 것이라면, 멀티 프로세싱은 여러 개의 작업(multiple tasks)을 동시에 진행하는 것이다.
(이 둘은 굉장히 비슷하기 때문에 거의 동의어처럼 사용되긴 한다)
CPU는 프로세스 단위로는 병렬적으로 연산이 가능하지만, 스레드 단위로는 병렬적으로 연산할 수 없다.
때문에 CPU는 스레드 하나를 실행하다 멈추고 다른 스레드를 실행하는 방식으로 동작하는데, 이러한 방식을 동시 처리(Concurrent Computing)라고 한다.
동시 처리와 유사한 개념이 멀티 스레딩(Multi Threading)이다. 멀티 스레딩은 겉으로는 여러 개의 스레드가 병렬적으로 진행되는 것 처럼 보이지만, 실제로는 CPU에서 Thread Context Switching을 반복하며, 하나의 코어에서 한 번에 하나의 스레드만을 실행한다.
어차피 한 번에 하나의 스레드만이 실행된다면 왜 멀티스레딩을 사용할까?
만약 100% CPU 연산만으로 처리되는 프로그램이 있다면, 실제로 멀티 스레딩을 하면 그냥 실행했을 때보다 더 오랜 시간이 걸릴 것이다. Thread Context Switching에 추가적인 시간이 소모되기 때문이다.
그러나 대부분의 프로그램은 I/O나 네트워크의 영향을 받고, 이러한 시간동안 CPU가 가만히 쉬고 있는 것보다 쓰레드를 변경해 다른 연산을 수행하도록 하는게 전체 실행 시간을 줄일 수 있다.
참고 자료:
지금까지의 내용을 예시로 정리해보자면,
CPU 코어 하나는 노동자 한 명이라고 할 수 있고,
코어의 스레드 하나는 해당 노동자가 일하는 컨베이어 벨트 하나라고 할 수 있다.
여러 노동자가 서로 다른 작업을 하는게 가능하지만, (프로세스 병렬 처리)
노동자는 한 번에 하나의 컨베이어 벨트에서만 일할 수 있다. (스레드는 병렬 처리 불가)
하지만 숙련된 노동자라면 여러 컨베이어 사이를 빠르게 옮겨가며 높은 능률을 보여줄 것이다. (스레드의 동시 처리)
공장에서 4명의 노동자가 역할을 나눠 한 종류의 장난감을 만들어내는 것은 병렬 처리로 볼 수 있고,
공장은 같아도 장난감 만드는 사람 1명, 샌드위치 만드는 사람 1명, 우산 만드는 사람 1명, 옷 만드는 사람 1명 이렇게 업무가 전혀 다르다면 이는 멀티 프로세싱으로 볼 수 있다.
노동자가 컨베이어 벨트를 바꾸는 걸 스레드의 Context Switching이라고 볼 수 있고,
(ex. 장난감 자동차의 바퀴를 조립하는 컨베이어 벨트에서 장난감 자동차에 스티커를 붙이는 컨베이어 벨트로 이동함)
노동자가 하는 작업의 종류 자체를 바꾸는 걸 프로세스의 Context Switching이라고 볼 수 있다.
(ex. 장난감 자동차 조립에서 샌드위치 포장으로 업무가 변함)
'os > multithreading, parallel computing' 카테고리의 다른 글
| 메모리 정책(memory order), 메모리 장벽(memory fence/barrier) (0) | 2022.09.10 |
|---|---|
| lock-free atomic calculation (0) | 2022.09.10 |
| 멀티스레드 환경에서 발생하는 문제들 (0) | 2022.09.10 |
| 스레드의 race condition (0) | 2021.05.26 |