1-2. 운영체제 구조 및 시스템 콜

1. 운영체제의 역할과 구조

운영체제(Operating System, OS)는 컴퓨터 하드웨어와 사용자 사이에서 중개자 역할을 수행하는 소프트웨어입니다. 마치 자동차의 엔진과 운전자 사이에 있는 변속기와 같습니다. 사용자는 운영체제를 통해 컴퓨터의 자원(CPU, 메모리, 저장 장치 등)을 효율적으로 활용하고, 복잡한 하드웨어 제어 없이 원하는 작업을 수행할 수 있습니다.

1) 운영체제의 주요 기능

운영체제는 다음과 같은 핵심 기능을 담당합니다.

• 프로세스 관리: 프로그램의 실행, 종료, 스케줄링 등을 관리합니다. 마치 여러 작업을 동시에 처리할 수 있도록 작업 순서를 정하고, 각 작업에 필요한 자원을 할당하는 것과 같습니다.
• 메모리 관리: 메모리 할당 및 해제를 효율적으로 관리하여, 여러 프로그램이 동시에 메모리를 사용할 수 있도록 합니다. 이는 마치 여러 명이 좁은 공간을 효율적으로 사용하도록 공간을 분할하고 관리하는 것과 유사합니다.
• 파일 시스템 관리: 파일을 저장하고 관리하며, 파일에 대한 접근 권한을 제어합니다. 이는 마치 도서관에서 책을 정리하고, 대출 및 반납 절차를 관리하는 것과 같습니다.
• 입출력 관리: 키보드, 마우스, 디스크 등 다양한 장치와의 통신을 관리합니다. 이는 마치 각 부품이 원활하게 소통할 수 있도록 통신 프로토콜을 설정하는 것과 같습니다.
• 보안 관리: 시스템 자원에 대한 접근 권한을 관리하고, 사용자 인증을 수행하여 시스템을 보호합니다. 마치 출입 통제 시스템과 같아서, 허가된 사람만 시스템에 접근할 수 있도록 합니다.

2) 운영체제 구조

운영체제는 여러 구성 요소로 이루어져 있으며, 각 요소는 특정한 역할을 수행합니다. 주요 구성 요소는 다음과 같습니다.

• 커널(Kernel): 운영체제의 핵심 부분으로, 하드웨어를 직접 제어하고 시스템의 핵심 기능을 수행합니다. 커널은 프로세스 관리, 메모리 관리, 파일 시스템 관리 등 모든 중요한 작업을 담당하며, 마치 컴퓨터의 두뇌와 같습니다.
• 쉘(Shell): 사용자와 커널 사이에서 명령을 해석하고 실행하는 인터페이스입니다. 쉘은 사용자가 입력한 명령어를 커널이 이해할 수 있도록 변환하고, 그 결과를 사용자에게 보여줍니다. 이는 마치 컴퓨터와 대화할 수 있는 언어 번역기와 같습니다.
• 시스템 콜(System Call): 사용자 프로그램이 커널의 기능을 사용하기 위한 인터페이스입니다. 사용자 프로그램은 시스템 콜을 호출하여 커널에 특정 작업을 요청하고, 커널은 해당 작업을 수행한 후 결과를 반환합니다. 이는 마치 사용자가 컴퓨터에게 특정한 요청을 하는 것과 같습니다.

Source: GeeksforGeeks

위 그림은 운영체제의 일반적인 구조를 나타냅니다. 사용자 프로그램은 쉘을 통해 시스템 콜을 호출하여 커널의 서비스를 이용하고, 커널은 하드웨어를 제어하여 해당 작업을 수행합니다.

2. 시스템 콜의 동작 원리

시스템 콜은 사용자 프로그램이 운영체제의 서비스를 요청하는 방법입니다. 시스템 콜의 동작 원리를 이해하는 것은 운영체제의 작동 방식을 이해하는 데 중요합니다.

1) 시스템 콜의 종류

시스템 콜은 다양한 작업을 수행하기 위해 여러 종류로 분류됩니다. 주요 시스템 콜의 예시는 다음과 같습니다.

• 프로세스 관리: fork(), exec(), wait() 등
• 파일 관리: open(), read(), write(), close() 등
• 메모리 관리: malloc(), free() 등
• 네트워킹: socket(), connect(), send(), recv() 등

각 시스템 콜은 특정 작업을 수행하도록 설계되어 있으며, 사용자 프로그램은 필요한 기능을 수행하기 위해 해당 시스템 콜을 호출합니다.

2) 시스템 콜의 호출 과정

사용자 프로그램이 시스템 콜을 호출하는 과정은 다음과 같습니다.

1. 시스템 콜 호출: 사용자 프로그램은 특정 시스템 콜을 호출합니다. 예를 들어, 파일을 읽기 위해 read() 시스템 콜을 호출할 수 있습니다.
2. 트랩(Trap) 발생: 시스템 콜을 호출하면, CPU는 현재 실행 중인 모드(사용자 모드)에서 커널 모드로 전환됩니다. 이 과정에서 트랩이라는 특별한 인터럽트가 발생합니다.
3. 시스템 콜 핸들러 실행: 커널은 트랩을 감지하고, 해당 시스템 콜을 처리하는 시스템 콜 핸들러를 실행합니다. 시스템 콜 핸들러는 시스템 콜의 기능을 수행하는 코드를 포함합니다.
4. 커널 작업 수행: 시스템 콜 핸들러는 필요한 작업을 수행합니다. 예를 들어, read() 시스템 콜의 경우, 파일에서 데이터를 읽어 메모리에 저장합니다.
5. 결과 반환: 시스템 콜 핸들러는 작업의 결과를 사용자 프로그램에 반환합니다. 예를 들어, 읽어들인 데이터 또는 에러 코드를 반환합니다.
6. 모드 전환 및 제어 복귀: 커널은 사용자 모드로 다시 전환하고, 사용자 프로그램의 실행을 재개합니다.

Source: GeeksforGeeks

위 그림은 시스템 콜의 호출 과정을 도식적으로 보여줍니다. 사용자 모드에서 시스템 콜을 호출하면, 커널 모드로 전환되어 시스템 콜 핸들러가 실행되고, 작업이 완료된 후 다시 사용자 모드로 돌아옵니다.

3) 사용자 모드와 커널 모드

운영체제는 시스템의 보안과 안정성을 유지하기 위해 사용자 모드(User Mode)와 커널 모드(Kernel Mode)를 구분하여 사용합니다.

• 사용자 모드: 일반적인 사용자 프로그램이 실행되는 모드입니다. 사용자 모드에서는 하드웨어에 직접 접근하거나 시스템의 핵심 기능을 사용할 수 없습니다. 이는 마치 일반 시민이 국가의 중요한 정책 결정에 직접 참여할 수 없는 것과 같습니다. 사용자 모드에서 시스템 자원에 직접 접근하면, 운영체제가 시스템 콜을 통해 이를 통제합니다.
• 커널 모드: 운영체제 커널이 실행되는 모드입니다. 커널 모드에서는 하드웨어에 직접 접근하고 시스템의 모든 기능을 사용할 수 있습니다. 커널 모드는 시스템의 핵심 기능을 보호하고, 시스템 전체를 관리하는 역할을 수행합니다. 이는 마치 국가의 핵심 업무를 수행하는 정부 기관과 같습니다.

사용자 모드와 커널 모드의 구분은 시스템의 안정성을 보장하고, 보안을 강화하는 데 중요한 역할을 합니다. 사용자 프로그램이 시스템 자원에 직접 접근하는 것을 막고, 오직 시스템 콜을 통해서만 접근하도록 함으로써, 악의적인 프로그램이 시스템을 손상시키는 것을 방지합니다. 또한, 커널은 메모리 보호, 권한 관리 등을 통해 시스템의 안전성을 유지합니다.

3. 시스템 콜의 예시: read()

파일에서 데이터를 읽어오는 read() 시스템 콜을 예시로 시스템 콜의 동작을 자세히 살펴보겠습니다.

1) read() 시스템 콜의 역할

read() 시스템 콜은 파일로부터 데이터를 읽어 사용자 프로그램의 버퍼에 저장하는 기능을 수행합니다. 사용자는 open() 시스템 콜을 통해 파일을 열고, read() 시스템 콜을 사용하여 파일 내용을 읽어올 수 있습니다.

2) read() 시스템 콜의 호출 및 처리 과정

1. read() 호출: 사용자 프로그램은 파일 디스크립터(file descriptor), 버퍼, 읽을 바이트 수를 인자로 하여 read() 시스템 콜을 호출합니다.
2. 트랩 발생: read() 시스템 콜 호출은 CPU를 커널 모드로 전환시킵니다.
3. 시스템 콜 핸들러 실행: 커널은 read() 시스템 콜 핸들러를 실행합니다.
4. 파일 검사: 시스템 콜 핸들러는 먼저 파일 디스크립터가 유효한지, 읽기 권한이 있는지 등을 확인합니다.
5. 데이터 읽기: 파일 시스템을 사용하여, 파일로부터 지정된 바이트 수만큼 데이터를 읽어 사용자 프로그램이 제공한 버퍼에 복사합니다. 이 과정에서 하드웨어 장치(디스크)에 접근하여 데이터를 읽어올 수 있습니다.
6. 결과 반환: read() 시스템 콜 핸들러는 읽어온 바이트 수 또는 에러 코드를 사용자 프로그램에 반환합니다.
7. 모드 전환 및 제어 복귀: 커널은 사용자 모드로 전환하고, 사용자 프로그램의 실행을 재개합니다.

Source: gnailuy.com

위 그림은 read() 시스템 콜의 간략한 플로우차트를 보여줍니다. 파일 디스크립터, 버퍼, 읽을 바이트 수를 입력으로 받아 데이터를 읽고, 결과 값을 반환하는 과정을 나타냅니다.

4. 쉘(Shell)과 시스템 콜의 관계

쉘은 사용자와 커널 사이에서 명령을 해석하고 실행하는 인터페이스입니다. 쉘은 사용자가 입력한 명령어를 파싱(Parsing)하고, 해당 명령어를 실행하기 위해 필요한 시스템 콜을 호출합니다.

1) 쉘의 역할

쉘은 다음과 같은 역할을 수행합니다.

• 명령어 해석: 사용자가 입력한 명령어를 분석하여, 명령어의 의미를 파악합니다. 예를 들어, ls -l 명령어를 입력하면, 쉘은 ls 명령어가 무엇을 의미하는지, -l 옵션은 어떤 역할을 하는지 분석합니다.
• 시스템 콜 호출: 분석된 명령어를 실행하기 위해 필요한 시스템 콜을 호출합니다. 예를 들어, ls 명령어는 파일 목록을 얻기 위해 readdir() 시스템 콜을 사용하고, 파일의 속성을 얻기 위해 stat() 시스템 콜을 사용할 수 있습니다.
• 결과 출력: 시스템 콜의 결과를 사용자에게 보여줍니다. 예를 들어, ls -l 명령어를 실행하면, 파일 목록과 함께 파일의 속성 정보를 출력합니다.

2) 쉘의 작동 방식

쉘의 작동 방식은 다음과 같습니다.

1. 명령어 입력: 사용자가 쉘에 명령어를 입력합니다.
2. 명령어 파싱: 쉘은 입력된 명령어를 파싱하여, 명령어와 옵션을 구분하고, 필요한 인자를 추출합니다.
3. 내장 명령어 실행 또는 외부 프로그램 실행: 쉘은 입력된 명령어가 내장 명령어인지, 외부 프로그램인지 확인합니다. 내장 명령어인 경우, 쉘 자체적으로 해당 명령어를 실행합니다. 외부 프로그램인 경우, 해당 프로그램을 실행하기 위해 fork() 시스템 콜을 사용하여 새로운 프로세스를 생성하고, exec() 시스템 콜을 사용하여 외부 프로그램을 실행합니다.
4. 시스템 콜 호출: 외부 프로그램을 실행하는 과정에서, 쉘은 필요한 시스템 콜을 호출합니다. 예를 들어, 파일을 열기 위해 open() 시스템 콜을 호출하고, 파일에서 데이터를 읽어오기 위해 read() 시스템 콜을 호출할 수 있습니다.
5. 결과 출력: 시스템 콜의 결과를 사용자에게 보여줍니다.

Source: esveo

위 그림은 쉘이 명령어를 해석하고, 시스템 콜을 호출하여 결과를 출력하는 과정을 보여줍니다. 사용자는 쉘을 통해 시스템 콜을 간접적으로 호출하여, 컴퓨터의 자원을 활용합니다.

5. 시스템 콜의 중요성 및 활용

시스템 콜은 운영체제와 사용자 프로그램 사이의 핵심 인터페이스입니다. 시스템 콜을 통해 사용자 프로그램은 운영체제의 기능을 활용하고, 컴퓨터 자원을 안전하고 효율적으로 사용할 수 있습니다.

1) 시스템 콜의 중요성

• 자원 접근: 시스템 콜을 통해 사용자 프로그램은 CPU, 메모리, 파일 시스템, 네트워크 등 다양한 자원에 접근할 수 있습니다.
• 안전성: 시스템 콜은 사용자 프로그램이 하드웨어에 직접 접근하는 것을 막고, 운영체제가 자원 접근을 통제함으로써 시스템의 안정성을 보장합니다.
• 추상화: 시스템 콜은 하드웨어의 복잡성을 추상화하여, 사용자 프로그램이 하드웨어의 세부 사항을 몰라도 원하는 기능을 사용할 수 있도록 합니다.

2) 시스템 콜의 활용

시스템 콜은 다양한 분야에서 활용됩니다.

• 프로그래밍: 파일 입출력, 프로세스 관리, 네트워킹 등 다양한 기능을 구현하기 위해 시스템 콜을 사용합니다.
• 운영체제 개발: 새로운 운영체제를 개발하거나, 기존 운영체제를 개선하는 과정에서 시스템 콜을 이해하고 활용해야 합니다.
• 보안: 시스템 콜의 동작을 분석하여, 악성 코드의 동작을 파악하고, 시스템 보안 취약점을 발견할 수 있습니다.

6. 결론

운영체제는 컴퓨터 시스템의 핵심 구성 요소이며, 시스템 콜은 운영체제와 사용자 프로그램 사이의 중요한 인터페이스입니다. 시스템 콜의 개념, 동작 원리, 쉘과의 관계를 이해하는 것은 운영체제의 작동 방식을 이해하고, 컴퓨터 시스템을 효율적으로 활용하는 데 필수적입니다.