Linux Kernel – 3 System Call Flows and Kernel Component Differences by Architecture🧠

Linux Kernel – 3 System Call Flows and Kernel Component Differences by Architecture🧠

• 아키텍처별 시스템 콜 흐름과 커널 변경 컴포넌트
• 아키텍처별 시스템 콜 흐름 비교

아키텍처가 달라지면 커널 내부에서 아키텍처 의존성이 강한 부분들이 직접적으로 영향을 받는다.

특히 시스템 콜과 예외 처리, 컨텍스트 스위치 같은 동작은 각 아키텍처의 명령어 집합이나 레지스터

구조에 따라 구현 방식이 크게 달라진다.

아키텍처별 시스템 콜 흐름과 커널 변경 컴포넌트

아키텍처가 바뀌면 커널의 구조와 동작 흐름에 영향을 미치는 주요 컴포넌트가 달라진다.

특히 시스템 콜 호출 방식, 예외 처리, 컨텍스트 스위치, 초기화 루틴, 디바이스 트리 적용 방식은

아키텍처별로 구현 방식이 전혀 다르다. 표로 작성하면 아래와 같다.

위 내용 처럼 아키텍처별로 커널 동작 흐름이 바뀌는 이유는 **각 CPU 아키텍처가 서로 다른 하드웨어 구조와 명령어 집합(ISA: Instruction Set Architecture)**을 가지고 있기 때문이다.

커널은 하드웨어와 직접 맞닿아 있는 소프트웨어이기 때문에, 아래와 같은 요소들이 달라지면 커널의 동작 방식도 구조적으로 달라질 수밖에 없다.

또한 꼭 ISA 의 차이 말고도 레지스터나 부트 초기화 방식에 따라서도 차이가 나타날 수 있으며 보다 상세한 설명은 표로 대체한다.

** 커널 동작 흐름이 아키텍처별로 바뀌는 이유

정리하자면 커널은 단순한 프로그램이 아니라, 하드웨어를 제어하는 프로그램이며,

이에 따라 CPU가 사용하는 명령어, 레지스터, 인터럽트 처리 방식, 메모리 접근 구조가 바뀌면, 이를 전제로 만들어진 커널 코드도 아키텍처에 맞게 설계되어야 한다.

그래서 커널에는 항상 arch/ 디렉터리 아래에 아키텍처별 구현 코드가 따로 존재한다.

이는 단순히 문법이나 표기 방식이 달라지는 것이 아니라, 동작의 기본 원칙과 흐름이 하드웨어 구조에 맞게 설계되어야 한다는 것을 의미한다.

아키텍처별 시스템 콜 흐름 비교

(System Call Flow Comparison by Architecture)

아키텍처별 시스템 콜 흐름 비교를 위해 각 아키텍처가 시스템 콜을 처리하는 방식, 명령어,

레지스터 전달 규약, 진입 시 레벨 변화 등을 정리한 표로 커널 포팅이나

아키텍처별 syscall handler 구현 시 참고하기 위해 정리하였다.

표에서 나타난 주요 차이점에 대해 간단히 설명하자면

x86: 전통적인 방식인 int 0x80 사용, 느리지만 단순함.

x86_64: syscall 명령으로 빠른 진입. syscall 번호는 RAX, 인자는 최대 6개 고정 레지스터.

ARMv7: svc #0을 통해 진입, syscall 번호는 r7 레지스터에, 인자는 r0부터 전달.

ARMv8: ARMv7과 유사하지만 64비트 전용 구조. EL0에서 EL1로 예외 전환되며 x8에 syscall 번호 전달.

ARMv8은 ARMv7과 명령어는 같지만 구조는 훨씬 정교하다. 유저 모드인 EL0에서 커널 모드인 EL1로 전환되며, syscall 번호는 x8, 인자는 x0부터 x5까지 사용된다. 커널은 VBAR_EL1에 지정된 벡터 테이블을 통해 예외를 처리하고, 복귀는 eret 명령으로 수행된다.

커널 개발 프로젝트에 앞서 필자는 "ARMv8" 아키텍처를 사용할 것이며

앞으로 작성되는 글에 대해서는 해당 아키텍처를 기준으로 작성할 예정이다.