[Reversing] 1주차 dreamhack stage 2

1. 프로그램과 컴파일 ​

프로그램 (Program)📒

: 연산 장치가 수행해야 하는 동작을 정의한 일종의 문서이다.

프로그램을 연산 장치에 전달하면, CPU는 적혀있는 명령들을 처리하여 프로그래머가 의도한

동작을 수행한다.

* 사용자가 정의한 프로그램을 해석하여 명령어를 처리할 수 있는 연산 장치를 programmable하다고

한다. 현대의 컴퓨터가 대표적인 programmable 연산 장치, 일반 계산기 대표적인 non-programmable 연산장치

​

· 과거에는 내부 저장 장치에 저장할 수 없어서 사람이 전선을 연결하여 컴퓨터에 전달함 - 애니악(ENIAC)

--> 매우 비효율적이며, 크기가 큰 프로그램을 사용하기도 어려웠다.

▶ 이러한 단점을 해결한 Stored-Program Computer가 1950년에 최초로 상용화되었다.

→ 기존의 컴퓨터들보다 월등히 많은 프로그램을 저장할 수 있었고, 저장된 프로그램을 사용하는 것도 간편했다.

→ 이제는 대부분의 컴퓨터가 Stored-Program Computer 형태로 개발된다.

​

· Stored-Program Computer에서는 프로그램이 저장장치에 이진(Binary) 형태로 저장된다.

→ 엔지니어들이 프로그램을 바이너리(Binary)라고 부르곤 한다.

​

​

​

​

컴파일러와 인터프리터

프로그래밍 언어 (Programming Language)

: 프로그램을 개발하기 위해 사용하는 언어

- C, C++, Go, Rust와 같은 고급언어들과 어셈블리어, 기계어 등의 저급 언어들이 있다.

​

소스 코드 (Source Code)

: CPU가 수행해야 할 명령들을 프로그래밍 언어로 작성한 것

​

컴파일 (Compile)

: 소스 코드를 컴퓨터가 이해할 수 있는 기계어의 형식으로 번역하는 것

​

컴파일러 (Compiler)

: 컴파일을 해주는 소프트웨어 ex) GCC, Clang, MSVC

​

* Python, Javascript 등의 언어는 컴파일을 필요로 하지 않는다.

- 이 언어들은 사용자의 입력, 사용자가 작성한 스크립트를 그때 그때 번역하여 CPU에 전달함

-> 이 동작이 통역과 비슷하여 인터프리팅 (Interpreting) 이라고 부르고,

이를 처리해주는 프로그램을 인터프리터 (Interpreter) 라고 한다.

​

​

​

​

컴파일 과정

- C언어로 작성된 코드는 일반적으로 전처리(Preprocess), 컴파일(Compile), 어셈블(Assemble), 링크(Link)의 과정을 거쳐 바이너라고 번역된다.

​

※ 컴파일 과정 속 컴파일

컴파일(Compile)의 정확한 의미는 어떤 언어로 작성된 소스 코드(Source Code)를 다른 언어의 목적 코드(Object Code)로 번역하는 것이다.

소스 코드를 어셈블리어로, 소스 코드를 기계어로 번역하는 것 모두 컴파일이다.

​

​

​

​

전처리 (Preprocessing)

: 컴파일러가 소스 코드를 어셈블리어로 컴파일 하기 전에, 필요한 형식으로 가공하는 과정

​

전처리 과정

① 주석 제거

: 주석은 프로그램의 동작과 상관이 없으므로 전치리 과정에서 모두 제거됨

② 매크로 치환

: 전처리 과정에서 매크로(#define)의 이름은 값으로 치환된다.

③ 파일 병합

: 일반적인 프로그램은 여러 개의 소스와 헤더 파일로 이루어져 있다. -> 따로 컴파일해서 합치기도 하지만 전처리 단계에서 파일을 합치고 컴파일하기도 함

 

// Name: add.c
#include "add.h"
#define HI 3
int add(int a, int b) { return a + b + HI; }  // return a+b

// Name: add.h
int add(int a, int b);

gcc에서는 -E옵션을 사용하여 소스 코드의 전처리 결과를 확인할 수 있다.

결과를 살펴보면 소스 코드의 주석인 // return a+b가 사라졌고, HI가 3으로 치환되었다.

그리고 add.h의 내용이 #include로 인해 병합됨을 확인할 수 있다.

​

​

​

​

​

컴파일

// Name: opt.c
// Compile: gcc -o opt opt.c -O2
#include <stdio.h>
int main() {
  int x = 0;
  for (int i = 0; i < 100; i++) x += i; // x에 0부터 99까지의 값 더하기
  printf("%d", x);
}

컴파일 후 디버깅

disassemble main

 

위와 같이 -02 옵션을 사용해서 opt.c를 최적화하여 컴파일하면, 컴파일러는 반복문을 어셈블리어로 옯기는 것이 아니라, 반복문의 결과로 x가 가질 값을 직접 계산하여, 이를 대입하는 코드를 생성한다.

최적화를 하게되면 최적화를 적용하지 않았을 때보다 더 짧고, 실행 시간도 더 단축되는 어셈블리 코드가 만들어진다.

​

위와 같이 "-S" 옵션을 이용하면 소스 코드를 어셈블리 코드로 컴파일할 수 있다.

​

​

​

​

​

어셈블 (Assemble)

: 컴파일로 생성된 어셈블리어 코드를 ELF형식의 목적 파일(Object file)로 변환하는 과정이다.

목적파일로 변환되고 나면 어셈블리 코드가 기계어로 번역되므로 더이상 사람이 해석하기 어려워진다.

​

* ELF : 리눅스의 실행파일 형식

윈도우에서 어셈블하면 목적파일은 PE형식

일부 캡쳐

위 사진은 gcc의 "-c" 옵션을 통해 add.S를 목적 파일로 변환하고, 결과로 나온 파일을 hexdump 명령어를 사용해서 16진수로 출력한 것이다. 읽을 수 있는 문자열 중 코드로 보이는 것은 없다.

​

​

​

​

링크 (Link)

: 여러 목적 파일들을 연결하여 실행 가능한 바이너리로 만드는 과정이다.

// Name: hello-world.c
// Compile: gcc -o hello-world hello-world.c
#include <stdio.h>
int main() { printf("Hello, world!"); }

다음 코드에서 printf 함수를 호출하지만, printf함수의 정의는 hello-world.c에 없으며, libc라는 공유

라이브러리에 존재한다. libc는 gcc의 기본 라이브러리 경로에 있는데, 링커는 바이너리가 printf를 호출하면 libc의 함수가 실행될 수 있도록 연결해준다. 링크를 거치고 나면 실행할 수 있는 프로그램이 완성된다.

​

 

다음은 add.o를 링크하는 명령어이다.

링크하는 과정에서 링커는 main함수를 찾는데, add의 소스코드에는 main함수의 정의가 없으므로 에러가 발생할 수 있다. 이를 방지하기 위해 --unresolved-stmbols를 컴파일 옵션에 추가해주었다.

​

​

2. 디스어셈블과 디컴파일

디스어셈블 (Disassemble)

: 기계어를 어셈블리어로 재번역학자 하는 과정 -> 어셈블의 역과정이므로 디스어셈블이라고 부른다.

​

일부 캡쳐

위의 명령어로 디스어셈블된 결과를 확인할 수 있다.

​

​

​

​

디컴파일

: 바이너리를 고급 언어로 번역하는 과정

​

* 디컴파일러 (Decompiler)

-> 어셈블리어보다 고급언어로 바이너리를 번역함

디컴파일러는 일반적으로 바이너리의 소스 코드와 동일한 코드를 생성하지는 못한다.

그러나, 이 오차가 바이너리의 동작을 왜곡하지는 않으며, 디스어셈블러를 사용하는 것보다 압도적으로 분석 효율을 높여주기 때문에 디컴파일러를 사용하는 것이 유리하다.