[🥉 Bronze 4] 비교식을 뒤집어 키를 복원하다 — DreamHack Easy Assembly 풀이

문제: DreamHack — Easy Assembly 분류: Reversing 난이도: 🥉 Bronze 4 FLAG: DH{UGxlYXNlIGRvIG5vdCBiYXNlNjQgZGVjb2RlIGl0Lg==}

libc 없이 손으로 짠 작은 어셈블리 크랙미다. <key>를 인자로 받아 맞으면 "You nailed it!"을 출력한다. 검사 로직이 XOR 몇 줄뿐이라, 그 식을 뒤집으면 정답 키가 그대로 계산된다.

문제 개요

심볼이 남아 있어(check_password, enc_flag) 흐름 파악이 쉽다. 검사식 한 줄만 뒤집으면 끝난다.

🔬 정찰 — 입력을 enc_flag와 대조한다

entry0는 인자 <key>를 받아 check_password(enc_flag, key)를 부르고, 반환값이 0이면 성공 메시지를 출력한다.

mov  edi, enc_flag          ; 0x804a000 (암호화된 정답)
mov  esi, ecx               ; argv[1] = 사용자 입력 key
call check_password
cmp  eax, 0
je   success                ; 0 이면 "You nailed it!"

enc_flag는 .data에 박힌 42~48바이트짜리 바이트열이다. 사용자 입력을 이 값과 어떤 방식으로 대조하는지가 전부이므로, check_password를 뜯는다.

💣 핵심 — XOR 비교식을 뒤집는다

check_password는 한 글자씩 도는 짧은 루프다.

r2 -q -c "pd 16 @ 0x0804906b" prob

핵심 세 줄이 이렇다.

mov dl, byte [esi]        ; dl = input[i]
xor dl, byte [len]        ; dl ^= len          (입력 길이)
xor dl, byte [edi]        ; dl ^= enc_flag[i]
or  ecx, dl               ; 결과를 ecx에 누적

즉 매 자리마다 input[i] ^ len ^ enc_flag[i]를 구해 ecx에 OR로 쌓고, 끝까지 전부 0이어야(=ecx==0) 통과한다. 이 조건을 자리별로 풀면 정답 키가 곧바로 나온다.

input[i] ^ len ^ enc_flag[i] = 0
⇒ input[i] = enc_flag[i] ^ len

여기서 len은 입력 키의 길이다. 정답 키의 길이가 곧 플래그 길이(48)이므로 len = 48 = 0x30. 결국 정답 키 = enc_flag ^ 0x30 이다. XOR은 자기역원이라, 저장된 enc_flag를 같은 0x30으로 다시 XOR하면 원문이 복원된다.

🎯 풀이 — enc_flag ^ 0x30

enc_flag 48바이트를 뽑아 0x30으로 XOR한다. 중간에 있는 0x00 바이트도 실제 데이터(0x00 ^ 0x30 = '0')이므로 널로 끊지 않는 게 함정이다.

# decode.py
import base64
data = open("prob", "rb").read()
off  = data.find(bytes.fromhex("74784b6577485c69"))   # enc_flag 시작
enc  = data[off:off+48]                                # 48바이트 (내부 0x00 도 데이터)
flag = bytes(b ^ 0x30 for b in enc).decode()
print("FLAG    :", flag)
print("b64 안쪽 :", base64.b64decode(flag[3:-1]).decode())

복원된 플래그의 DH{} 안쪽은 base64인데, 풀어 보면 Please do not base64 decode it.이라는 장난이 들어 있다. 복원한 키를 실제 바이너리에 넣어 검증한다.

./prob "DH{UGxlYXNlIGRvIG5vdCBiYXNlNjQgZGVjb2RlIGl0Lg==}"

You nailed it!이 떴다. 복원한 키가 정답이 맞다.

FLAG: DH{UGxlYXNlIGRvIG5vdCBiYXNlNjQgZGVjb2RlIGl0Lg==}

📝 결론

검사식은 곧 정답의 방정식이다.

크랙미의 비교 루틴은 "입력이 맞는가"를 판정하려고 정답과의 관계를 코드로 적어 둔 것이다. 그 관계가 XOR처럼 가역이면, 판정식을 입력에 대해 풀기만 하면 정답이 그대로 떨어진다. 브루트포스도 필요 없다.

널이라고 다 끝이 아니다.

enc_flag 중간의 0x00을 문자열 끝으로 착각하면 플래그가 잘린다. 이 바이너리는 길이를 따로 들고 다니며 그 바이트도 데이터로 쓴다. 인코딩된 데이터를 다룰 때 널 종단을 함부로 가정하지 않는 습관이 필요하다.