[🥉 Bronze 4] 비교식을 뒤집어 키를 복원하다 — DreamHack Easy Assembly 풀이

2026-07-13·1분 읽기·

[🥉 Bronze 4] 비교식을 뒤집어 키를 복원하다 — DreamHack Easy Assembly 풀이

손으로 짠 어셈블리 크랙미. check_password가 입력을 len과 enc_flag로 XOR해 0인지 검사하는데, 이 비교식을 뒤집으면 정답 키 = enc_flag ^ len 이다. 키 길이가 48이라 enc_flag를 0x30으로 XOR하면 플래그가 바로 나오고, 그 키를 넣으면 "You nailed it!"으로 확인된다.

문제: DreamHack — Easy Assembly 분류: Reversing 난이도: 🥉 Bronze 4 FLAG: DH{UGxlYXNlIGRvIG5vdCBiYXNlNjQgZGVjb2RlIGl0Lg==}

libc 없이 손으로 짠 작은 어셈블리 크랙미다. <key>를 인자로 받아 맞으면 "You nailed it!"을 출력한다. 검사 로직이 XOR 몇 줄뿐이라, 그 식을 뒤집으면 정답 키가 그대로 계산된다.

check_password의 비교식(input^len^enc_flag==0)을 뒤집으면 정답 키 = enc_flag ^ len, 즉 enc_flag ^ 0x30
check_password의 비교식(input^len^enc_flag==0)을 뒤집으면 정답 키 = enc_flag ^ len, 즉 enc_flag ^ 0x30

문제 개요

항목내용
문제명Easy Assembly
난이도🥉 Bronze 4
분류Reversing (x86 32-bit ELF, static, not stripped)
제공 파일prob (직접 작성한 어셈블리 바이너리)
핵심 기법XOR 비교식 역산 — 정답 키 = enc_flag ^ len

심볼이 남아 있어(check_password, enc_flag) 흐름 파악이 쉽다. 검사식 한 줄만 뒤집으면 끝난다.



🔬 정찰 — 입력을 enc_flag와 대조한다

entry0는 인자 <key>를 받아 check_password(enc_flag, key)를 부르고, 반환값이 0이면 성공 메시지를 출력한다.

mov  edi, enc_flag          ; 0x804a000 (암호화된 정답)
mov  esi, ecx               ; argv[1] = 사용자 입력 key
call check_password
cmp  eax, 0
je   success                ; 0 이면 "You nailed it!"

enc_flag는 .data에 박힌 42~48바이트짜리 바이트열이다. 사용자 입력을 이 값과 어떤 방식으로 대조하는지가 전부이므로, check_password를 뜯는다.


💣 핵심 — XOR 비교식을 뒤집는다

check_password는 한 글자씩 도는 짧은 루프다.

r2 -q -c "pd 16 @ 0x0804906b" prob
radare2 check_password 디스어셈블 — input[i] ^ len ^ enc_flag[i] 를 누적(or)해 0인지 검사
radare2 check_password 디스어셈블 — input[i] ^ len ^ enc_flag[i] 를 누적(or)해 0인지 검사

핵심 세 줄이 이렇다.

mov dl, byte [esi]        ; dl = input[i]
xor dl, byte [len]        ; dl ^= len          (입력 길이)
xor dl, byte [edi]        ; dl ^= enc_flag[i]
or  ecx, dl               ; 결과를 ecx에 누적

즉 매 자리마다 input[i] ^ len ^ enc_flag[i]를 구해 ecx에 OR로 쌓고, 끝까지 전부 0이어야(=ecx==0) 통과한다. 이 조건을 자리별로 풀면 정답 키가 곧바로 나온다.

input[i] ^ len ^ enc_flag[i] = 0
⇒ input[i] = enc_flag[i] ^ len

여기서 len은 입력 키의 길이다. 정답 키의 길이가 곧 플래그 길이(48)이므로 len = 48 = 0x30. 결국 정답 키 = enc_flag ^ 0x30 이다. XOR은 자기역원이라, 저장된 enc_flag를 같은 0x30으로 다시 XOR하면 원문이 복원된다.



🎯 풀이 — enc_flag ^ 0x30

enc_flag 48바이트를 뽑아 0x30으로 XOR한다. 중간에 있는 0x00 바이트도 실제 데이터(0x00 ^ 0x30 = '0')이므로 널로 끊지 않는 게 함정이다.

# decode.py
import base64
data = open("prob", "rb").read()
off  = data.find(bytes.fromhex("74784b6577485c69"))   # enc_flag 시작
enc  = data[off:off+48]                                # 48바이트 (내부 0x00 도 데이터)
flag = bytes(b ^ 0x30 for b in enc).decode()
print("FLAG    :", flag)
print("b64 안쪽 :", base64.b64decode(flag[3:-1]).decode())
decode.py 실행 — enc_flag ^ 0x30 으로 플래그 복원, 내부 base64는 농담 메시지
decode.py 실행 — enc_flag ^ 0x30 으로 플래그 복원, 내부 base64는 농담 메시지

복원된 플래그의 DH{} 안쪽은 base64인데, 풀어 보면 Please do not base64 decode it.이라는 장난이 들어 있다. 복원한 키를 실제 바이너리에 넣어 검증한다.

./prob "DH{UGxlYXNlIGRvIG5vdCBiYXNlNjQgZGVjb2RlIGl0Lg==}"
복원한 키를 인자로 실행하니 "You nailed it! You're ASM savvy" 성공 메시지 출력
복원한 키를 인자로 실행하니 "You nailed it! You're ASM savvy" 성공 메시지 출력

You nailed it!이 떴다. 복원한 키가 정답이 맞다.

FLAG: DH{UGxlYXNlIGRvIG5vdCBiYXNlNjQgZGVjb2RlIGl0Lg==}



📝 결론

검사식은 곧 정답의 방정식이다.

크랙미의 비교 루틴은 "입력이 맞는가"를 판정하려고 정답과의 관계를 코드로 적어 둔 것이다. 그 관계가 XOR처럼 가역이면, 판정식을 입력에 대해 풀기만 하면 정답이 그대로 떨어진다. 브루트포스도 필요 없다.

널이라고 다 끝이 아니다.

enc_flag 중간의 0x00을 문자열 끝으로 착각하면 플래그가 잘린다. 이 바이너리는 길이를 따로 들고 다니며 그 바이트도 데이터로 쓴다. 인코딩된 데이터를 다룰 때 널 종단을 함부로 가정하지 않는 습관이 필요하다.

이 글이 도움이 됐나요?

Comments

댓글

0개

댓글을 남기려면 로그인이 필요해요. (네이버 · 구글 계정)

댓글 불러오는 중…

Related

관련 글

3개
[🥉 Bronze 2] Duff's device로 펼친 위치별 XOR 되돌리기 — DreamHack legacyopt 풀이
blog

[🥉 Bronze 2] Duff's device로 펼친 위치별 XOR 되돌리기 — DreamHack legacyopt 풀이

입력을 Duff's device로 펼친 루프에서 위치별 상수와 XOR해 hex로 출력하는 인코더 문제. 각 출력 바이트가 그 자리 입력에만 달려 있어, 같은 길이의 알려진 입력을 한 번 넣어 위치별 XOR 상수를 캐낸 뒤 주어진 출력에 그대로 적용하면 플래그가 복원된다. 재인코딩이 원본과 일치함까지 확인했다.
#dreamhack#ctf#reversing+4
2026-07-14#dreamhack +4
[🥉 Bronze 3] XOR·덧셈·비트회전을 거꾸로 되짚다 — DreamHack nub_rev01 풀이
blog

[🥉 Bronze 3] XOR·덧셈·비트회전을 거꾸로 되짚다 — DreamHack nub_rev01 풀이

입력 한 글자씩 XOR·덧셈·비트회전을 걸어 스택에 박힌 상수와 비교하는 리버싱 크랙미. 세 연산이 모두 가역이라, 비교 대상(target)에서 역순으로 회전을 풀고 덧셈을 빼고 XOR를 되돌리면 정답 입력이 그대로 복원된다. 복원한 문자열을 바이너리에 넣어 Correct로 확인했다.
#dreamhack#ctf#reversing+4
2026-07-14#dreamhack +4
[🥉 Bronze 3] 원형 리스트 인코더를 블랙박스로 뒤집다 — DreamHack tiny-ouroboroi 풀이
blog

[🥉 Bronze 3] 원형 리스트 인코더를 블랙박스로 뒤집다 — DreamHack tiny-ouroboroi 풀이

입력 각 글자를 그 글자값 길이의 원형 연결리스트로 만들어 회전·토글한 뒤 비트를 모아 한 바이트씩 출력하는 인코더 문제. 출력의 각 바이트가 오직 그 자리 글자와 위치에만 의존하므로, 함수를 다 역산할 필요 없이 후보 글자를 통째로 넣어 위치별 매핑을 만들면 플래그가 복원된다.
#dreamhack#ctf#reversing+3
2026-07-13#dreamhack +4