[🌱 새싹] cmp 명령어 하나가 곧 플래그 — DreamHack Simple Crack Me 풀이

핵심은 이 두 줄이다.

브루트포스도, 알고리즘 역산도 필요 없다. 비교 대상 상수가 명령어 인코딩 안에 그대로 리터럴로 박혀 있다. cmp eax, imm32는 오퍼랜드가 코드 자체에 새겨지는 명령어라, 아무리 심볼을 지우고 정적 링크로 뭉쳐놔도 이 리터럴 값만은 숨길 수가 없다. 0x13371337을 10진수로 바꾸면 322376503 — 이게 정답이자 플래그 알맹이다.

gdb로 실행 시점에 다시 확인

정적 분석만으로 끝내지 않고, 그 비교가 실제로 실행될 때 레지스터에 뭐가 들어있는지 gdb로 직접 멈춰서 봤다. cmp 명령어 주소(0x401b15)에 브레이크포인트를 걸고 정답을 표준입력으로 흘려보낸 뒤 eax를 확인한다.

eax가 0x13371337과 정확히 일치하고, continue하면 바로 Correct!가 찍힌다. 정적 분석(objdump)과 동적 확인(gdb)이 같은 결론을 가리킨다.

🎯 풀이 — 바이너리에서 상수 하나 뽑아내기

디스어셈블할 필요도 없이, cmp eax,imm32의 인코딩(3D + 4바이트 리틀엔디언 상수)을 알고 있으니 파일에서 그 5바이트만 직접 읽어도 된다. non-PIE라 가상주소에서 0x400000만 빼면 파일 오프셋이 나온다.

실행 결과와, 실제 바이너리에 그 값을 넣어 Correct!가 뜨는 것까지 한 화면에서 확인된다.

📝 결론

이 문제가 보여주는 건 단순하지만 리버싱의 기본기다 — 비교 명령어의 오퍼랜드는 코드 자체에 새겨지는 데이터라, strip이나 정적 링크로는 절대 가려지지 않는다. 심볼 이름은 지울 수 있어도 cmp eax, 0x13371337 같은 리터럴 비교값은 바이너리를 여는 순간 그대로 노출된다. 실제 소프트웨어에서 라이선스 키나 비밀번호를 이런 식의 하드코딩된 상수 비교로 지키면, 정적 분석 한 번에 뚫린다는 뜻이기도 하다. 진짜 비밀은 코드에 리터럴로 넣는 게 아니라, 서버 검증이나 해시 비교처럼 역산이 어려운 방식으로 지켜야 한다.