[🥉 브론즈 4] 암호화된 이미지를 되살리다 — DreamHack Recover 풀이

이런 연산들을 순서대로 걸었으면, 역순으로 각 역연산을 걸어 원본을 복구한다. 복구가 제대로 됐는지 확인하는 좋은 방법은 파일 시그니처(magic bytes)다. PNG는 항상 89 50 4E 47 0D 0A 1A 0A로 시작하므로, 복구본의 첫 8바이트가 이와 같으면 성공이다.

🔬 정찰 — encrypted는 PNG가 아니다

encrypted를 보면 PNG 시그니처가 아니라 뒤섞인 데이터고, chall의 문자열엔 flag.png·encrypted와 fopen/fread/fwrite가 보인다.

chall이 flag.png를 읽어(fread) 뭔가 변환한 뒤 encrypted에 쓴다(fwrite)는 그림이 그려진다. 그 "변환"이 무엇인지 디스어셈블로 확인한다.

🧪 암호화 로직 분석

main의 핵심은 바이트 하나를 읽어 변환하고 쓰는 루프다.

한 바이트를 읽을 때마다 두 가지를 한다.

1. byte ^= key[i % 4] — 4바이트 키를 반복해 XOR (i % 4로 키 인덱스 순환).
2. byte += 0x13 — 여기에 0x13을 더한다(8비트로 잘림).

그 결과를 encrypted에 1바이트씩 쓴다. 키는 .rodata에 박혀 있다.

0x2004에 de ad be ef — 키는 0xdeadbeef 4바이트다. 정리하면 암호화는 이렇다.

💣 핵심 — 순서를 반대로 되돌린다

XOR도 덧셈도 가역이니, 암호화의 역순(덧셈 되돌리기 → XOR 되돌리기)으로 풀면 원본 바이트가 나온다.

- 0x13으로 덧셈을 되돌리고(8비트 언더플로는 & 0xff로 처리), 같은 키로 다시 XOR하면 끝이다.

🚀 Full Exploit

encrypted 전체에 역연산을 걸어 flag.png를 복구하고, PNG 시그니처로 검증한다.

첫 8바이트가 89504e470d0a1a0a — 정상 PNG로 복구됐다. 열어 보면 플래그가 그려진 캔버스 그림이다.

이미지 속 캔버스에 플래그 DH{9a89d702b9}가 또렷하게 적혀 있다.

📝 결론

암호화 로직을 읽을 수 있으면 그대로 되돌린다.

이 문제의 암호화는 키 있는 XOR과 덧셈뿐이라 두 연산 모두 역함수가 있다. 대칭키 암호든 단순 인코딩이든, 변환 과정을 정적으로 읽어낼 수 있으면 역순으로 역연산을 적용해 원본을 복구할 수 있다. 리버싱에서 "파일을 암호화해 저장하는" 바이너리를 만나면, 그 변환 루프만 정확히 파악하면 복호기는 몇 줄이면 만들어진다.

복구는 시그니처로 검증한다.

바이트를 되돌렸을 때 그게 정말 원본인지 확인하는 가장 확실한 방법은 파일 포맷의 매직 바이트다. PNG의 89 50 4E 47 …처럼 알려진 시그니처가 맞으면 키·연산·순서가 전부 맞았다는 뜻이다. 시그니처가 어긋나면 키나 연산 순서를 잘못 잡은 것이니, 복구 파이프라인을 디버깅하는 좋은 이정표가 된다.