[🥉 브론즈 3] 세 단계 변환을 거꾸로 되돌리다 — DreamHack r-xor-t 풀이

세 연산이 전부 가역이니, 정답 문자열(비교 대상)에서 적용된 역순으로 각 역연산을 걸면 원래 입력이 통째로 복원된다. brute force도, 제약 풀이도 필요 없다. 이 문제 이름 r-xor-t도 사실 이 변환들(reverse·xor·… )을 가리키는 셈이다.

🔬 정찰 — 함수 하나와 박혀 있는 정답

file과 nm으로 보호 기법과 심볼을 본다. PIE지만 stripping이 안 돼 있어 분석이 수월하다.

함수는 main 하나뿐이고, 전역 버퍼 input, rot, result가 보인다. 그리고 .rodata에 C@qpl==Bppl@<=pG…A=@q라는 64자짜리 수상한 문자열이 있다. 이게 변환 결과와 비교할 **정답(target)**이다.

🧪 변환 분석 — 세 단계

main을 디스어셈블해 보면 입력에 세 단계의 변환이 순서대로 걸린다. 먼저 입력 길이가 0x40(64)인지 확인한 뒤, 첫 단계다.

각 입력 바이트에 13(0xd)을 더하고 & 0x7f로 7비트만 남겨 rot[i]에 넣는다. 두 번째 단계는 이 rot 배열을 통째로 뒤집는다.

result[0] = rot[63], result[j] = rot[63-j], 마지막 result[63] = rot[0]. 딱 배열을 앞뒤로 뒤집는 연산이다. 세 번째 단계는 XOR이다.

result의 각 바이트를 3과 XOR해 result2를 만들고, strncmp(result2, target, 0x40)으로 정답과 64바이트를 비교한다. 정리하면 변환은 입력 → (+13 & 0x7f) → 뒤집기 → (^3) → target과 비교다.

💣 핵심 — 역순으로 세 번 되돌리기

세 변환이 모두 가역이니, target에서 적용된 역순(xor → reverse → add)으로 역연산을 걸면 입력이 나온다.

• target[i] = result2[i]
• ③⁻¹ result[i] = target[i] ^ 3 (XOR는 자기역원)
• ②⁻¹ rot[63-i] = result[i], 즉 rot[j] = target[63-j] ^ 3 (다시 뒤집기)
• ①⁻¹ input[j] = (rot[j] - 13) mod 128 (add 13 되돌리기, 7비트 모듈러)

세 줄을 합치면 한 식이 된다.

🚀 익스플로잇

target 문자열은 .rodata(0x2018)에 박혀 있으니 objdump -s로 뽑아 그대로 역산한다.

복원한 입력을 실제 바이너리에 넣어 검증한다. not stripped라 그냥 표준입력으로 흘려 넣으면 된다.

Nice!가 뜨고 플래그가 그대로 출력된다.

📝 결론

가역 변환으로 만든 검증은 역연산 한 번으로 뚫린다.

이 문제의 세 단계 — add, 배열 뒤집기, XOR — 는 겉보기엔 여러 겹이라 복잡해 보이지만, 하나하나가 정보를 잃지 않는 일대일 변환이다. 그래서 비교 대상(target)만 알면 브루트포스 없이 입력을 정확히 되돌릴 수 있다. 리버싱에서 변환을 만나면 먼저 "이게 되돌릴 수 있는 연산인가"를 따지는 게 우선이다. 되돌릴 수 있으면 역산, 아니면(해시 등 단방향) 그때 brute force나 다른 접근을 고민하면 된다.

클라이언트에 정답을 박아 두면 그건 정답이 아니다.

바이너리 안에 비교용 target 문자열이 통째로 들어 있었고, 변환도 모두 가역이라 정답 입력이 그대로 노출됐다. 사용자 손에 넘어간 바이너리에서 "맞는지 검사"하는 로직은 곧 "정답을 만드는 로직"이기도 하다. 값을 정말 지켜야 한다면 검증은 서버에서 하거나, 최소한 단방향 함수(해시)로 비교해 원본 복원을 막아야 한다.