NIST(미국 국립표준기술연구소)가 2024년 여름, 양자내성암호(Post-Quantum Cryptography, PQC) 표준 3종을 정식으로 확정했다. 발표 자체는 조용했다. 그런데 이 한 장짜리 문서 때문에 전 세계 보안 담당자들 로드맵이 통째로 다시 쓰이기 시작했다. MIT 테크놀로지 리뷰 보도를 보면, 양자컴퓨터는 그동안 “언젠가 세상을 바꿀 기술”과 “아직 갈 길 먼 실험실 장난감” 사이를 오갔다. 평가가 계속 엇갈렸다는 얘기다. 다만 딱 하나, 지금 쓰이는 암호화 체계를 무너뜨릴 잠재력만큼은 다들 인정한다. 경영진 입장에서 결론만 말하면 이렇다. PQC 전환은 재난이 아니다. 관리 가능한 진화 과정이다.
양자내성암호(PQC), 정체가 뭐길래
PQC는 양자컴퓨터로도 쉽게 못 푸는 수학 문제 위에 설계된 차세대 암호화 방식이다. 지금 인터넷뱅킹, 이메일, 전자서명을 지키고 있는 RSA와 타원곡선암호(ECC)는 큰 소수를 인수분해하거나 이산로그를 계산하는 난이도에 기대고 있다. 일반 컴퓨터로 풀려면 수백 년. 그런데 충분히 강력한 양자컴퓨터라면 몇 시간 안에 끝날 수도 있다는 얘기가 나온다. PQC는 대신 격자(lattice) 문제나 해시 기반 서명처럼, 양자컴퓨터도 쩔쩔매는 난제 위에 암호를 세운다. 말은 쉬워 보이는데, 실제 구현은 꽤 까다롭다는 게 업계 중론이다.
‘지금 훔치고 나중에 푼다’는 위협
당장 실전급 양자컴퓨터가 없다고 안심할 일은 아니다. 보안 업계가 경고하는 시나리오, 이름부터 섬뜩하다. 하베스트 나우, 디크립트 레이터(Harvest Now, Decrypt Later). 공격자가 지금 암호화된 트래픽과 데이터를 통째로 저장해뒀다가, 양자컴퓨터가 실용화되는 순간 한꺼번에 복호화하는 방식이다. 금융 거래 기록, 의료 데이터, 국가 기밀문서. 10년, 20년이 지나도 가치가 남는 정보라면, 이 위협은 이미 시작된 셈이다.
RSA·ECC는 왜 양자컴퓨터 앞에서 무너지나
1994년 수학자 피터 쇼어가 발표한 ‘쇼어 알고리즘’. 문제의 핵심이 여기 있다. 이 알고리즘은 충분한 큐비트를 갖춘 양자컴퓨터가 큰 수의 인수분해와 이산로그 계산을, 기존 컴퓨터보다 압도적으로 빠르게 처리하도록 설계됐다. RSA-2048 암호를 일반 슈퍼컴퓨터로 뚫으려면 수만 년. 반면 오류 보정이 완성된 양자컴퓨터라면, 이론상 며칠이나 몇 시간 만에 끝날 여지가 있다. 대칭키 암호인 AES는 사정이 다르다. 키 길이만 늘리면 비교적 안전한 편이라, 논의의 초점은 자연스럽게 공개키 암호 쪽에 쏠려 있다.
NIST가 고른 세 알고리즘
2024년 NIST가 확정한 표준은 크게 세 가지다.
- ML-KEM(옛 CRYSTALS-Kyber) — 키 교환용, 격자 기반 문제를 활용
- ML-DSA(옛 CRYSTALS-Dilithium) — 전자서명용 기본 알고리즘
- SLH-DSA(옛 SPHINCS+) — 해시 기반 서명, 속도는 느리지만 수학적으로 가장 보수적인 선택지
세 알고리즘 모두 격자 문제나 해시 함수처럼, 양자컴퓨터로도 빠르게 안 풀리는 구조를 골랐다는 공통점이 있다.
기업이 지금 시작할 3단계
IT 부서 입장에서 PQC 전환, 하루아침에 끝나는 작업이 아니다. 실무에서 권장하는 순서는 크게 셋으로 나뉜다.
- 1단계, 암호 자산 인벤토리 — 어떤 시스템이 어떤 암호 알고리즘을 어디에 쓰는지부터 전수 파악한다. 의외로 이 목록조차 없는 조직, 생각보다 많다.
- 2단계, 암호 민첩성(Crypto Agility) 확보 — 알고리즘을 코드에 못 박지 않고, 나중에 쉽게 교체 가능한 구조로 시스템을 다시 짠다.
- 3단계, 하이브리드 전환 — 기존 RSA·ECC와 PQC를 함께 쓰는 하이브리드 방식부터 도입해 리스크를 나눈다. 구글 크롬, 클라우드플레어 같은 곳은 이미 하이브리드 키 교환을 실제 서비스에 적용해뒀다.
실제 위협은 언제 터지나
업계가 말하는 이른바 ‘Q-데이(Q-Day)’. 기존 공개키 암호가 실질적으로 뚫리는 시점이다. 예측은 제각각이다. 낙관적인 쪽은 2030년대 초반을, 보수적인 쪽은 2040년 이후를 점친다 — 이 정도 편차면 사실 예측이라기보다 각자 소망에 가깝지 않나 싶다. 다만 미국 국가안보국(NSA)과 NIST는 2030년까지 취약한 알고리즘 사용을 단계적으로 줄이고, 2035년까지는 아예 금지하는 일정을 이미 제시해뒀다. 정확한 시점을 맞히려 애쓰기보다, 다루는 데이터의 보관 기간과 전환에 걸리는 시간을 거꾸로 계산해 준비 일정을 짜는 편이 현실적이다. 10년 이상 보관해야 하는 데이터를 다루는 조직이라면, 사실 이미 늦은 셈이다.
결국 손부터 대야 할 건 이거다
PQC 전환을 거창한 프로젝트로 여길 필요는 없다. 암호화 알고리즘을 표준 목록에서 골라 교체하는 작업이라기보다, 회사가 쓰는 모든 시스템의 암호화 지점을 파악하고 언제든 갈아 끼울 수 있는 구조로 바꾸는 체질 개선에 가깝다. 브라우저와 클라우드 업체들은 이미 하이브리드 방식으로 물꼬를 텄다. NIST 표준도 나온 지 시간이 꽤 지났다. 남은 건, 각 조직이 인벤토리부터 채워나가는 실행뿐이다.
