해킹, 지키는 자와 뚫는 자의 끝없는 대결[이기진의 만만한 과학]

이기진 교수 그림

이기진 서강대 물리학과 명예교수

군대에서 ‘대외비’를 다루는 음어(陰語) 업무를 맡았었다. 음어란 3급 이상 군사기밀을 숫자로 바꿔 전송하고 다시 해독하는 일종의 암호 체계다. 물리학과 출신이었지만 비밀 업무와는 아무 상관이 없었다. 전방 자대 배치를 받을 때였다. 주임상사가 전공을 묻길래 “물리학과입니다”라고 답했다. 돌아온 답은 “그럼 물리치료 할 수 있겠네”였다. 그렇게 의무대에 배치됐다. 그런 시대였다.

병원 일을 몰랐지만, 의무대에서 다양한 일을 했다. 군의관 밑에서 환자 돌보는 법을 익혔고, 행정병으로 타자를 치며 서류를 만들었다. 교육계 업무를 하면서 군사우편을 다루기도 했다. 급기야 군사기밀을 다루는 음어 담당까지 맡게 됐다. 이등병 시절 가장 황당했던 건 ‘난수표 외우기’였다. 0부터 9까지 무작위로 배열된 숫자표를 일주일 내내 외워야 했다. 그걸 토대로 암호문을 만들고, 숫자로 된 문서를 해독하는 게 임무였다. 이런 암호전달 체계가 정말 보안에 효과적이었는지는 모르겠다.

암호의 역사는 군사기밀을 지키는 기술에서 출발했다. 가장 널리 쓰이는 암호 알고리즘은 2001년 미국 국립표준기술연구소(NIST)가 만든 AES(Advanced Encryption Standard) 방식이다. 와이파이와 인터넷 통신망, 은행 거래, 스마트폰 보안 등 거의 모든 곳에서 사용된다. 지금까지도 가장 안전한 암호로 꼽힌다.

웹사이트에 접속하거나 은행 거래를 할 때 가장 먼저 정말 본인이 맞는지 검증하는 인증 절차를 거친다. 정보를 안전하게 주고받으려면 암호화가 필수인데, 이때 핵심 도구가 바로 암호키다. 암호키와 인증은 인터넷 보안의 양대 축이다.

인터넷상의 전자서명에 가장 널리 쓰이는 방식은 공개 암호키다. 1977년 미국 매사추세츠공대(MIT)의 로널드 리베스트, 아디 샤미르, 레너드 애들먼이 개발했는데, 세 사람의 이름 앞 글자를 따 RSA 암호라 부른다. 수학적으로 풀기 어려운 소인수분해 개념을 도입한 방식이다. RSA 덕분에 우리는 전자상거래, 전자메일, 디지털 서명 등에서 사용자를 안전하게 인증하고 데이터를 보호할 수 있다. 해킹 사례도 아직까진 없다.

해킹이란 정보 시스템의 보안 장벽을 넘어 조작하는 행위다. 최초의 해킹은 1961년 MIT의 한 동아리에서 시작됐다. 당시 학생들은 컴퓨터에 접근해 프로그램을 고치고 새로운 기능을 만들며 시스템을 조작했다. 나쁜 의도는 없었다. 당시 컴퓨터 보안 관련 법률조차 없어 이들은 처벌받지도 않았다. 컴퓨터가 사회 곳곳에서 활용되면서 해킹은 점차 범죄로 인식되기 시작했다. 1980년대에 들어서면서 각국은 관련 법적 규제를 마련했다.

최근 통신사와 카드사에서 해킹 사고가 잇달아 발생했다. 사고 원인으로는 암호 알고리즘의 과학적 결함이 아닌 관리 소홀이나 불법장비 사용 가능성이 거론된다. 통신과 카드 등 금융은 국민의 일상 그 자체다. 같은 사고가 반복되지 않도록 철저한 진상 조사와 보안 강화가 필요하다. 보안은 선택이 아닌 생존의 문제다.