[보안 프로토콜] 하이브리드 암호 시스템 - Part 1

암호 기술에는 대칭키 암호 공개키 암호 해시함수 메시지 인증코드 디지털 서명등의 다양한 암호 기술들이 존재한다. 실제 사용되고 있는 네트워크 상에서의 암호화 과정 대부분은 암호기술 들을 융합하여 사용하고 있으며 하이브리드 암호 시스템이라고 부른다.

실제로 HTTPS, SSL, TLS 통신에서 융합된 암호 기술이 어떤 형태로 사용되고 있는지 이해해보자

암호 기술하면 대표적으로 대칭키 암호와 공개키 암호가 존재하며 가장 큰 차이점은 암호화 하는 키와 복호화 하는 키가 동일하면 대칭키, 다르면 비대칭키 혹은 공개키 암호라고 부른다.

대칭키와 공개키의 장단점은 서로 엇갈려서 존재한다. 대칭키 암호는 빠른 속도로 기밀성을 유지한 통신이 가능하다는 점이다. 그러나 암호화 키와 복호화 키가 동일하기 때문에 사전에 공유를 하고 있어야 암/복호화가 가능하다. 사례는 다음과 같다.

암호의 역사에서 보았던 스키테일을 떠올려 보자 송신자와 수신자가 동일한 모양과 크기의 막대기를 갖고 있어야지만 스키테일을 사용할 수 있었다. 고대에 사용된 시저암호의 경우 송신자와 수신자 사이에 평행이동 키를 갖고 있어야지만 암/복호화가 가능하다.

여튼 핵심은 사전에 서로 키가 공유가 되어야 한다는 단점이 존재하는 것은 동일하다.

공개키 암호의 경우 암호화(공개키)키와 복호화(개인키)키를 수학적 relationship을 만족하도록 생성한다. 암호화 키의 경우 공개하며 복호화 키의 경우 개인키여서 공개하지 않는다. 공개키를 통해 자료를 암호화 하면 공개키와 대응되는 개인키를 갖고 있는 사람만 복호화 할 수 있다. 공유가 필요없다는 측면에서는 장점이다.

암호화 키와 복호화 키를 만들때 수학적 관계를 만족해야 하며 암/복호화 함에 있어서 수학적 연산이 수행되어야 하기 때문에 처리 시간이 오래 걸린다는 단점이 존재한다. 

공개키 암호의 단점에 따라서 긴 길이의 메시지지를 암호화 할때 공개키 방식은 적합하지 않은 방법이다. 또한 중간자 공격에 취약할 수 있다. 공격자가 bob의 공개키가 아니라 공격자의 공개키로 바꿔치기 할 수 있는 취약점이 존재한다.

하이브리드 암호 시스템에서는 대칭키의 빠른 속도와 공개키 암호의 키 배송 문제를 해결할 수 있는 장점들을 융합하여 활용하게 된다.

방법은 간단하다. 공개키 암호화 방식을 활용하여 대칭키를 전달하며 전달 받은 대칭키를 통해 메시지를 암호화 하여 빠른 속도를 구현해낸다.

빨간 글씨: 비밀 정보, 파란 글씨: 공개 정보

앨리스가 밥에게 메시지를 보내는 상황을 생각해보자. 대칭 암호를 이용하려면 비밀키를 생성해야하며 이때 의사 난수 생성기를 활용하여 세션(비밀)키를 생성한다.

밥은 본인의 공개키와 개인키를 생성하여 앨리스에게 보내줘야 한다. 이때 공개키는 오픈된 자료이기 때문에 아무 채널에서나 자유롭게 전송할 수 있다. 송신자 앨리스에게 공개키를 전송한다.

앨리스는 자신이 생성한 세션(비밀)키를 사용하여 메시지를 암호화하여 암호문 C1을 생성한다.

앨리스는 세션키를 밥의 공개키를 활용하여 암호문 C2를 생성하고 C1과 함께 밥에게 전송한다.

밥은 자신이 갖은 개인키를 활용하며 비밀키 암호문 C2를 복호화한다.

복호화된 비밀키를 통해 암호문 C1을 복호화하여 평문을 생성한다.

정리해보자, 전송되는 자료는 암호문 C1, C2가 있어야 한다.즉 평문이 노출되지 않는다. 제 3자가 평문을 알기 위해서는 밥의 개인키가 필요하다. 뱁의 개인키를 통해 세션키를 도출하고 세션키를 통해 암호문을 복호화 할 수 있기 떄문이다. 

중요 포인트 

• 밥의 개인키가 절때 알려지면 안된다!!!!

세션키를 암호화 하는 주체는 공개키이다. 세션키는 AES를 사용하는 경우 128, 192, 256 bit 키 길이를 사용하며 des를 사용하는 경우 56비트 만큼만 암호화 하면 된다. 길이가 짧은 데이터를 암호화 하는 것이 공개키 암호화이다. 공개키 암호화는 속도가 느리다는 ㄷㅏㄴ점이 있었지만 세션키 길이 정도는 빠르게 처리할 수 있다.

평문을 암호화 할 때에는 대칭키를 사용한다. 평문의 길이는 아주 길 수 있기 때문에 속도가 빠른 암호기술이 요구되기 때문이다.

하이브리드 암호 시스템에서는 다음과 같은 함호 기술이 사용되었다.

강한 하이브리드 시스템을 구축하기 위해서는 하이브리드 암호 시스템의 구성 요소에 있어서 모두 안전하고 강한 암호를 사용해야 한다. 중간에 취약점이 존재한다면 하이브리드 시스템의 취약점으로 귀결되기 때문에 균형잡히도록 설계해야 한다.

실생활에 하이브리드 암호 시스템이 많이 활용되고 있다.

이메일 시스템을 구축할 때 PGP 시스템을 사용하며 웹브라우징을 할 때 HTTPS가 많이 사용되는데 이때 보안 통신을 위해 보안 프로토콜 SSL/TLS 가 사용된다. 모두 하이브리드 암호 시스템을 사용한다.

현재까지 사용되는 하이브리드 시스템에서 공개키 암호로는 RSA, 대칭키 암호로는 AES(블록암호 CTR 모드)가 사용되고 있다.

동작과정은 HTTPS 프로토콜에 명시되어 있기 때문에 자동으로 수행된다.