알고리즘&문제풀이

[Softeer] HSAT 3회 기출 - 플레이페어 암호

CSE 2025. 12. 15. 09:00

문제

<배경>

대학교 학부생활을 마치고 현대자동차에 프로그래머로 취직한 사회초년생 현빈이는 팀장님에게 보안에 관련한 지식이 하나도 없음을 들키고 말았다.

그래서 현빈이는 업무시간 틈틈이 보안과 관련된 주제들을 공부하고 있다.

 

오늘 공부할 주제는 암호화 방식중 하나인 Playfair cipher(플레이페어 암호)다.

Playfair cipher는 알파벳으로 이루어진 어떤 문자열(평문; plaintext)을 암호화하는 방법으로, 이를 위해 알파벳으로 이루어진 문자열인 키(key)가 필요하다.

Playfair cipher는 빈도분석을 어렵게 하기 위해 한번에 두 글자 단위로 암호화를 진행하며, $5\times 5$크기의 표를 사용하기 때문에 알파벳 26개를 모두 담기에는 칸이 한 개 부족해 I와 J를 동일한 것으로 생각한다.

이 문제에서는 편의상 J가 아예 주어지지 않는다.

 

 

먼저, 주어진 키를 크기의 $5\times 5$표로 변환한다.

키를 한 글자씩 보면서 왼쪽 위 칸부터 한줄씩 표를 채운다. 만약 이전에 봤던 알파벳이 한번 더 등장하면 무시하고 다음 글자를 보면 된다. 키를 다 보고도 칸이 남는다면, 아직 등장하지 않은 알파벳을 순서대로 채워넣으면 된다.

예를 들어 키가 PLAYFAIRCIPHERKEY라면 다음과 같이 표가 만들어진다.

굵게 표시된 알파벳이 키를 통해 채워진 알파벳이다.

다음 일은 암호화하려는 메세지를 두 글자씩 나누는 일이다. 예를 들어, HELLOWORLD라는 메세지를 두 글자씩 나눈다면 HE LL OW OR LD가 된다. 그러나 Playfair cipher는 두 글자가 같은 경우 암호화 할 수 있는 방법을 만들지 않았기 때문에 LL같이 두 글자로 이루어진 쌍이 생기면 중간에 다른 글자를 넣어 쌍을 파괴해줘야 한다. 이렇게 같은 두 글자로 이루어진 쌍이 생기면 그 중 가장 앞에 있는 쌍 사이에 X를 넣고 뒤쪽은 새롭게 쌍을 구성하면 된다. 만약, 쌍이 XX였다면 X를 넣어서는 해결이 안되기 때문에 Q를 넣는 것으로 해결 한다. 이렇게 쌍을 모두 맞추고 마지막에 한 글자가 남는다면 이것도 암호화가 불가능하기 떄문에 여기도 X를 덧붙여 강제로 쌍을 맞춰준다.

 

 

그러므로, HELLOWORLD를 두 글자씩 나누는 올바른 방법은 HE LX LO WO RL DX이고, XXYYY를 두 글자씩 나누는 올바른 방법은 XQ XY YX YX가 된다.

마지막으로, 쌍을 만든 두 글자를 암호화하는 일이 남았다. 다음과 같은 세 가지 경우가 있는데, 위에서 만든 $5\times 5$표를 통해 설명해본다.

 

  1. 만약, 두 글자가 표에서 같은 행에 존재하면, 오른쪽으로 한 칸 이동한 칸에 적힌 글자로 암호화된다. 예를 들어 HE를 암호화하면 EI가 된다. 위치가 다섯 번째 행이라면 첫 번째 행으로 이동하게 된다.

2. 만약, 두 글자가 표에서 같은 열에 존재하면, 아래쪽으로 한 칸 이동한 칸에 적힌 글자로 암호화된다. 예를 들어 LO를 암호화하면 RV가 된다. 위치가 다섯 번째 열이라면 첫 번째 열로 이동하게 된다.

3. 만약, 두 글자가 표에서 서로 다른 행, 열에 존재하면, 두 글자가 위치하는 칸의 열이 서로 교환된 위치에 적힌 글자로 암호화된다. 예를 들어 LX를 암호화하면 YV가 된다.

 

이 과정에 따르면, HELLOWORLD를 Playfair cipher로 암호화한 결과는 EIYVRVVQBRGW가 된다.

현빈이는 어떤 메세지와 키가 주어졌을 때 주어진 메세지를 Playfair cipher로 암호화하려고 한다.

 

 

<입력>

첫 번째 줄에 J를 제외한 알파벳 대문자로 이루어진 메세지가 주어진다.

두 번째 줄에 J를 제외한 알파벳 대문자로 이루어진 키가 주어진다.

 

메세지의 길이는  1이상  1000이하다.

키의 길이는  1이상  100이하다.

 

<출력>

첫 번째 줄에 Playfair cipher로 암호화된 결과를 출력한다.


풀이

코드의 전체적 흐름은 아래처럼 잡고 시작하자.

바꿀 문자열(평문), 키 문자열을 먼저 받는다.

keyGen함수로 이 키를 통해 테이블을 만든다.

msg = input() #바꿀 문자열
keyString = input()#키 문자열
key, keyPos = keyGen(keyString)
ciphertext = encrypt(msg)
print(ciphertext)

 

먼저 문제에서 언급한 방식대로 문자를 2개씩 묶는 작업을 하는 함수이다.

가장 마지막에 하나만 남을 경우 X를 추가하는 동작,

두 문자가 같을 때 X를 추가하는 동작,

XX로 같을 때는 Q를 추가하는 동작

에 대한 경우처리가 되어있다.

def encrypt(msg):#2개씩 자르기
    i = 0
    ans = []
    while i < len(msg):
        if i == len(msg)-1:
            first, second = msg[i], 'X'
            i += 1
        else:
            first, second = msg[i], msg[i+1]
            if first == second:
                second = 'X' if msg[i] != 'X' else 'Q'
                i += 1
            else:
                i += 2

        ans.append(encode(first, second))
        
    return ''.join(ans) #배열 스트링으로

 

이제 암호화를 위한 5X5테이블을 만들고, 특정 알파벳이 이 테이블 상에서 어떤 좌표에 있는지 저장된 딕셔너리까지 같이 리턴하는 함수이다.

keyString뒤에 알파벳들을 순서대로 추가해 구현을 더 쉽게 했다.

def keyGen(keyString): #5x5만들고, 알파벳별 좌표저장
    keyString += 'ABCDEFGHIKLMNOPQRSTUVWXYZ' #J빼고
    key = [[None for _ in range(5)] for _ in range(5)] #5x5
    keyPos = {} #dictionary

    r,c = 0, 0
    for ch in keyString:
        if ch not in keyPos:
            key[r][c] = ch
            keyPos[ch] = (r,c)
            c += 1
            if c == 5: #아래줄로 넘어가기
                c = 0
                r += 1

    return key, keyPos

 

이 테이블을 사용해 2글자를 암호화된 2글자로 바꾸는 함수이다.

def encode(first, second):
    rF, cF = keyPos[first] #첫글자 좌표
    rS, cS = keyPos[second]#두번째 글자 좌표

    if rF == rS:#같은 행
        cF,cS=(cF+1)%5,(cS+1)%5 
    elif cF == cS:#같은 열
        rF,rS=(rF+1)%5,(rS+1)%5 
    else:
        cF,cS = cS,cF
    
    first = key[rF][cF]
    second = key[rS][cS]
    return first+second