OTP의 동작 원리, HOTP와 TOTP 이해하기

안녕하세요. 오늘은 금융 거래에서 자주 쓰이는 그리고 최근에는 로그인 2차 인증으로도 자주 쓰이는 OTP에 대해서 알아보겠습니다. OTP란 무엇인지 알아보고, OTP의 종류인 HOTP와 TOTP가 어떠한 원리로 동작하는지 알아보겠습니다. 

 

---

 

출처 : 나무위키

 

OTP(One Time Password) 정의

• OTP란 One-Time password로 한 번만 사용할 수 있는 비밀번호를 말합니다. 
• OTP는 매번 새로운 비밀번호를 생성하므로, 재사용성이 불가능하고 보안성이 높다는 특징을 가지고 있습니다. 

 

OTP 동기화 방식

 

 

• 서버와 클라이언트(또는 토큰) 사이에 미리 약속된 규칙에 의해서 클라이언트 쪽에서 생성한 일회용 암호를 서버 측에 보내면 서버 측도 같은 규칙에 의해 사용자 데이터가 들어있는 데이터베이스에서 비밀값을 가져온 후, 일회용 암호를 생성하여 서로 비교하는 형식입니다.

 

OTP의 동작원리

 

 

 

1. 비밀키 생성(Secret Key Generation)
   1. 사용자와 시스템 간에 공유되는 비밀키(secret key) 생성
      1. 암호화 알고리즘에 사용되며 해당 비밀키와 다른 정보(ex. 카운트 등)를 토대로 일회용 비밀번호가 생성됨
2. 시간 정보 사용(Time-Based OTP - TOTP) 또는 카운터 사용(HMAC-Based OTP - HOTP)
   1. TOTP(Time-Based OTP) : 특정 시간(예: 30초)마다 새로운 OTP 생성, 시간 정보와 비밀키를 조합하여 OTP를 계산함
   2. HOTP(HMAC-Based OTP) : 사용자의 세션 또는 이벤트가 발생할 때마다 새로운 OTP를 생성함. 일정한 카운터와 비밀키를 조합하여 OTP를 계산
3. OTP 생성(OTP Generation)
   1. TOTP : 현재 시간 또는 시간 간격을 사용하여 비밀키와 조합하여 일회용 비밀번호를 생성
   2. HOTP : 카운터와 비밀키를 조합하여 일회용 비밀번호를 생성
4. OTP 전달(OTP Delivery)
   1. 사용자에게 생성된 OTP를 안전하게 전달
   2. 일반적으로 모바일 앱(예: Google Authenticator)를 통해 QR 코드를 스캔하거나, 텍스트 형식의 OTP를 입력하도록 유도함
5. OTP 검증(OTP Verification)
   1. 사용자가 입력한 OTP와 시스템에서 생성한 OTP를 비교하여 일치 여부를 확인
6. 인증 결과(Authentication Result)
   1. OTP가 일치하면, 인증이 성공하고 사용자에게 접근을 허용함
   2. OTP가 일치하지 않으면, 인증이 실패하고 접근을 거부함

 

---

 

지금까지는 OTP의 간단한 정의와 동작원리를 이야기해보았습니다. 실제로 OTP는 HOTP와 TOTP 두가지 종류가 있습니다. 작동 원리는 유사하지만 차이점이 있기 때문에 보다 상세하게 해당 OTP의 원리에 대해 소개하겠습니다. 

 

TOTP와 HOTP

본론에 들어가기 전 간단히 소개하자면 HOTP는 HMAC 기반의 OTP이며, TOTP는 HOTP에서 Counter 값 대신 TimeStamp를 사용하는 방식입니다.

 

1. HOTP

HMAC 기반의 OTP로 초기 OTP 모델입니다. 

HMAC = Hash based MAC(Message Authentication Code)으로 해시 기반의 메시지 인증 코드입니다. 

2번의 Hash 함수와 1개의 비밀키를 사용하며 Hash 함수로는 MD5, SHA-1, SHA-256, SHA-512 등을 사용합니다. 

 

HOTP에 사용되는 HMAC 알고리즘은 아래와 같이 동작합니다. 

 

HMAC

• 인증할 데이터와 공유 비밀키에 대해 암호화 해시 함수(예. SHA1, SHA256)를 실행하여 얻은 메시지 인증코드

HMAC(K, text) = H(K xor Opad + H(K xor Ipad + message))

• K는 Secret Key 제 3자가 알지 못하는 비밀 텍스트
• H는 해시함수 MD5 Sha-256 등 다양한 해시 사용가능
• Opad는 Output padding K의 길이 만큼 0x5C 를 반복
• Ipad는 Output padding K의 길이 만큼 0x36 를 반복

 

• H - 암호화를 위한 해시 함수 (MD5, SHA-1, SHA-224, SHA-256, SHA-512 등 사용)
• m - 인증이 필요한 메시지 (HOTP에서는 카운터, TOTP에서는 시간)
• K - 비밀키
• || - 문자열 연결 연산
  • 비트 XOR 연산
• opad - 블럭 사이즈를 가진 외부 패딩 (0x5c 값으로 채움)
• ipad - 블럭 사이즈를 가진 내부 패딩 (0x36 값으로 채움)
  • 0x5c = 01011100(2) ⇒ 키의 각 비트를 뒤집어서 사용
  • 0x36 = 00110110(2) ⇒ 사용하는 키의 각 비트를 그대로 유지하면서 사용
  • ipad와 opad에 서로 다른 값을 사용함으로써 키를 서로 다르게 변형 → 해시 함수에 대한 안정성을 높이고, 두 패딩 값이 독립적으로 선택되어 서로 다른 변형을 수행함으로써 보안 강화를 이끌어냄
  • 두 개의 값들이 XOR 연산을 통해 키를 변형할 때 효과적인 비트 패턴을 생성하기 때문(편의상 선택된 값). 즉, 키를 효과적으로 변형시킬 수 있는 값 중 분석과 검증을 통해 선택된 값.
    • 위 두개의 값이 1과 0이 번갈아가면서 나타나는 패턴을 생성함. 이러한 패턴은 키의 각 비트를 다르게 변형시킬 때 효과적이며, 이는 해시 함수에 대한 예측을 어렵게 만들어 보안성을 높임

HOTP는 위의 HMAC 알고리즘에서 message 대신 Counter라는 변수를 입력받아 HMAC을 생성한 뒤 Truncate하는 과정을 거쳐 일정 자리수의 숫자 코드를 생성합니다. 

** Truncate : 동적으로 string을 자르는 작업

 

HOTP(K, counter) = Truncate(HMAC-SHA-1(K, counter))

 

Truncate

1. SHA-1 알고리즘을 활용한 HMAC(K, Counter)로 생성된 Hash는 20byte의 크기를 가짐

• • Hash 결과 값은 16진수 ⇒ 1개의 16진수는 4bit, 2개의 16진수가 16byte
  • 마지막 4bit의 수로 그룹의 offset 확인 ⇒ a (10)
  • 해당 offset + 다음 3개의 그룹까지의 16진수 추출 (총 4그룹) ⇒ DBC(Dinamic Binary Code)
    • 해당 값이 OTP 숫자를 만드는데 쓰일 예정

 

2. DBC의 첫 Byte는 0x7f와 AND 연산 수행(MASK 연산)

• 0x7f & 0x58 ⇒ 0111 1111 & 0101 1000 ⇒ 0101 1000
• 0x7f ⇒ 최상위 비트를 제외한 나머지 비트가 1
  • 0 & 0 ⇒ 0, 0 & 1 ⇒ 0 이므로 어떤 수와 연산을 하던지 0이됨 ⇒ 항상 양수를 뜻함
  • 나머지는 1 ⇒ 1 & 0 ⇒ 0, 1 & 1 ⇒ 1이므로 어떤 수가 나오더라도 원래의 수를 가지게 되기 때문
  • DBC 결과 : 0x58838990 ⇒ 10진수로 치환하면 1485015440(10자리수)
  • 10진수로 치환된 DBC 값을 10의 6승으로 Mod 연산
  • ⇒ 결과 : 15440 ⇒ 6자리가 안될 경우 맨 앞에 0을 추가 
  • HOTP : 015440

 

작동순서

1. 사용자가 OTP 단말의 버튼을 누른다
2. Counter + 1
3. Counter와 Secret Key ⇒ HMAC(K, Counter) ⇒ Truncate(HMAC(K, Counter)) ⇒ OTP 번호 생성
4. 사용자는 서버로 OTP 번호를 전송한다.
5. 서버는 기존 보유한 Counter, Secret key를 통해 3번과 같은 방법으로 OTP 번호를 생성한다.
6. 5에서 생성한 OTP 번호화 사용자가 전송한 OTP 번호가 같으면 인증 완료
7. 인증이 완료되면 서버의 Counter + 1

 

2. TOTP

• TOTP는 HOTP에서 Counter 값을 시간(Time Stamp)로 대체하는 것
• 기존에 HMAC이 연산값을 단순하게 증가시키던 HMAC-SHA-1 알고리즘에서 일정 시간마다 값이 변경되도록 한 HMAC-SHA-256이나 HMAC-SHA-512 함수를 사용
• 특정 시간(보통 30초 혹은 60초)마다 그 다음 값으로 변경됨
• 하지만 클라이언트와 서버의 시간 차이 때문에 제대로 인증이 되지 않는 경우도 있음 ⇒ 동기화 방법 필요

 

TOTP = HOTP(K, T)

 

 

• UT(UnixTime, UTC of January 1, 1970 이후 경과된 현재시간(단위: 초))
• UT는 서버와 클라이언트가 서로 동기화됨

 

3. HOTP vs TOTP

필요항목	Shared Secret Key, Counter	Shared Secret key, Time Stamp
HMAC 메시지	이벤트 발생시 값이 증가하는 Counter	시간에 의존하여 값이 증가하는 Counter
유효시간	예측 불가능	30초, 60초 등
RFCs	IETF RFC 4226	RFC 6238

 

 

 

---

 

간단하게 OTP에 대해 작성해보았습니다. 기회가 되면 Java와 React로 구현한 TOTP에 대한 내용도 작성해 보도록 하겠습니다. 

 

참고문헌

https://velog.io/@dldldl1022/OTP%EC%9D%98-%EB%8F%99%EC%9E%91-%EC%9B%90%EB%A6%AC

OTP의 동작 원리

https://www.howdy-mj.me/general/otp

OTP 동작원리

https://ldap.or.kr/1373-2/

One Time Password(OTP)의 개념 및 동작방식. LDAP을 활용한 OTP 인증. - DSMENTORING