Four padlocks surrounding a hand with its index finger extended.

터널링 프로토콜이라고도 하는 VPN(가상 사설망) 프로토콜은 VPN이 원활하고 안전하며 신뢰할 수 있는 방식으로 작동하도록 보장하는 규칙입니다. VPN 프로토콜의 종류는 매우 다양합니다. 이들의 비교 방법에 대해서 살펴보겠습니다.

VPN 프로토콜은 무엇인가요?

VPN 프로토콜이란 컴퓨터와 VPN 서버 사이에서 데이터와 트래픽이 암호화 및 라우팅되는 방법을 결정하기 위한 일종의 명령어 집합입니다. 장치에 설치된 VPN 소프트웨어에서는 해당 프로토콜을 사용하여 VPN 서버에 안전하게 연결을 설정하고 유지합니다.

목차

    VPN 프로토콜 비교

    여기에 간편한 비교표가 있긴 하지만, VPN 프로토콜의 안정성(정의: 연결 관련 문제가 발생하지 않음)은 VPN 공급자의 서버 구성과도 관련이 있음을 유념하시기 바랍니다.

    VPN 프로토콜
    보안
    속도
    암호화 알고리즘
    설정
    권장 용도
    OpenVPN TCP
    매우 안전함(알려진 취약점 없음)
    매우 빠름
    AES-256-GCM
    VPN을 사용하면 쉽지만, 사용자 스스로 설정은 어려움
    라우터 호환성 및 모든 일상적인 사용
    OpenVPN UDP
    매우 안전함(알려진 취약점 없음)
    매우 빠름
    AES-256-GCM
    VPN을 사용하면 쉽지만, 사용자 스스로 설정은 어려움
    라우터 호환성 및 모든 일상적인 사용
    IKEv2/IPSec
    매우 안전함(알려진 취약점 없음)
    매우 빠름
    AES-256-GCM
    VPN을 사용하면 쉽지만, 사용자 스스로 설정은 어려움
    단거리 연결, 모바일 네트워크 및 일상적인 사용
    L2TP/IPsec
    안전한
    빠름
    AES-256-GCM
    Windows에서 쉬움
    검색 도중 개인정보 보호 능력 강화에 도움이 됨
    WireGuard
    매우 안전함(알려진 취약점 없음)
    매우 빠름
    ChaCha20
    쉬움
    일상적인 사용
    PPTP
    안전하지 않음
    매우 빠름
    MPEE 128비트
    매우 쉬움
    오래되었으며 이미 알려진 문제가 있어 사용을 권유하지 않음
    SSTP
    평균
    평균
    AES-256-GCM
    Windows에서 쉬움
    Windows 장치 연결
    SoftEther
    매우 안전함(알려진 취약점 없음)
    매우 빠름
    AES-256-GCM
    클라이언트 설정
    일상적인 사용

    VPN 프로토콜 비교표

    의미 파악이 애매할 수 있는 몇 가지 범주에 대해 정의해 보겠습니다.

    보안성 — 각 프로토콜에 대한 이 결과는 암호화 강도, 데이터 무결성(전송 중 데이터가 변조되지 않도록 함), 알려진 공격에 대한 취약점 등 여러 가지 특성을 반영합니다.

    속도 — VPN 프로토콜의 속도는 데이터 전송에 사용되는 요소(암호화, 지연 속도, 광대역, 압축 등)와 해당 요소가 속도에 미치는 영향에 따라 측정됩니다.

    예를 들어 더욱 강력한 암호화 방식(AES-256 등) 방식을 사용하면 비교적 약한 암호화 방식(PPTP AES-128 등)을 사용할 때보다 연결 속도가 더 느려집니다. 또한 OpenVPN은 압축 방식을 사용하기 때문에 데이터 전송 속도가 더 빨라집니다.

    설정 — 일부 프로토콜은 VPN 앱만 있으면 될 정도로 설정이 간편하지만 일부 프로토콜은 전용 앱이 없어 수동으로 설정해야 하며 더 많은 노하우가 필요합니다(OpenVPN 등이 여기에 해당). 이 결과는 VPN 프로토콜의 설정 및 사용이 얼마나 간편한지를 반영합니다. 

    VPN 보안 프로토콜에 대한 심층 분석

    VPN 보안 프로토콜에 대해 심층적으로 알아보기에 앞서 우리는 안전하고 보안에 강한 통신 채널을 만들기 위해 VPN 프로토콜은 더 작은 프로토콜들을 결합한다는 점을 명심해야 합니다. 각각의 작은 프로토콜에는 데이터 암호화, 연결 설정 또는 데이터 무결성 확보 등의 특정 역할이 있습니다.

    각 업계 표준 VPN 프로토콜의 장단점 비교표를 준비했습니다. 각각의 특별한 기능에 대해 살펴보도록 하겠습니다.

    OpenVPN

    장점
    단점
    알려진 취약점 없음
    코드 부피가 커 속도가 빠르지 않을 수 있음
    최고 수준의 암호화 및 인증
    소프트웨어 설정이 어려울 수 있음
    오픈 소스

    OpenVPN은 오픈 소스 VPN 시스템으로 소프트웨어와 VPN 서비스를 위한 프로토콜로 사용됩니다. 암호화 및 인증프로세스는 TLS(전송 계층 보안) 방식을 기반으로 합니다.

    매우 안전한 AES-256-GCM 암호화 알고리즘과 함께 일반적으로 사용합니다. OpenVPN의 오픈 소스 특성상 전 세계 전문가들이 보안 취약점 및 기타 문제를 점검할 수 있습니다. 

    OpenVPN은 수동으로 설정하기 다소 어렵지만 Surfshark와 같은 VPN 서비스를 이용하면 사전 설정이 모두 완료되므로 문제가 되지 않습니다. 

    OpenVPN TCP와 UDP 비교: 둘의 차이점은 무엇일까요?

    TCP와 UDP는 본질적으로 상이한 전송 계층 프로토콜로 OpenVPN이 VPN 연결을 설정하는 데 사용합니다.

    TCP(전송 제어 프로토콜) — 데이터가 순차적으로 전송되며, 각 데이터 패킷에 식별자가 부여됩니다. 패킷이 손실되거나 잘못된 순서로 전송되는 경우, 수신기에 데이터 패킷의 재전송이 필요하다는 메시지기 표시됩니다. 따라서 둘 중에서는 TCP가 비교적 더 안정적입니다.

    UDP(사용자 데이터그램 프로토콜) — 데이터가 스트림으로 전송되며, 각 데이터 패킷에 식별자가 부여되지 않습니다. 해당 패킷이 손상되지 않고 전송되었는지만 확인됩니다. UDP는 오류 수정이 거의 없으며, 패킷 손실에 대해 신경 쓰지 않습니다. 이런 이유로 속도가 더욱 빠르고 더욱 많은 사용자가 선택을 받지만 연결이 끊기는 문제가 자주 발생합니다.

    두 가지를 모두 사용해 본 후 연결이 더욱 원활한 한 종류를 선택하여 사용하시기를 권장합니다.

    IKEv2/IPSec

    장점
    단점
    매우 빠름
    속도는 기기와 서버 간의 거리에 따라 다를 수 있음
    안정적인 연결
    모바일 네트워크에서 잘 작동함

    인터넷 키 교환 버전 2(IKEv2)는 IPSec(인터넷 프로토콜 보안) VPN 프로토콜과 함께 사용되는 인증 프로토콜입니다. IPSec은 시스템 커널에서 백그라운드로 작동하기 때문에 IKEv2는 매우 빠른 속도를 제공할 수 있습니다.

    IKEv2는 대부분의 운영 체제에서 구현되므로 느린 OpenVPN 대신 사용하기 용이합니다.

    IKEv2 IPsec 프로토콜 터널링 프로세스를 보여주는 순서도.

    L2TP/IPsec

    장점
    단점
    비교적 안전함
    오래됨
    L2TP는 자체적으로 암호화하지 않음
    L2TP에서 인증을 제공하지 않음
    느린 속도

    L2TP(계층 2 터널링 프로토콜)자체 보안을 제공하지 않으며 IPSec을 사용하여 암호화합니다. L2TP는 데이터를 두 번 캡슐화하기 때문에 연결 속도가 느려집니다.

    L2TP IPsec 프로토콜 터널링 프로세스를 보여주는 순서도.

    WireGuard

    장점
    단점
    안전한
    난독화를 제공하지 않기 때문에 DPI(심층 패킷 분석) 발생 확률이 높음
    4,000줄에 불과한 코드
    오픈 소스
    빠른 속도
    비연결형
    설정이 쉬움

    WireGuard는 IKEv2와 OpenVPN보다 빠른 연결 속도를 제공하면서 4,000줄의 코드만 사용합니다(비교하면 OpenVPN은 약 7만줄 입니다.) 가벼운 코드로 인해 감사하기 쉽고 이론상 안정성을 향상시킬 수 있습니다.

    OpenVPN과 비교하여 볼 때 수년간 축적된 경험 및 검증은 부족하지만, WireGuard의 간결성 덕분에 탁월한 속도로 최고 수준의 보안과 암호화 표준을 제공합니다. Linux, macOS, Windows, Android 등과 같은 주요 플랫폼에서 실행됩니다.

    *WireGuard는 Jason A. Donenfeld의 등록 상표입니다.

    PPTP

    장점
    단점
    간편한 설정
    다른 대안보다 안전하지 않음
    빠름
    악용될 우려가 있음
    매우 노후화됨
    방화벽에 쉽게 막힘

    지점 간 터널링 프로토콜(PPTP)은 노후화된 터널링 프로토콜로 어떤 VPN 서비스도 사용할 수 없습니다. 최대 128비트까지의 암호화 숫자만 지원이 가능하며 다음과 같은 공격에 취약합니다. 

    PPTP 프로토콜 터널링 프로세스를 보여주는 순서도.

    SSTP

    장점
    단점
    방화벽을 쉽게 우회할 수 있음
    코드가 감사를 받은 적 없음
    업계 표준 암호화 사용 가능
    Windows 이외의 운영 체제와 호환성 떨어짐
    네트워크 연결이 불안정한/신뢰할 수 없는 경우에도 연결이 안정적임
    오픈 소스 코드가 아니라 VPN 개발자가 조작할 수 없음
    Windows 운영 체제에서 쉽게 설정할 수 있음

    보안 소켓 터널링 프로토콜(SSTP)은 지점 간 프로토콜(PPP) 트래픽을 전송할 수 있는 터널링 프로토콜입니다. SSTP는 방화벽에서 종종 열려있는 포트 443을 통해 실행될 수 있어 사용자가 방화벽을 우회할 수 있습니다.

    SSTP의 단점은 Windows 및 Linux 이외의 다른 운영 체제와의 호환성이 떨어지며, 코드 감사가 이루어지지 않아 보안 위험에 대한 우려가 생길 수 있습니다.

    SSTP 프로토콜 터널링 프로세스를 보여주는 순서도.

    SoftEther

    장점
    단점
    빠르고 안정적이며 안전함
    비교적 최신 기술이기 때문에 테스트 시간이 충분하지 않았음
    OpenVPN과 같은 프로토콜에 추가 기능 제공
    오픈 소스

    SoftEther는 오픈 소스 멀티 프로토콜 VPN 클라이언트 및 서버 소프트웨어입니다. GUI(그래픽 사용자 인터페이스) 관리 및 RPC(원격 프로시저 호출)와 같은 고급 기능을 HTTPS(하이퍼텍스트 전송 프로토콜) 위에 추가합니다.

    SoftEther는 신속한 처리 속도를 목적으로 제작되었으며, 이론적으로는 OpenVPN’s TCP 모드보다 빠른 속도를 제공합니다. 그러나 최근에 개발된 것이기 때문에 OpenVPN만큼 충분히 검증되지 않았습니다.

    또한 SoftEther 프로토콜은 보안 소켓 계층(SSL) 기반의 터널링 프로세스를 활용합니다. 따라서 SSTP와 SoftEther 프로토콜 사이에 터널이 구축되는 방법과 유사한 점을 발견할 수 있습니다.

    SoftEther 프로토콜 터널링 프로세스를 보여주는 순서도.

    Shadowsocks는 무엇인가요?

    많은 사람이 잘못 알고 있지만, Shadowsocks는 VPN 프로토콜이 아니며, SOCKS5 프로토콜을 기반으로 한 터널 프록시입니다. 중국의 만리방화벽을 우회하기 위해 특별히 설계된 오픈 소스 프로젝트입니다. 그러나 실행 및 설정이 그리 쉽지는 않습니다.

    특정 VPN 프로토콜 선택이 중요한 이유

    VPN 서버에 연결하는 것만으로도 충분할 수 있습니다. VPN 서버가 작동만 한다면 어떤 VPN 프로토콜을 사용할지 고민할 필요가 없겠죠? 하지만 기본 설정이 언제나 최선의 선택은 아닙니다. NetBlocks 전문가들은 이와 관련하여 아래와 같이 말합니다.

    VPN이 사용하는 기본 프로토콜은 암호화된 터널의 지연 시간, 성능 및 신뢰성에 영향을 미칩니다. 연결 상태를 전 세계적으로 추적한 결과, 모든 프로토콜(VPN protocols)이 동일하지 않음을 알 수 있었습니다. 따라서 소비자는 VPN 프로토콜의 옵션에 대해 숙지하고 있어야 합니다.”라고 독립적인 인터넷 모니터링 기관인 NetBlocks설립자 겸 이사인 Alp Toker는 말합니다.

    VPN 프로토콜에 대한 일반적인 오해

    VPN 프로토콜에 따라 연결 속도가 달라집니다: 일부의 경우에만 그렇습니다. 연결 속도에 영향을 미치는 요인은 다양합니다.

    VPN 프로토콜에 따라 연결의 보안성이 달라집니다: 그럴 수도 있고 아닐 수도 있습니다. 암호화 알고리즘이 데이터 암호화를 통해 “보안성”에 가장 깊이 관여합니다.

    그렇다면 VPN 프로토콜은 왜 중요한 것일까요?

    프로토콜은 VPN 서비스가 기존 디지털 기반 위에 네트워크를 구축하고 구성하는 데 도움을 줍니다.

    자체 프로토콜을 개발하고 사용할 수도 있지만 그러기 위해서는 관련 노하우를 알고 있어야 하며 많은 시간 및 리소스 투입이 필요합니다. 그래서 대부분의 VPN 제공 업체는 다중 운영 체제를 지원하는 신뢰할 수 있고, 감사를 시행한 오픈 소스 프로토콜을 사용합니다. 이제 이러한 경우만 제외하고 업계 표준 프로토콜을 비교해 보도록 하겠습니다.

    어떤 VPN 프로토콜을 선택해야 할까요?

    WireGuardIKEv2/IPSec은 오늘날 업계에서 가장 최고의 VPN 프로토콜로 앞장서고 있습니다. OpenVPN은 비슷한 성능을 제공하지만 설치가 더 어렵기 때문에 3위를 차지합니다. 그러나 홈 네트워크에 VPN을 설치하길 원한다면 많은 라우터가 OpenVPN과 호환되므로 유용합니다.

    사실 “최고”라는 단어는 거창한 말이며 모든 상황에 가장 적합한 하나의 프로토콜을 선택하는 것은 불가능합니다. VPN을 사용하려는 사용자의 구체적인 니즈와 이용 계획에 따라 판단해야 합니다. 

    가장 안전한 VPN 프로토콜은 무엇인가요?

    “최고” 카테고리와 마찬가지로 “가장 안전한” VPN 프로토콜은 실제로 없습니다. SoftEther, WireGuard, SSTP, IKEv2, 및 OpenVPN은 모두 비슷한 수준의 보안성을 제공하고 있으며, 매우 훌륭한 보안성을 자랑합니다. Surfshark, NordVPN 등과 같은 유명 기업은 물론 업계의 많은 제공업체에서 이러한 프로토콜을 믿고 사용 중입니다.

    하지만 보안 프로토콜을 사용하더라도 가장 중요한 것은 제공 업체가 VPN 네트워크를 구축하고 구성하는 방식입니다. WireGuard를 사용하더라도 무료 VPN신뢰하지 않는 것이 좋습니다! 무료 VPN을 사용하면 불법 사용자 데이터 판매 등의 문제가 발생할 수 있으며 더 나아가 애드웨어로 인한 장치 감염이 일어날 수 있습니다.

    가장 빠른 VPN 프로토콜은 무엇인가요?

    프로토콜이라고 표시된 레버를 당기는 손.

    흔히 알려진 것과는 달리 VPN 프로토콜은 연결 속도에 큰 영향을 미치지 않습니다. 실제로 중요한 것은 다음과 같습니다.

    • 인터넷 연결 속도,
    • 장치의 호환성 및 품질,
    • VPN 서버의 로딩 및 처리 속도,
    • 사용자와 VPN 서버의 거리.

    가장 안정적인 VPN 프로토콜은 무엇인가요?

    OpenVPN TCP는 특히 신뢰할 수 없는 네트워크에 연결할 때 가장 안정적인 프로토콜입니다. 하지만 안정성과 속도라는 두 마리 토끼를 잡을 수는 없습니다. TCP는 UDP보다 각 정보를 전달하는 데 더 오래걸립니다.

    스트리밍에 가장 적합한 VPN 프로토콜은 무엇인가요?

    좋아하는 프로그램 중간에 버퍼링 되기 시작하면 인상이 찌푸려지겠지요? 누구에게나 마찬가지입니다. 안전하고 버퍼링 없는 콘텐츠 스트리밍에 적합한 WireGuard 및 IKEv2/IPsec와 같이 빠르고 안정적인 VPN 프로토콜을 사용하면 버퍼링 문제를 피할 수 있습니다.

    면책 조항: Surfshark 서비스를 불법적인 활동에 이용하는 것은 엄격히 금지되어 있으며 이는 서비스 약관 위배에 해당합니다. 특정한 활동을 위해 Surfshark 서비스를 이용할 때, Surfshark를 이용하여 액세스하는 서비스 제공업체 및 웹사이트의 모든 관련 법률과 규정을 준수하는지 확인해야 합니다.

    게임에 가장 적합한 VPN 프로토콜은 무엇인가요?

    온라인 게임을 할 때는 실력뿐만 아니라 연결 속도에 따라 게임 퍼포먼스가 달라집니다.

    VPN을 사용하여 게임을 하고자 한다면 속도 저하 문제가 가장 적은 WireGuard를 기본 VPN 프로토콜로 선택하십시오. WireGuard는 오늘날 가장 빠른 옵션이므로 게임에 최적의 선택입니다.

    WireGuard, OpenVPN 및 IKEv2가 최고의 VPN 프로토콜인 이유

    WireGuard, OpenVPN 및 IKEv2 이외의 오래된 프로토콜 대부분은 노후화되었으며 취약점이 많습니다. 이 세 가지 이외의 다른 VPN 프로토콜을 사용할 이유는 없습니다. 

    사실 좋은 VPN 서비스를 제공하는 데는 하나의 프로토콜로도 충분하지만, 라우터 및 다양한 운영 체제와의 호환성이 각기 다르기 때문에 세 가지 프로토콜을 모두 제공하고 있습니다.

    VPN 프로토콜 종류를 실제로 체험하기

    이번 심층 분석을 통해 어떤 VPN 프로토콜이 사용자에게 더 유용한지 알게 되었습니다. 가능한 수준에서 가장 안전한 VPN을 사용하고 싶다면 사용자 니즈에 부합하는 프로토콜을 선택하는 것이 중요합니다. 일반적인 경우에는 WireGuard나 IKEv2의 사용을 권장하며 라우터에 VPN을 설치해야 하는 경우에는 OpenVPN을 사용하는 것이 좋습니다. 기쁜 소식이 있습니다. Surfshark에서는 이 세 가지를 모두 제공하고 있습니다!

    이제 직접 경험해 보세요
    여러분에게 가장 적합한 VPN 프로토콜을 이용해 보세요
    Surfshark

    자주 묻는 질문

    VPN에 어떤 프로토콜을 사용해야 하나요?

    사용자 연결에 가장 적합한 프로토콜을 대부분의 VPN에서 자동 선택하므로 이 부분에 대해서는 고민하지 않아도 됩니다. 누가 뭐라 하든 직접 사용해 보는 것이 가장 좋습니다. 

    어떤 VPN이 가장 좋을까요?

    가장 훌륭한 VPN은 온라인 활동에 대한 로그 레코드가 남지 않고 최신 보안 기술을 지원하는 믿을 수 있는 VPN입니다. 

    최신 VPN 프로토콜은 무엇인가요?

    WireGuard는 가장 최신의 VPN 프로토콜입니다. 또한 빠르고 안전하다고 알려져 있습니다.

    UDP는 VPN에 적합한가요?

    네. UDP는 안정적이고 신뢰할 수 있으며 빠른 속도를 제공하기 때문에 최고의 VPN 프로토콜 중 하나입니다.

    가장 일반적으로 사용되는 VPN 프로토콜 3개는 무엇인가요?

    Wireguard, OpenVPN 및 IKEv2/IPSEC은 현재 사용할 수 있는 최고의 VPN 프로토콜입니다. 그래서 프리미엄 VPN 제공업체가 가장 선호하는 프로토콜이기도 합니다.