REALITY와 XTLS Vision 원리: 핸드셰이크 부담과 중복 암호화가 줄어드는 이유

TLS 1.3 핸드셰이크와 REALITY의 인증서 없는 설계, Vision 흐름 제어가 중복 암호화를 줄이는 원리를 알아봅니다. 연결 속도와 CPU 사용량, 모바일 배터리에 미치는 영향도 살펴봅니다.

핵심 내용

VLESS 구독을 가져올 줄 알고 노드 설정과 속도 측정 결과를 이해하고 싶은 독자를 위한 글입니다. REALITY는 프록시 진입점의 인증 방식을 바꾸고, Vision은 조건에 맞는 데이터 전달 경로를 최적화합니다. REALITY가 네트워크 왕복을 한 번 줄여 주는 것은 아니며, Vision을 써도 HTTPS가 평문으로 바뀌지 않습니다. 두 기능을 구분해야 변화가 연결 수립, 지속 전송, 기기 배터리 중 어디에서 나타나는지 판단할 수 있습니다.

TLS 1.3 핸드셰이크: 첫 데이터 전송 전 과정

TCP 연결클라이언트 인사서버 핸드셰이크인증애플리케이션 데이터

일반 HTTPS에서 TLS 1.3을 사용하면 클라이언트는 ClientHello에 지원하는 프로토콜 매개변수와 키 공유 값을 담아 보냅니다. 서버는 매개변수를 선택하고 자체 키 공유 값을 돌려준 뒤, 이어지는 핸드셰이크 메시지에 인증서와 서명을 포함합니다. 클라이언트는 인증서 체인과 호스트 이름, 핸드셰이크 서명을 검증합니다. 양쪽이 핸드셰이크 기록을 확인한 뒤 일반적인 절차에 따라 애플리케이션 데이터를 보냅니다. 인증서는 신원을 증명하는 용도이지 웹페이지 전체를 암호화하지는 않습니다.

프록시를 통해 HTTPS 사이트에 접속하면 서로 독립적인 보안 세션이 두 구간에 걸쳐 형성될 수 있습니다. 하나는 클라이언트 코어와 프록시 진입점 사이, 다른 하나는 애플리케이션과 대상 웹사이트 사이의 연결입니다. 브라우저는 여전히 대상 웹사이트의 인증서를 검증합니다. 페이지 첫 바이트까지 걸리는 시간에는 프록시에서 대상 서버까지의 연결, 서버 처리 시간, DNS 조회 등이 포함될 수 있으므로 프록시 핸드셰이크 시간으로 단정할 수 없습니다.

1 RTT
일반 TCP 연결 수립
1 RTT
TLS 1.3 일반 전체 핸드셰이크
160 ms
RTT 80ms일 때 왕복 두 번이 걸리는 이론적 예시

판단 기준: 신규 연결과 재사용 연결을 나눠 측정하세요

160ms는 단일 구간을 단순화해 계산한 값으로, 실제 첫 화면 로딩 시간은 아닙니다. DNS 조회와 패킷 재전송, 서버 처리 시간, 대상 사이트 연결은 포함하지 않습니다. 신규 연결에서만 느리다면 먼저 왕복 지연과 재전송을 확인한 다음 핸드셰이크를 살펴보세요. 대용량 파일 다운로드의 평균 속도만으로 연결 수립 부담을 추정해서는 안 됩니다.

REALITY에서 인증서가 필요 없는 이유: 프록시 진입점의 인증서 관리 부담 감소

일반적인 TLS 진입점은 서비스 이름에 맞는 인증서를 설치하고 개인 키를 안전하게 보관하며 갱신해야 합니다. REALITY를 사용하면 프록시 운영자가 진입점용 공개 CA 인증서를 별도로 발급받아 갱신할 필요가 없습니다. 클라이언트는 사전에 전달받은 REALITY 공개 키 자료로 프록시 서버를 검증하고, 서버는 이에 대응하는 개인 키를 보관합니다. 달라지는 것은 신뢰의 출처입니다. 신원 인증을 생략하거나 인증서 검증을 끈 채 연결하는 방식이 아닙니다.

XTLS Vision 흐름 제어: 줄어드는 것은 중복 처리입니다

기존의 중첩 경로에서는 애플리케이션이 만든 TLS 암호문을 프록시 보안 계층이 한 번 더 감쌉니다. 프록시 진입점에서 바깥쪽 계층을 풀어도 대상 서버로 전달되는 데이터는 여전히 애플리케이션 계층의 암호문입니다. 두 보호 계층의 종단점은 서로 다릅니다. 이중 암호화를 애플리케이션이 같은 연결에서 인증서를 두 번 검증하는 것으로 이해해서는 안 됩니다.

Vision은 Xray에서 VLESS에 사용하는 흐름 제어 옵션이며, 설정값은 xtls-rprx-vision입니다. 구현이 내부 TLS를 식별하고 전환 조건을 충족하면 이후 데이터는 바깥쪽 계층에서 반복적으로 암복호화되는 처리를 피할 수 있습니다. 내부 TLS는 애플리케이션과 대상 웹사이트 사이에서 계속 유지됩니다. 연결 초기 단계나 조건에 맞지 않는 페이로드에는 이 빠른 경로를 그대로 적용할 수 없습니다. 특히 평문 트래픽이 내부 TLS로 보호되고 있다고 간주해서는 안 됩니다.

REALITY와 Vision 조합

프록시 프로토콜
VLESS
전송 방식
RAW/TCP
보안 계층
REALITY
Flow
xtls-rprx-vision

각 항목은 프로토콜, 전송 방식, 보안 계층, 흐름 제어를 나타냅니다. 가져온 뒤 항목별로 확인하세요.

일반 VLESS TLS 경로

프록시 프로토콜
VLESS
전송 방식
RAW/TCP
보안 계층
TLS
Flow
비워 두기

이 카드는 Vision을 사용하지 않는 경우와 비교하기 위한 것입니다. TLS와 Vision을 함께 사용할 수 없다는 뜻은 아닙니다.

속도·CPU·배터리: 세 가지 결과를 따로 기록하세요

암복호화 계층 하나가 줄면 코어의 바이트당 처리 비용이 낮아질 수 있습니다. 하지만 처리 비용이 기기의 병목에 가까울 때만 전송 속도가 눈에 띄게 달라질 수 있습니다. 회선 대역폭이나 프록시 출구의 속도 제한, 대상 서버 응답이 더 느리다면 CPU 사용량이 줄어도 다운로드 속도는 거의 바뀌지 않을 수 있습니다. 모바일 기기에서는 화면과 무선 신호, 전송이 끝난 뒤에도 무선 모듈이 활성 상태로 유지되는 시간도 고려해야 합니다. 코어가 CPU를 덜 사용해도 기기 전체의 배터리 소모가 줄어든다고 보장할 수는 없습니다.

  1. 첫 바이트 시간: 자체 테스트 환경에서 기기와 서버, HTTPS 리소스를 동일하게 유지하세요. 매번 새 연결을 만드는 테스트를 10회 진행하고, 연결 재사용 결과도 별도로 기록하세요. 중앙값과 최댓값을 각각 보고하고, 테스트 중 네트워크 전환이나 재시도가 있었는지 덧붙이세요.
  2. 전송량과 CPU: 동일한 100 MiB 리소스를 선택해 두 조건을 번갈아 테스트하고, 완료 시간과 코어 프로세스의 누적 CPU 시간을 기록하세요. 작업 관리자의 순간 CPU 사용률만 보지 말고 MiB당 CPU 소요 시간을 비교하세요.
  3. 모바일 배터리: 화면 상태와 네트워크 종류, 신호 조건을 동일하게 유지하세요. 같은 데이터양 또는 같은 시간 동안 비교하고 어떤 기준을 사용했는지 명시하세요. 수십 초 동안의 배터리 잔량 변화만으로 두 흐름 제어 방식의 차이를 구분하기는 어렵습니다. 일정 비율을 절약한다고 주장하는 근거로 사용해서는 안 됩니다.

가져온 뒤 코어와 노드 설정 확인하기

구독을 가져왔는데 코어에서 지원하지 않는다고 나오는 이유는 무엇인가요?

노드를 저장할 수 있다는 것은 클라이언트가 항목을 읽었다는 뜻일 뿐입니다. 데스크톱에서는 v2rayN의 '설정' → '매개변수 설정'에서 코어 유형 관련 옵션을 확인한 뒤 실제 실행 로그도 살펴보세요. 메뉴 이름은 버전에 따라 다를 수 있습니다. Android에서는 앱과 코어를 확인하세요. v2rayNG는 Xray를, v2flyNG는 V2Fly를 사용합니다. Xray용 REALITY와 Vision 조합을 다른 코어에도 그대로 적용할 수 있다고 생각하지 마세요.

핸드셰이크에 실패하면 Flow를 비워도 되나요?

먼저 해당 노드의 편집 화면을 열고 원본 구독과 비교해 주소와 원격 포트, 보안 계층, 서비스 이름, 공개 키 자료를 확인하세요. 그런 다음 처음 실패한 지점이 연결 단계인지 핸드셰이크 단계인지 살펴보세요. 서버가 요구하는 설정을 확인하려고 Flow만 임의로 바꾸지 마세요. 비교가 필요하다면 제공자가 명확히 비교용으로 표시한 노드를 사용하세요.

노드에 443이라고 적혀 있으면 로컬 프록시 포트로 사용해도 되나요?

그대로 사용할 수 없습니다. 노드에 표시된 443은 원격 포트의 예시입니다. 앱에서 프록시를 수동으로 설정할 때 필요한 값은 클라이언트가 실제로 수신 대기 중인 로컬 주소와 포트입니다. 클라이언트의 매개변수 설정에서 로컬 수신 주소를 확인하고 HTTP와 SOCKS 진입점을 구분하세요. 원격 주소를 로컬 프록시 설정란에 입력하지 마세요.

다운로드 속도는 빠른데 웹페이지는 왜 느린가요?

대용량 파일 테스트는 주로 지속 전송 성능을 보여 줍니다. 웹페이지 로딩에는 DNS 조회와 최초 연결 수립, 여러 개의 작은 요청도 영향을 줍니다. 같은 브라우저로 같은 페이지를 처음 열 때와 바로 새로고침할 때를 비교한 다음, 개발자 도구의 네트워크 패널에서 어떤 요청의 대기 시간이 긴지 확인하세요. 특정 도메인만 느리다면 해당 요청과 트래픽 분기 설정을 먼저 점검하세요. 다운로드 테스트만으로 흐름 제어를 바꾸지는 마세요.

클라이언트 다운로드