Bitcoin Core의 TCP 메모리 고갈 버그는 어떤 노드에 영향을 미쳤나

·
#Bitcoin Core#비트코인#보안#노드#TCP

Bitcoin Core가 2026년 10월 28일 공개한 보안 공지는 얼핏 모순처럼 보이는 문제를 다룬다. 노드에는 연결된 상대가 보낸 데이터가 너무 많이 쌓이지 않도록 하는 장치가 있었다. 그런데도 악성 상대가 데이터를 계속 쌓게 만들어 노드의 메모리를 고갈시킬 수 있었다.

비밀은 한도가 적용되는 방식에 있다. Bitcoin Core는 상대별 대기열이 커지면 데이터를 읽는 작업을 잠시 멈췄다. 그러나 일부 운영체제에서 사용하는 소켓 감시 경로는 읽기가 멈춘 동안에도 예외 이벤트를 지켜봤다. 악성 피어가 이 이벤트를 일으키면 처리 과정에서 소켓을 다시 읽었고, 이미 읽기가 중지된 상대의 대기열에도 데이터가 더 들어갈 수 있었다.

영향도 모든 노드에 같지 않았다. 공지에 따르면 문제가 된 경로는 Linux가 아닌 플랫폼에서 사용됐으며, 악성 피어는 자신이 연결된 Windows·macOS·BSD 노드를 중단시킬 수 있었다. Linux의 Bitcoin Core는 이번 취약점의 영향을 받지 않는다. 수정 사항은 Bitcoin Core 29.5, 30.4, 31.2, 32.1에 포함됐다.

한도는 메모리를 어떻게 지키려 했나

비트코인 노드는 네트워크의 다른 노드와 연결해 데이터를 주고받는다. 이렇게 연결된 상대를 피어라고 한다. 노드가 피어로부터 받은 데이터를 곧바로 모두 처리할 수 없다면, 일부는 처리를 기다리는 대기열에 남는다. 대기열이란 별도의 어려운 장치라기보다 아직 처리하지 못한 데이터를 잠시 쌓아두는 공간이다.

문제는 받는 속도가 처리 속도보다 빠를 때 생긴다. 처리할 일이 계속 밀리는데 새 데이터를 무한정 받아들이면 대기열을 담는 데 필요한 메모리도 계속 늘어난다. 상대가 악의적으로 데이터를 보내는 경우에는 이 차이를 노려 노드가 정상적으로 일하기 어렵게 만들 수 있다.

Bitcoin Core가 공지에서 설명한 방어 방법은 피어별로 처리 대기열을 관리하는 것이다. 특정 피어의 대기열이 일정 크기를 넘으면 그 피어에 대한 읽기를 일시 중지한다. 노드가 아직 처리하지 못한 데이터가 많은 상태에서 같은 상대의 데이터를 계속 읽어 대기열에 추가하지 않도록 하는 조치다.

이런 식으로 뒤쪽의 처리 능력이 부족할 때 앞쪽의 입력을 늦추는 것을 역압이라고 부른다. 핵심은 단순히 한도라는 숫자를 정해두는 데 있지 않다. 대기열이 커졌다는 사실이 실제 읽기 동작에 전달돼야 하고, 읽기를 실행할 수 있는 경로들이 그 중지 상태를 따라야 한다.

여기서 공지가 설명한 한도는 피어별 처리 대기열에 관한 것이다. 컴퓨터 전체의 메모리 사용량을 어떤 경우에도 일정 값 아래에 묶어둔다는 뜻은 아니다. 또한 대기열 크기를 검사한다는 사실만으로 다른 모든 코드 경로가 그 검사를 우회하지 못한다고 결론 낼 수 없다. 이번 버그는 바로 그 차이에서 생겼다.

멈춘 읽기가 다시 실행된 경로

노드는 연결마다 데이터가 들어왔는지 같은 소켓 이벤트를 살펴야 한다. 소켓은 네트워크 연결에서 데이터를 주고받는 통로다. Bitcoin Core는 이 이벤트를 감시할 때 운영체제에 따라 다른 방식을 사용한다. 공지에 따르면 Linux에서는 poll()을, 그 밖의 플랫폼에서는 select()에 기반한 방식을 쓴다. 이름을 외울 필요는 없다. 같은 Bitcoin Core라도 이벤트를 감시하는 코드 경로가 달랐다는 점이 중요하다.

문제가 된 select() 경로는 피어에 대한 읽기를 중지한 상태에서도 해당 소켓의 예외 조건을 계속 감시했다. 여기서 예외 조건은 프로그램이 반드시 오류를 내고 멈췄다는 뜻이 아니다. 일반적인 데이터 수신과 구분해 운영체제가 알려주는 특별한 소켓 이벤트를 말한다.

악성 피어는 TCP의 긴급 데이터, 즉 urgent data를 보내 이런 예외 이벤트를 일으킬 수 있었다. TCP는 연결된 컴퓨터 사이에서 데이터를 전달하는 통신 방식이다. 이 경우 ‘긴급’은 사용자가 읽어야 할 내용이 급하다는 뜻이 아니라 TCP가 제공하는 별도의 데이터 처리 방식에 붙은 이름이다.

순서를 따라가면 한도가 어떻게 무력화됐는지 보인다. 먼저 피어의 처리 대기열이 커지면 Bitcoin Core는 그 피어의 읽기를 중지한다. 그런데 select() 경로는 그 뒤에도 예외 조건을 감시한다. 연결된 악성 피어가 TCP 긴급 데이터로 예외 이벤트를 일으키면, 노드는 그 이벤트를 처리하면서 해당 소켓을 다시 읽는다.

그 읽기에서 얻은 데이터는 피어의 처리 대기열에 추가될 수 있었다. 공지는 이 경로를 통해 읽기가 중지된 피어가 역압을 우회하고, 처리 대기열에 제한 없이 데이터를 쌓을 수 있었다고 설명한다. 따라서 문제는 ‘대기열 한도가 아예 없었다’가 아니라, 읽기를 멈춰 한도를 지키려는 장치가 예외 이벤트 처리에는 제대로 적용되지 않았다는 것이다.

예외 조건을 감시하는 것 자체와 취약점은 구분해야 한다. 공지에서 드러난 문제는 감시가 계속됐다는 사실 하나만이 아니다. 그 이벤트를 처리하는 과정에서 읽기가 다시 실행됐고, 그 결과 이미 멈춰야 했던 피어의 대기열이 더 커질 수 있었다는 연결이 중요하다. 한 경로에서는 문을 닫았지만 다른 경로에서는 같은 대기열에 데이터를 넣을 수 있었던 셈이다.

데이터가 쌓이면 노드는 그것을 보관할 메모리를 계속 써야 한다. 공지는 이로 인해 악성 피어가 연결된 노드의 메모리를 고갈시켜 노드를 중단시킬 수 있다고 설명한다. 다만 공지는 공격에 필요한 전송량이나 중단까지 걸리는 시간, 메모리 사용량의 실측 결과를 제시하지 않는다. 특정 환경에서 얼마나 빨리 문제가 생기는지 이 자료만으로 계산할 수는 없다.

누가 업데이트 대상을 확인해야 하나

영향을 판단할 때 첫 번째 질문은 비트코인을 사용하는지 여부가 아니라, 어떤 환경에서 Bitcoin Core 노드를 실행하는지다. 지갑을 보는 컴퓨터의 운영체제와 노드가 실제로 실행되는 컴퓨터의 운영체제가 다를 수 있으므로, 확인할 대상은 노드가 돌아가는 환경이다.

공지에 따르면 취약한 것은 select()를 사용하는 코드 경로다. Windows, macOS, BSD에서 돌아가는 영향받는 Bitcoin Core 노드는 악성 피어가 연결된 경우 메모리 고갈로 중단될 수 있었다. 따라서 이 환경의 운영자는 설치된 Bitcoin Core 버전과 공지에 나온 수정 버전을 대조하는 것이 중요하다.

두 번째 조건은 악성 피어와의 연결이다. 공지는 악성 상대가 자신이 연결된 노드를 공격할 수 있다고 설명한다. 모든 Windows나 macOS 컴퓨터가 비트코인을 사용한다는 이유만으로 공격받는다는 뜻은 아니다. 반대로 영향받는 노드를 운영한다면, 정상적인 네트워크 통신에 참여하는 데 필요한 피어 연결도 이 문제의 판단에서 빠뜨릴 수 없다.

Linux 노드는 이번 문제의 영향 대상에서 제외된다. 이유는 Linux가 메모리 고갈에 원천적으로 안전해서가 아니다. 공지가 지목한 버그가 select() 경로에 한정되고, Bitcoin Core가 Linux에서 소켓 이벤트 감시에 poll()을 사용하기 때문이다. 이는 해당 취약점에 대한 결론이지 Linux의 모든 네트워크 문제나 Bitcoin Core의 다른 취약점까지 없다는 보증은 아니다.

또한 영향 범위를 피해의 종류와 구분해야 한다. 이 공지가 설명하는 결과는 노드가 메모리를 소진해 중단될 수 있다는 것이다. 그 중단은 노드의 가용성에 관한 문제다. 확인된 공지는 이 버그를 이용한 자산 탈취나 비트코인 합의 규칙의 변경을 설명하지 않는다. 노드 중단을 가볍게 볼 일은 아니지만, 설명된 결과보다 피해를 넓혀 읽어서도 안 된다.

공지에는 이 취약점의 심각도가 중간으로 표시돼 있다. 동시에 악성 피어가 연결된 영향 대상 노드를 쉽게 중단시킬 수 있다고 설명한다. 심각도 한 단어만 보고 자신의 노드가 안전하다고 판단하기보다, 운영체제와 실행 버전, 피어 연결이라는 구체적인 조건을 함께 보는 편이 유용하다.

수정은 언제 나왔나

수정 사항이 포함됐다고 공지에 명시된 버전은 Bitcoin Core 29.5, 30.4, 31.2, 32.1이다. 각각 29·30·31·32 버전 계열의 릴리스다. 영향받는 운영자는 현재 실행 중인 버전이 무엇인지 확인하고, 사용하는 버전 계열의 수정 사항이 포함된 릴리스를 확인해야 한다. 공지는 수정 버전을 제시하지만, 확인된 설명만으로 수정 코드가 내부에서 정확히 어떤 방식으로 바뀌었는지까지는 알 수 없다.

공개까지의 일정도 단계별로 볼 필요가 있다. 2026년 10월 23일 Project Loupe가 문제를 찾아 Gregory Sanders에게 알렸고, Sanders는 이를 확인해 같은 날 Bitcoin Core 보안팀에 전달했다. 10월 26일에는 수정 제안이 열리고 병합됐으며, 수정 사항이 29·30·31·32 버전 계열에도 반영됐다.

수정 버전의 공개일은 한날이 아니었다. 31.2와 32.1은 10월 27일, 29.5와 30.4는 10월 28일에 공개됐다. 취약점 공개 공지 역시 10월 28일에 나왔다. 문제를 발견한 날, 수정안을 병합한 날, 사용자가 수정 버전을 받을 수 있게 된 날, 취약점을 공개한 날은 서로 다른 사건이다. 운영자에게 중요한 날짜도 단지 최초 발견일이 아니라 자신이 쓸 수 있는 수정 버전이 언제 나왔는지다.

이 구분은 공지를 읽을 때 흔한 오해도 막는다. 예를 들어 10월 26일에 수정이 병합됐다는 말만으로 그날 모든 사용자가 각 버전 계열의 수정 릴리스를 받을 수 있었다고 볼 수는 없다. 반대로 10월 28일에 문제가 공개됐다고 해서 그날 처음 발견됐다고 읽어도 안 된다. 공지의 타임라인은 발견부터 검증과 배포까지의 과정을 따로 보여준다.

자동 스캔이 찾아낸 것과 사람이 확인한 것

이번 발견 경로에는 대규모 언어모델, 즉 LLM을 이용한 자동 스캔이 포함돼 있다. 공지는 Spiral에서 진행된 Elias Rohrer의 Project Loupe 스캔이 문제를 발견했고, Gregory Sanders가 그 결과를 검증해 Bitcoin Core 팀에 알렸다고 설명한다.

이 순서에서 자동화와 검증을 같은 일로 묶지 않는 것이 중요하다. 스캔은 살펴볼 만한 문제를 찾아냈고, 사람은 그 결과를 확인해 담당 보안팀에 전달했다. 이어 수정 제안과 병합, 릴리스가 이뤄졌다. 이 사례는 자동 스캔이 취약점 발견의 출발점이 될 수 있음을 보여주지만, 자동 탐지 결과가 언제나 맞거나 사람의 확인 없이 수정까지 완결된다는 근거는 아니다.

노드 운영자가 이번 공지에서 얻을 수 있는 가장 실용적인 판단도 구체적이다. Linux에서 실행 중이라면 공지가 지목한 select() 취약점의 영향 대상이 아니다. Windows·macOS·BSD에서 Bitcoin Core를 실행한다면 노드의 실제 버전을 확인하고, 공지가 명시한 수정 릴리스와 대조해야 한다. 그 판단의 이유는 단순히 운영체제 이름이 다르기 때문이 아니라, 운영체제에 따라 이벤트를 감시하는 경로가 달랐기 때문이다.

이번 사례는 메모리 한도를 볼 때 무엇을 더 물어야 하는지도 보여준다. 한도가 존재하는지만으로는 충분하지 않다. 데이터가 들어올 수 있는 각 경로가 대기열이 찼다는 상태를 존중하는지까지 살펴야 한다. 이 버그에서는 평소 읽기를 멈추는 장치가 있었지만, TCP 예외 이벤트가 일으킨 별도의 읽기가 그 장치를 피해 갔다.

출처: Bitcoin Core 취약점 공개 공지