엄격한 지연 보장은 하나의 예산입니다. 네트워크는 버스트를 여러 홉으로 그대로 보내며 예산을 쓸 수도 있고, 첫 홉 전에 일부 시간을 사용해 플로를 완만하게 만들 수도 있습니다. 입력단에서 기다리면 첫 바이트는 늦어지지만 이후 모든 링크가 더 낮은 순간 부하를 봅니다. 최선의 선택은 아무것도 완화하지 않는 상태와 가능한 최대치로 완화하는 상태 사이에 있는 경우가 많습니다.
Washington University in St. Louis, Google, ByteDance 소속 연구진이 참여한 2024년 IEEE/ACM Transactions on Networking 논문은 이 상충관계를 수식으로 설명합니다[1]. 결정적인 토큰버킷으로 표현한 플로와 고정 경로를 가정합니다. 각 플로에는 종단간 지연 상한이 있습니다. 입력단 재프로파일링, 홉별 서비스 보장, 링크 용량을 함께 정해 모든 지연 상한을 지키면서 전체 대역폭을 최소화하는 것이 목표입니다.
이는 트래픽을 먼저 지연시키면 언제나 용량을 줄일 수 있다는 일반적인 주장이 아닙니다. 서비스 곡선 기반 최조기 마감 스케줄링(Service Curve Earliest Deadline first, SCED)을 사용하는 네트워크 계산 모델 안의 결과입니다. 논문은 작은 사례를 위한 정확한 비선형 최적화와 큰 사례를 위한 Greedy 휴리스틱을 제시합니다. 시험한 작은 구성에서 휴리스틱은 정확한 결과에 가까웠고, 애플리케이션에서 유도한 일부 네트워크에서는 단순 정책보다 두 자릿수 비율로 대역폭을 줄였습니다.
토큰버킷은 버스트를 집행 가능한 계약으로 만듭니다
결정적 트래픽 프로파일은 어느 시간 구간에도 송신자가 보낼 수 있는 양을 제한해야 합니다. 논문은 장기 전송률 r과 버스트 허용량 b를 가진 토큰버킷을 사용합니다. 길이가 t인 구간에서 초기 시점 이후 보낼 수 있는 양은 b + rt를 넘지 않습니다. r은 지속 수요를, b는 장기 전송률을 넘는 제한된 버스트를 표현합니다.
이는 관측한 평균보다 강한 계약입니다. 네트워크는 버킷이 허용하는 최악의 트래픽에도 서비스를 예약하고 지연 상한을 계산할 수 있습니다. 그러나 프로파일을 넉넉하게 잡으면 실제 트래픽이 대부분 완만해도 큰 대역폭이 필요합니다. 프로파일을 더 엄격하게 만들면 예약량을 줄일 수 있지만 입력단 조절기가 패킷을 기다리게 해야 합니다.
재프로파일링은 원래 도착 곡선을 더 완만한 곡선으로 바꿉니다. 네트워크는 사용자의 토큰버킷 계약을 받아들인 뒤 경로에 넣기 전에 별도 조절기를 적용합니다. 완만한 프로파일은 공유 링크에 필요한 순간 서비스를 줄입니다. 조절기가 추가한 대기시간은 같은 종단간 지연 예산에서 차감합니다.
양 극단은 쉽게 정의할 수 있습니다. 재프로파일링 없음(No Reprofiling, NR)은 입력 지연을 0으로 두고 전체 지연 예산을 네트워크에 줍니다. 완전 재프로파일링(Full Reprofiling, FR)은 가능한 만큼 예산을 사용해 플로를 장기 전송률에 가깝게 만든 뒤 남은 지연을 경로에 나눕니다. 두 정책 모두 타당해 보이지만 여러 홉에서는 어느 쪽도 일반적으로 최적이 아닙니다.
여러 홉에서는 입력 지연의 이득이 반복됩니다
최적 EDF 스케줄러가 있는 단일 링크에서는 재프로파일링이 필요하지 않다는 선행 결과가 있습니다. 스케줄러 전에 트래픽을 기다리게 하면 스케줄링 유연성만 줄고 완화 효과를 다시 얻을 링크가 없기 때문입니다. 여러 홉에서는 계산이 달라집니다.
입력 지연은 한 번만 지불합니다. 완만해진 플로는 지나가는 모든 링크에서 버스트 압력을 줄일 수 있습니다. 경로가 여러 공유 링크를 지나면 하나의 완화 결정이 각 링크의 용량 요구량을 낮춥니다. 반면 입력단에 지연을 더 배분하면 네트워크에 남는 시간이 줄어 홉별 서비스 곡선을 더 엄격하게 해야 합니다. 최적화는 반복되는 대역폭 이득과 줄어드는 스케줄링 유연성을 맞춰야 합니다.
그래서 중간 정책이 두 극단보다 좋아질 수 있습니다. 부분적으로 완화한 플로는 입력 지연을 모두 쓰지 않고도 버스트의 비싼 부분을 없앨 수 있습니다. 홉별로 다른 지연을 배분하면 경쟁이 심한 링크에 더 많은 시간을 주고 부하가 낮은 링크에는 적은 시간을 줄 수 있습니다.
효과는 경로가 얼마나 겹치는지에 따라 달라집니다. 혼잡하지 않은 링크 하나를 지나는 플로를 완화해도 공유 이득이 작습니다. 여러 링크에서 서로 다른 플로와 경쟁하는 버스트 플로는 각 병목의 예약량을 줄일 수 있습니다. 따라서 최적 완화 비율은 송신자만의 속성이 아니라 네트워크 전체 결정입니다.
SCED는 보장을 분명하게 만들지만 구현 요구도 높습니다
SCED는 패킷 마감시간을 서비스 곡선으로 일반화합니다. 각 플로는 서비스 보장을 받고 스케줄러는 그 보장이 만드는 마감시간에 따라 전송 순서를 정합니다. 스케줄 가능 조건을 만족하면 서비스 요구량의 합에서 필요한 링크 전송률을 계산할 수 있습니다.
이 틀에서는 각 플로의 도착 곡선, 입력 조절기, 로컬 서비스 곡선, 종단간 지연을 함께 계산할 수 있습니다. 동시에 모델 경계가 중요해집니다. 실제 스위치가 필요한 스케줄링 의미를 구현하거나 충분히 가깝게 제공해야 합니다. 소수의 엄격 우선순위 큐만 제공하는 네트워크에 임의의 플로별 서비스 곡선을 적용했다고 가정할 수 없습니다.
논문은 계산 가능한 형태의 서비스 곡선으로 범위를 제한하고 토폴로지와 경로가 고정되었다고 가정합니다. 버퍼는 무손실 동작에 충분히 큽니다. 트래픽은 주로 유체로 분석하며 패킷 환경에는 표준적인 보정이 필요합니다. 이 가정은 대역폭 최적화를 명확하게 만들지만 실제 적용에는 패킷화, 유한한 큐 메모리, 스케줄링 단위, 경로 변경을 포함해야 합니다.
네트워크에는 플로별 또는 집계된 프로파일 상태도 필요합니다. 조절기는 허용 전송률과 버스트를 알고 새 프로파일을 넘는 트래픽을 보관하며 추가 지연을 계산해야 합니다. 모든 홉의 스케줄러는 로컬 보장을 집행해야 합니다. 중앙 계획기가 용량 수치만 만드는 문제가 아니라 제어부와 데이터 경로가 함께 지켜야 하는 계약입니다.
정확한 최적화는 구조를 보여주지만 규모가 커지면 쓸 수 없습니다
정확한 수식은 입력 재프로파일링 지연과 로컬 서비스 곡선을 함께 선택합니다. 전체 대역폭, 최대 링크 대역폭, 가중 합을 목적함수로 쓸 수 있으며 논문은 전체 대역폭에 집중합니다. 플로 매개변수가 달라질 때 서비스 곡선 조각의 순서가 바뀌므로 결정 공간은 비선형이며 구간별 구조를 가집니다.
작은 직렬 연결 네트워크에서는 비선형 최적화 도구로 이 공간을 탐색할 수 있습니다. 플로 세 개가 링크 두 개에서 열 개를 지나는 시험에서 정확한 해가 Greedy보다 적은 대역폭을 사용했지만 차이는 3%보다 작았습니다. 링크 수가 늘면 해의 품질 차이보다 실행시간 차이가 훨씬 빨리 벌어졌습니다.
링크 두 개에서 플로 수를 두 개에서 다섯 개로 늘린 시험에서는 Greedy가 정확한 결과와 평균 약 0.5% 이내였습니다. 플로가 다섯 개일 때 실행시간은 100만 배 이상 짧았습니다. 네트워크 기준으로 여전히 작은 구성인데도 정확한 방식은 실용 범위를 벗어났습니다.
이 비교는 최악의 경우에 대한 근사 비율을 증명하지 않습니다. 논문도 정확한 해에 가깝다는 결과를 경험적 근거로 한정합니다. 내부 설정이 크게 달라도 대역폭 결과는 비슷할 수 있어 최적점 주변이 평평할 가능성도 있습니다. 운영 계획에서 휴리스틱이 항상 정확한 최적화와 같은 프로파일을 고른다고 가정하면 안 됩니다.
Greedy는 완화 비율을 찾고 링크별 압력을 조정합니다
휴리스틱은 두 극단을 포함한 여러 전역 재프로파일링 수준에서 시작합니다. 각 수준의 네트워크 대역폭을 평가한 뒤 유망한 구간으로 탐색 범위를 좁힙니다. 이 단계는 각 플로에 허용된 재프로파일링 지연 가운데 얼마를 쓸지 대략 정합니다.
이후 조정 단계에서 개별 플로 결정과 로컬 지연 배분을 바꾸며 링크 압력을 줄입니다. 같은 경로와 트래픽 등급을 공유하는 플로를 집계할 수 있어 애플리케이션 기반 토폴로지에서 실행시간 상한을 낮춥니다. 결과 정책은 한 트래픽 등급을 완전히 완화하고 다른 등급은 일부만 완화하며 세 번째 등급은 거의 그대로 둘 수 있습니다.
거친 전역 결정과 링크별 보정을 분리했다는 점은 운영에 유리합니다. 그러나 안정적인 프로파일과 경로가 필요합니다. 플로 구성이나 라우팅이 계획기 재계산보다 빨리 바뀌면 설치된 정책은 이전 공유 관계를 해결한 결과가 됩니다.
따라서 계획에는 유효 기간이 있어야 합니다. 입력에는 프로파일 버전, 경로, 지연 등급, 예상 플로 수를 기록해야 합니다. 정의한 허용 범위를 넘는 변화가 생기면 다시 계산하거나 보수적인 정책으로 돌아가야 합니다. 그렇지 않으면 계획상 낮춘 대역폭이 실제 공유 관계 변화에서 과부하가 될 수 있습니다.
보고된 대역폭 이득은 각 분모와 함께 봐야 합니다
첫 번째 애플리케이션 기반 사례는 Orion 유인 탐사선의 Time-Sensitive Networking 토폴로지를 사용합니다. 대역폭 계산에 쓰는 방향성 링크 47개와 종단 장치 31개로 구성됩니다. 트래픽 등급과 엄격한 마감시간은 선택한 차량 네트워크 조건을 반영합니다. SCED는 TSN 표준에 포함된 스케줄러가 아니므로, 이는 운영 중인 SCED 차량 네트워크의 증거가 아니라 평가 토폴로지입니다.
시험한 Orion 구성에서 Greedy는 완전 재프로파일링보다 대역폭을 최대 16%, 재프로파일링 없음보다 최대 73% 줄였습니다. 플로 수가 늘면 지연 배분 조합이 많아져 중간 정책이 활용할 스케줄링 유연성이 커지므로 완전 재프로파일링과의 차이도 커졌습니다.
두 번째 사례는 북미 데이터센터 사이 네트워크를 본뜬 노드 11개, 양방향 링크 23개 구성입니다. 공개된 플로 크기와 지속시간 분포에서 Web, Cache, Hadoop 트래픽 등급을 만들고 종단간 지연을 각각 10밀리초, 50밀리초, 200밀리초로 설정했습니다. 원자료에 완전한 결합 프로파일이 없으므로 논문에 밝힌 가정으로 트래픽 구성을 합성했습니다.
이 US-Topo 사례에서 Greedy는 완전 재프로파일링보다 약 8%, 재프로파일링 없음보다 약 46% 적은 대역폭을 사용했습니다. 전체 대역폭을 고정하면 완전 재프로파일링보다 8%, 재프로파일링 없음보다 90% 많은 플로를 수용했습니다. 전자는 같은 수요에서 필요한 예약 대역폭을, 후자는 같은 용량에서 수용 가능한 수요를 비교합니다.
재프로파일링 없음과 비교한 큰 비율은 엄격한 결정적 지연 조건에서 이 기준선이 약하다는 점의 영향도 받습니다. 완전 재프로파일링과의 작은 차이가 공동 최적화의 더 강한 근거입니다. 입력 지연을 최대한 쓰는 정책도 네트워크의 스케줄링 유연성을 지나치게 줄이면 비효율적일 수 있음을 보여 줍니다.
대역폭만 구매하는 것이 아닙니다
입력단 완화에는 메모리가 필요합니다. 조절기는 지연시키는 버스트를 저장해야 하며, 필요한 상한은 원래 버킷과 관련됩니다. 네트워크 내부 재프로파일링과 스케줄링에는 플로별 버퍼와 공유 버퍼가 추가될 수 있습니다. 논문은 버퍼 상한을 유도하고 부록에서 결과를 제시하지만 본문 평가는 대역폭에 집중합니다.
따라서 구매자는 대역폭 절감을 여러 자원의 균형으로 바꿔 계산해야 합니다. 입력단 메모리, 홉별 버퍼, 스케줄러 상태, 큐 수, 완화 정밀도, 계산시간을 포함해야 합니다. 비싼 광역 링크의 용량을 8% 줄인다면 가장자리 메모리를 더 써도 경제적일 수 있습니다. 온칩 버퍼와 플로 상태가 부족한 스위치 내부에서는 같은 정책이 맞지 않을 수 있습니다.
지연도 자원입니다. 재프로파일링은 경로에 넣기 전에 의도적으로 트래픽을 기다리게 합니다. 모델 안에서는 최악의 경우가 계약을 넘지 않지만, 네트워크가 비어 있었다면 바로 갈 트래픽의 체감 지연은 늘 수 있습니다. 이 정책은 엄격한 최대값을 유지하면서 일반적인 즉시성을 일부 포기해 예약 용량을 줄입니다.
운영 복잡성도 포함해야 합니다. 프로파일을 승인하고 버전을 관리하며 관측해야 합니다. 계약을 위반한 송신자는 규제해야 합니다. 경로나 링크 용량이 바뀌면 로컬 지연 배분이 무효가 될 수 있습니다. 제어부는 관련 홉을 일관되게 갱신하고 전환 중에도 안전한 구성을 유지해야 합니다.
고정 경로와 엄격한 지연 상한이 적용 범위를 제한합니다
수식은 경로가 정해졌다고 가정합니다. 현대 데이터센터 패브릭은 ECMP, 적응형 라우팅, 패킷 스프레이, 트래픽 엔지니어링으로 플로가 지나는 링크를 바꿀 수 있습니다. 한 경로에 맞춘 홉별 지연 계획은 다른 경로 길이와 공유 관계에서 보장을 유지하지 못할 수 있습니다.
허용된 경로 중 최악을 기준으로 계획하면 보장을 유지하지만 대역폭 이득이 사라질 수 있습니다. 결정적 트래픽을 설계된 경로에 고정하고 탄력적 트래픽을 별도 서비스로 보내는 방법도 있습니다. 경로 선택과 재프로파일링을 함께 최적화할 수도 있지만 문제 크기와 전환 절차가 복잡해집니다.
엄격한 지연 상한은 극단적인 요구입니다. 논문은 Orion 같은 안전 중요 환경에는 적합하지만 데이터센터 사이 서비스에는 낮은 백분위의 지연 보장이나 통계적 서비스 목표가 더 맞을 수 있다고 지적합니다. 통계적 보장은 토큰버킷이 허용하는 모든 순서에 같은 상한을 적용하지 않아도 되므로 예약 대역폭을 줄일 수 있습니다. 대신 이 방법의 출발점인 결정적 보장은 약해집니다.
SCED를 실제로 사용할 수 있는지도 큰 경계입니다. NIC, 호스트, 스위치가 필요한 규모로 서비스 곡선을 제공하는지 확인해야 합니다. 우선순위나 가중 큐로 근사하면 보장 내용이 달라집니다. 후속 연구는 단순 스케줄러를 다루지만 이 글의 측정값은 SCED 기반 Part I 모델에 속합니다.
도입 시험은 모델, 계산기, 하드웨어를 나눠야 합니다
먼저 작은 토폴로지에서 모델을 검증합니다. Greedy를 정확한 최적화와 두 기준선에 비교합니다. 경로가 길어질 때 종단간 지연을 고정한 시험과 홉마다 예산이 늘어나는 시험을 분리합니다. 프로파일의 다양성과 경로 겹침을 바꾸어 중간 정책이 이득을 얻는 조건을 확인합니다.
다음은 패킷 동작입니다. 조절기 경계에 가까운 최악의 버스트를 포함해 토큰버킷을 지키는 트래픽을 재생합니다. 입력 대기, 홉별 큐잉, 패킷화 오차, 스케줄링 흔들림, 종단간 꼬리 지연을 측정합니다. 유한한 버퍼가 계산한 상한 아래에 머무는지 확인합니다.
세 번째는 재계산입니다. 플로 추가와 제거, 경로 변경, 링크 장애, 지연 등급 변경을 차례로 수행합니다. 정책을 계산하고 배포해 일관된 상태로 활성화하는 시간을 측정합니다. 전환 중에 어느 보장이 적용되는지와 임시 여유 용량을 확보하는지도 확인합니다.
네 번째는 계약 위반입니다. 토큰버킷을 넘는 트래픽을 보내 규제가 정상 플로를 보호하는지 확인합니다. 조절기 메모리와 스케줄러 상태도 소진시킵니다. 과부하가 다른 플로의 엄격한 지연을 조용히 깨뜨리지 않고 정해진 방식으로 실패해야 합니다.
마지막은 경제적 분모입니다. 예약 대역폭과 포트 비용을 가장자리 메모리, 하드웨어 스케줄러, 제어 소프트웨어 비용과 비교합니다. 고정 용량에서 추가로 수용하는 트래픽의 가치도 포함합니다. 제약이 큰 비싼 링크의 8%와 유휴 내부 링크의 8%는 경제적 의미가 다릅니다.
재프로파일링은 버스트 비용을 지불하는 위치를 바꿉니다
재프로파일링이 없으면 모든 홉이 남은 지연을 지키면서 송신자가 허용받은 버스트에 대비해야 합니다. 완전 재프로파일링은 사용할 수 있는 지연을 입력단에서 거의 모두 쓰고, 네트워크에는 스케줄링 여유가 적은 완만한 플로를 보냅니다. 선택적 재프로파일링은 버스트 가운데 비싼 부분만 입력단으로 옮기고 공유 링크가 효율적으로 스케줄할 시간을 남깁니다.
논문의 핵심은 여러 홉을 함께 계산했다는 점입니다. 한 번의 입력 지연이 여러 하류 링크에서 용량 이득을 만듭니다. 최적 단일 홉에서는 필요하지 않던 정책이 경로 전체에서는 유용해집니다. 동시에 어느 극단도 기본값이 되어서는 안 된다는 사실을 보여 줍니다.
데이터센터와 AI 인프라가 당장 모든 링크에 SCED를 도입해야 한다는 뜻은 아닙니다. 버스트 형태, 지연 예산, 경로 길이, 예약 대역폭을 하나의 설계 문제로 다뤄야 한다는 의미입니다. 결정적 서비스가 실제로 필요하고 경로를 통제한다면 재프로파일링은 용량 도구가 될 수 있습니다. 라우팅, 트래픽, 스케줄링이 계속 변하는 환경에서는 보고된 절감률을 구매 모델에 넣기 전에 가정이 성립하는지 입증해야 합니다.
출처와 저작권 안내
이 글은 Silicon & Systems가 독립적으로 작성한 편집 다이제스트입니다. 논문의 모델, 알고리즘, 결과, 한계를 자체 문장으로 다시 설명했으며 원문의 문장, 표, 수식, 도판을 옮기지 않았습니다. 두 도판은 이 글을 위해 코드로 새로 만들었습니다. 저자는 arXiv에 공개 원고를 제공하며 정식 출판본은 DOI에서 확인할 수 있습니다. 정식 출판본의 저작권은 (c) 2024 IEEE에 있습니다.