엣지 센서와 AI 클러스터가 서로 다른 작업량과 정확도, 측정 경계를 쓰면서 모두 에너지 효율이 좋아졌다고 주장할 수 있습니다. MLPerf Power는 20곳이 넘는 기관이 참여해 마이크로와트부터 메가와트까지 적용할 한 가지 절차를 만들었습니다[1].

비교 전에 측정 경계를 정합니다

이 방법은 유효 작업량과 전력 측정을 동기화하고, 유휴 상태와 장비 조건을 규정하며, MLPerf의 정확도 기준을 함께 적용합니다. 논문은 시스템 60대에서 얻은 재현 가능한 측정 1,841개를 분석합니다. 에너지 수치에는 작업, 시나리오, 정확도, 전력계에 포함된 부품이 반드시 따라붙습니다.

MLPerf Power의 측정 범위. 하나의 규칙이 마이크로와트급 장치부터 메가와트급 인프라까지 적용되며 시스템 60대의 측정 1,841개를 포함합니다. 정확도와 시스템 경계가 모든 효율 결과의 일부입니다. 이 글을 위해 새로 만든 도판.

BERT 제출 결과에서는 정확도를 99%에서 99.9%로 높일 때 추론 에너지 효율이 평균적으로 절반 수준으로 낮아졌습니다. 확산 모델의 이미지 생성은 비교한 가장 작은 작업보다 추론 한 번에 1,082× 많은 에너지를 썼습니다. 시스템 규모가 커질수록 장치 전력만 재서는 놓치는 데이터 이동도 중요해집니다.

우리가 읽은 결론

MLPerf Power는 하나의 보편적 우승자를 정하기보다 분모를 검증할 수 있게 합니다. 구매자는 가속기·CPU·네트워크·냉각·유휴 시간이 포함됐는지, 품질 목표가 같은지 확인해야 합니다. 설계자는 같은 규칙을 시간에 따라 반복 적용해 하드웨어, 소프트웨어, 양자화, 스케줄링의 효과를 분리해야 합니다.

출처와 저작권 안내

이 글은 독립적인 문장과 새 도판으로 작성한 편집 요약입니다. 원문의 문장·도판·표를 재사용하지 않았습니다. 공개 프리프린트는 arXiv에 있으며 공식 프로시딩 판본은 (c) IEEE 2025입니다.