AI 데이터센터 현재 vs 미래, 랙 안의 세 가닥이 바뀐다
챗GPT에 질문 하나를 던지면 답은 몇 초 만에 돌아옵니다. 그 몇 초 동안 어딘가의 건물에서는 서버가 전기를 먹고, 신호를 주고받고, 열을 내놓습니다. 그래서 데이터센터의 서버 랙 한 칸에는 늘 세 가닥이 들어갑니다. 전기선, 통신선, 그리고 열을 빼내는 길입니다. AI가 들어오면서 이 세 가닥이 한꺼번에 바뀌고 있습니다. 지금의 데이터센터와 앞으로의 데이터센터를 이 세 가닥으로 나눠 비교합니다. 랙 하나가 먹는 전기는 얼마나 늘었나 모든 변화의 출발점은 숫자 하나입니다. LG CNS의 발표 에 따르면 공기로 식히는 방식은 랙 하나에 약 20~30킬로와트까지가 한계입니다. 그런데 고성능 GPU 서버 랙은 200킬로와트를 넘습니다. 열 배 가까이 뛴 셈입니다. 랙 한 칸에 이만한 전기가 들어가면 세 가닥이 모두 한계에 닿습니다. 전선은 굵어지다 못해 무거워지고, 서버끼리 주고받는 신호는 더 빨라야 하고, 쏟아지는 열은 바람으로 다 빼낼 수 없습니다. 같은 이유 하나가 세 가지 변화를 동시에 부르고 있습니다. 전기선과 통신선은 어떻게 바뀌나 전기 쪽의 답은 직류입니다. 엔비디아는 2027년을 목표로 데이터센터 안에 800볼트 직류를 깔겠다는 구상을 내놓았습니다. 전압을 높여 전류를 줄이면 같은 전기를 더 가는 구리로 보낼 수 있습니다. 교류에 진 직류가 데이터센터로 돌아오는 사정은 전류전쟁을 다룬 글 에서 자세히 살펴보았습니다. 통신 쪽은 구리와 빛이 자리를 나눕니다. 지금은 구리 케이블과, 스위치에 꽂는 광모듈을 함께 씁니다. 반도체 분석 기관 테크인사이츠 에 따르면 이런 광모듈은 하나에 약 30와트를 먹습니다. GPU가 수만 개로 늘면 모듈 전기만으로도 감당하기 어렵습니다. 그래서 엔비디아는 광부품을 스위치 칩 바로 옆에 붙이는 공동 패키징 광학(CPO) 스위치를 내놓았고, 기존 방식보다 전력 효율이 3.5배 높다고 밝혔습니다. 그렇다고 구리가 사라지는 것은 아닙니다. 엔비디아의 네트워크 담당 부사장은 올해 개발자 행사에서 구리보다 ...