AI 데이터센터 현재 vs 미래, 랙 안의 세 가닥이 바뀐다

챗GPT에 질문 하나를 던지면 답은 몇 초 만에 돌아옵니다. 그 몇 초 동안 어딘가의 건물에서는 서버가 전기를 먹고, 신호를 주고받고, 열을 내놓습니다. 그래서 데이터센터의 서버 랙 한 칸에는 늘 세 가닥이 들어갑니다. 전기선, 통신선, 그리고 열을 빼내는 길입니다. AI가 들어오면서 이 세 가닥이 한꺼번에 바뀌고 있습니다. 지금의 데이터센터와 앞으로의 데이터센터를 이 세 가닥으로 나눠 비교합니다.

랙 하나가 먹는 전기는 얼마나 늘었나

모든 변화의 출발점은 숫자 하나입니다. LG CNS의 발표에 따르면 공기로 식히는 방식은 랙 하나에 약 20~30킬로와트까지가 한계입니다. 그런데 고성능 GPU 서버 랙은 200킬로와트를 넘습니다. 열 배 가까이 뛴 셈입니다.

랙 한 칸에 이만한 전기가 들어가면 세 가닥이 모두 한계에 닿습니다. 전선은 굵어지다 못해 무거워지고, 서버끼리 주고받는 신호는 더 빨라야 하고, 쏟아지는 열은 바람으로 다 빼낼 수 없습니다. 같은 이유 하나가 세 가지 변화를 동시에 부르고 있습니다.

전기선과 통신선은 어떻게 바뀌나

전기 쪽의 답은 직류입니다. 엔비디아는 2027년을 목표로 데이터센터 안에 800볼트 직류를 깔겠다는 구상을 내놓았습니다. 전압을 높여 전류를 줄이면 같은 전기를 더 가는 구리로 보낼 수 있습니다. 교류에 진 직류가 데이터센터로 돌아오는 사정은 전류전쟁을 다룬 글에서 자세히 살펴보았습니다.

통신 쪽은 구리와 빛이 자리를 나눕니다. 지금은 구리 케이블과, 스위치에 꽂는 광모듈을 함께 씁니다. 반도체 분석 기관 테크인사이츠에 따르면 이런 광모듈은 하나에 약 30와트를 먹습니다. GPU가 수만 개로 늘면 모듈 전기만으로도 감당하기 어렵습니다. 그래서 엔비디아는 광부품을 스위치 칩 바로 옆에 붙이는 공동 패키징 광학(CPO) 스위치를 내놓았고, 기존 방식보다 전력 효율이 3.5배 높다고 밝혔습니다.

그렇다고 구리가 사라지는 것은 아닙니다. 엔비디아의 네트워크 담당 부사장은 올해 개발자 행사에서 구리보다 나은 것은 없다고 말했습니다. 구리는 전기를 따로 쓰지 않기 때문입니다. 대신 속도가 빨라질수록 닿는 거리가 짧아집니다. 그래서 랙 안의 가까운 연결은 구리가, 여러 랙을 잇는 먼 연결은 빛이 맡습니다.

냉각은 공기에서 물로 어떻게 넘어가나

열은 가장 눈에 띄게 바뀌는 부분입니다. 지금 대부분의 서버실은 차가운 공기를 불어 넣고 더운 공기를 빼냅니다. 앞으로는 냉각수가 흐르는 판을 GPU 칩 위에 바로 붙이는 직접 칩 냉각이 기본이 됩니다. 물은 같은 부피의 공기보다 열을 훨씬 많이 실어 나르기 때문입니다.

국내에서도 시작됐습니다. LG CNS는 네이버클라우드와 함께 총 수전 용량 80메가와트인 삼송 데이터센터에 직접 칩 냉각을 들이고, 2027년까지 구축과 실증을 마치겠다고 밝혔습니다. 엔비디아의 차세대 GPU인 베라 루빈을 위한 설비입니다.

가닥	지금의 데이터센터	앞으로의 데이터센터
랙 하나의 전력	공랭 한계 약 20~30kW	200kW 이상
전기	교류로 받아 랙에서 직류로 변환	800V 직류 배전 (2027년 목표)
통신	구리 케이블과 꽂는 광모듈	가까이는 구리, 멀리는 칩 옆 광부품
냉각	차가운 공기	칩에 붙인 냉각판의 물
랙 안의 물	없음	고전압 직류 옆을 지나감

불이 나면 무엇으로 끄나 — 소방 엔지니어의 시선

전산실에는 보통 물 대신 가스로 불을 끄는 설비를 둡니다. 비싼 장비에 물을 뿌릴 수 없기 때문입니다. 소방 설계를 해 온 입장에서 이 설비는 세 조건을 함께 만족해야 한다고 봅니다. 사람에게 해가 없어야 하고, 사람이 대피할 시간을 벌어야 하고, 장비에 어떤 피해도 남기지 않아야 합니다.

첫째 조건은 약제의 농도로 지킵니다. 전산실에 흔히 쓰는 HFC-227ea는 사람에게 영향이 나타나지 않는 최고 농도가 9퍼센트로 알려져 있습니다. 설계 농도가 이 값을 넘는 약제는 사람이 늘 머무는 곳에 쓸 수 없습니다. 둘째 조건은 시간으로 지킵니다. 우리 기준(NFTC 107A)은 수동 기동장치 부근에 방출을 늦추는 방출지연스위치를 두고, 출입구 근처처럼 쉽게 피난할 수 있는 곳에 설치하도록 정하고 있습니다. 방출 전에는 경보가 울립니다. 셋째 조건은 약제의 성질로 지킵니다. 이런 청정 소화약제는 전기가 통하지 않고, 증발한 뒤 찌꺼기를 남기지 않습니다.

앞으로의 데이터센터는 이 세 조건에 숙제를 하나 더 얹습니다. 랙 안에 냉각수 관과 800볼트 직류가 나란히 지나갑니다. 직류는 교류와 달리 전류가 0이 되는 순간이 없어 한번 생긴 불꽃이 잘 꺼지지 않습니다. 제가 보기에 미래형 전산실의 소방은 불을 끄는 설비만큼이나 냉각수 누설을 일찍 잡아내고 직류를 안전하게 끊는 설계가 중요해질 것입니다.

결론 — 세 가닥은 같은 이유로 바뀐다

지금의 데이터센터는 랙 하나에 수십 킬로와트를 넣는다는 전제로 설계됐습니다. 교류와 구리와 공기는 그 전제 안에서 가장 싸고 익숙한 답이었습니다. 앞으로의 데이터센터는 수백 킬로와트를 전제로 합니다. 그래서 직류와 빛과 물이 들어옵니다. 어느 쪽이 더 앞선 기술이라기보다 감당해야 할 전기의 크기가 다릅니다.

그리고 세 가닥이 바뀌면 불을 대하는 법도 바뀝니다. 물을 피해 가스를 쓰던 전산실 안으로 물이 들어오는 셈입니다. 이 블로그가 두 가지를 견줄 때 어느 쪽이 나은가보다 각자 무엇을 기준으로 설계했는가를 먼저 묻는 관점은 핵심이론 페이지에 정리해 두었습니다.