로컬 vs 클라우드 AI, 보장의 값

같은 AI 기능이라도 연산이 내 기기 안에서 도는지 멀리 있는 서버에서 도는지에 따라 성격이 달라집니다. 흔한 설명은 로컬이 안전하고 클라우드가 똑똑하다는 것입니다.

그 설명은 방향은 맞지만 실제 제품을 보면 양자택일이 아닙니다. 애플은 둘 다 만들어 놓고 무엇을 어디로 보낼지를 나누었으며, 그 기준과 구조를 문서로 공개했습니다. 그 문서를 읽으면 두 방식이 각각 무엇을 지키려 했는지가 드러납니다.

기기 안의 모델은 한 번에 일부만 켭니다

애플이 공개한 3세대 파운데이션 모델 소개를 보면 기기용 최상위 모델의 규모가 적혀 있습니다. 200억 파라미터인데 희소 구조를 써서 요청에 따라 한 번에 10억에서 40억 파라미터만 활성화한다는 것입니다. 전체의 5퍼센트에서 20퍼센트만 켜는 셈입니다. 뒤집어 말하면 160억에서 190억 파라미터는 그 요청에 관여하지 않습니다.

이 숫자가 로컬 AI의 조건을 그대로 보여 줍니다. 기기 안에는 저장 공간과 메모리와 배터리라는 한계가 있으므로, 모델을 통째로 돌리는 대신 필요한 부분만 깨우는 방식으로 설계해야 합니다.

서버 쪽은 다릅니다. 같은 문서는 프라이빗 클라우드 컴퓨트에서 도는 모델을 세 가지로 나눕니다. 기기용 모델이 하나인 것과 대비됩니다. 범용 작업을 맡는 모델, 이미지 생성과 편집을 맡는 모델, 그리고 복잡한 추론을 맡는 가장 뛰어난 모델입니다. 마지막 것은 구글과 엔비디아와 협력해 구글 클라우드의 엔비디아 GPU까지 프라이빗 클라우드 컴퓨트를 넓혀 돌린다고 적혀 있습니다.

미러 이미징 - 서로를 자기 작업으로 잽니다

로컬을 고집하는 쪽이 클라우드를 두고 하는 말은 정해져 있습니다. 서버로 보내는 순간 그 내용은 내 것이 아니다, 회사가 안 본다는 약속을 어떻게 믿느냐는 것입니다.

클라우드를 쓰는 쪽의 말도 정해져 있습니다. 폰에서 도는 모델로 뭘 할 수 있느냐, 결국 요약이나 자동완성 정도 아니냐는 것입니다.

두 말 모두 상대가 자기와 같은 일을 시킨다고 가정합니다. 한쪽은 민감한 기록을 다루는 자리에서 재고, 다른 쪽은 긴 문서를 놓고 따져야 하는 자리에서 잽니다. 시키는 일이 다르니 같은 기능을 두고 정반대의 평가가 나옵니다.

로컬과 클라우드를 가른 것은 안전의 등급이 아니라 데이터를 기기에 묶어 둘지, 아니면 밖으로 내보내는 대신 그 대가를 구조로 상쇄할지에 대한 선택입니다. 두 렌즈의 정의는 핵심이론 페이지에 정리해 두었습니다.

알로센트리즘 - 기기는 위치를, 클라우드는 크기를 지킵니다

로컬이 지키려 한 값은 데이터의 위치입니다. 기기를 떠나지 않으면 누가 보겠다고 요청할 대상 자체가 없습니다. 이 보장은 약속이 아니라 물리적 사실이라 가장 강합니다. 대가는 크기입니다. 200억 중 40억만 켜는 구조가 그 대가의 다른 이름입니다.

클라우드가 지키려 한 값은 크기입니다. 복잡한 추론에는 기기에 담기지 않는 모델이 필요하고, 그러려면 데이터가 나가야 합니다. 애플이 눈에 띄는 것은 그 대가를 줄이려고 무엇을 했는가입니다. 프라이빗 클라우드 컴퓨트 문서는 다섯 가지 요건을 내걸었습니다. 항목은 이렇습니다. 개인 데이터에 대한 무상태 연산, 강제 가능한 보장, 특권 실행 접근 없음, 표적화 불가, 검증 가능한 투명성입니다.

내용을 보면 이 요건들이 무엇을 흉내 내려 했는지가 보입니다. 응답을 돌려준 뒤에는 로그나 디버깅을 포함해 사용자 데이터를 남기지 않는다고 적었습니다. 사용자 데이터는 애플에게도 제공되지 않으며 운영 서비스나 하드웨어에 관리자 권한이 있는 직원에게도 마찬가지라고 적었습니다. 그리고 모든 프로덕션 소프트웨어 이미지를 독립적인 바이너리 검사를 위해 공개하며, 연구자가 투명성 로그의 측정값과 대조해 검증할 수 있다고 적었습니다.

항목	기기 안	프라이빗 클라우드 컴퓨트
데이터 위치	기기를 떠나지 않음	나가되 응답 뒤 남기지 않음
모델 규모	200억 파라미터, 한 번에 10억에서 40억 활성	용도별 세 모델, 복잡한 추론 전용 포함
보장의 성격	물리적 사실	다섯 가지 요건으로 만든 구조
회사 직원 접근	해당 없음	관리자 권한 직원에게도 제공 안 함
외부 검증	해당 없음	프로덕션 이미지 공개, 독립 바이너리 검사

그래서 핵심 문장은 이렇게 정리됩니다. 기기 안에서는 저절로 성립하는 것이 클라우드에서는 공학으로 만들어야 하는 목표가 됩니다. 데이터가 안 나간다는 사실 하나를 대신하려고 무상태 연산과 특권 접근 차단과 바이너리 공개 검증이 필요해집니다. 무엇이 어디에 있는지가 보장의 성격을 가른다는 점은 패스워드와 패스키를 비교한 글에서 본 구조와 같습니다.

반론 - 구조에도 경계가 있습니다

첫째, 다섯 가지 요건은 애플이 정하고 애플이 지킵니다. 다만 바이너리 공개와 독립 검사라는 항목을 넣은 점은 말로 하는 약속과 구분됩니다. 검증할 수 있게 만들어 두는 것과 검증받았다는 것은 다르며, 실제로 얼마나 검사되는지는 별개의 문제입니다.

둘째, 클라우드의 경계가 단순하지 않습니다. 애플 문서 자체가 가장 뛰어난 모델은 구글과 엔비디아와 협력해 구글 클라우드의 엔비디아 GPU로 프라이빗 클라우드 컴퓨트를 넓혔다고 밝혔습니다. 애플 서버라는 한 덩어리 그림은 이미 정확하지 않습니다.

셋째, 기기 모델도 공짜가 아닙니다. 5분의 1만 켠다고 해도 200억 파라미터를 통째로 들고 다녀야 하며, 저장 공간을 내주어야 하고 켜는 동안에는 메모리와 전력을 씁니다. 로컬은 데이터를 안 보내는 대신 기기의 자원을 씁니다. 이 비용은 요금표에 안 나올 뿐 사라진 것이 아닙니다.

결론 - 무엇을 기준으로 고르면 되는가

고르는 기준은 기능 이름이 아니라 내용의 성격입니다. 건강 기록이나 사적인 메모나 업무 기밀처럼 밖으로 나가면 곤란한 것을 다루신다면, 그 기능이 기기 안에서 도는지 서버로 가는지를 확인할 값이 있습니다. 요약이나 정리처럼 짧은 작업은 대개 기기에서 처리됩니다.

긴 문서를 놓고 따지거나 복잡한 추론이 필요한 일이라면 서버로 가는 것을 전제로 쓰시는 편이 낫습니다. 그때는 그 회사가 서버 쪽에 어떤 조건을 걸어 두었는지를 한 번 읽어 보시면 됩니다. 조건을 문서로 공개해 둔 곳과 그렇지 않은 곳은 다릅니다.

결국 이 비교는 안전과 성능의 맞교환이 아니라 보장을 무엇으로 만드는가에 관한 것입니다. 기기 안에서는 위치가 곧 보장이고, 클라우드에서는 구조가 보장을 대신합니다. 지금 맡기시려는 내용이 어느 쪽 보장을 필요로 하는지가 답을 정합니다.