RAW vs JPEG, 8비트의 한계

같은 장면을 찍어도 RAW로 남기느냐 JPEG로 남기느냐에 따라 나중에 할 수 있는 일이 달라집니다. 흔히 화질 차이로 설명되지만, 두 형식을 가른 것은 화질이 아닙니다.

갈린 지점은 카메라가 결정을 언제 내리느냐입니다. JPEG는 셔터를 누르는 순간에 결정을 끝내고, RAW는 그 결정을 나중으로 미룹니다. 그 차이가 계조 단계와 파일 크기에 그대로 찍혀 있습니다.

8비트는 채널당 256단계입니다

JPEG의 규격은 ITU-T T.81이며 국제표준으로는 ISO/IEC 10918-1입니다. 1992년 9월 18일에 승인된 이 문서는 기본 처리 방식을 8비트 정밀도로만 쓴다고 못 박고 있습니다. 12비트를 다루는 구현은 계산 자원이 더 든다는 이유가 표준 안에 적혀 있습니다.

8비트는 색 채널 하나에 256단계를 뜻합니다. 세 채널을 합치면 약 1,677만 색입니다. 반면 캐논 EOS R5의 공개 사양을 보면 이 카메라의 아날로그 디지털 변환은 기계식 셔터와 전자 선막에서 14비트로 이루어집니다. 14비트는 채널당 16,384단계이고, 세 채널을 합치면 약 4조 4천억 색입니다.

단계 수가 왜 중요한지는 어두운 부분을 살릴 때 드러납니다. 사진에서 1스톱은 빛의 양이 두 배가 되는 단위이므로, 어두운 구간을 3스톱 끌어올리면 여덟 배로 늘리는 셈입니다. 8비트에서 하위 여덟 분의 일 구간을 그렇게 늘리면 쓸 수 있는 단계가 32개만 남습니다. 14비트에서는 같은 작업을 해도 2,048단계가 남습니다.

같은 그라데이션을 256단계와 32단계와 2,048단계로 그려 8비트에서 3스톱 올렸을 때 계단이 생기는 것을 보여주는 띠

가운데 띠에 보이는 계단이 계조 밴딩입니다. 하늘이나 그늘처럼 완만하게 변하는 면에서 이 계단이 먼저 눈에 띕니다. RAW가 편집에 유리하다는 말은 감각적인 표현이 아니라 남아 있는 단계 수의 차이입니다.

미러 이미징 - 서로를 자기 작업 방식으로 잽니다

RAW로 찍는 쪽이 JPEG를 두고 하는 말은 정해져 있습니다. 카메라가 멋대로 색을 정하고 윤곽을 세워 놓은 결과물이다, 나중에 손볼 여지를 미리 잘라 낸 파일이라는 것입니다.

JPEG로 찍는 쪽의 말도 정해져 있습니다. 한 번에 수백 장을 찍어 그날 안에 넘겨야 하는 일에서 현상 과정을 어떻게 넣느냐, 용량은 누가 감당하느냐는 것입니다.

두 말 모두 상대가 자기와 같은 일을 한다고 가정합니다. 한쪽은 한 장을 오래 붙들고 다듬는 자리에서 여유를 재고, 다른 쪽은 수백 장을 넘겨야 하는 자리에서 시간을 잽니다. 재는 자가 다르니 같은 파일을 두고 정반대의 결론이 나옵니다.

RAW와 JPEG를 가른 것은 화질이 아니라 촬영 순간에 결정을 끝낼지 나중으로 미룰지에 대한 선택입니다. 두 렌즈의 정의는 핵심이론 페이지에 정리해 두었습니다.

파일 크기와 계조 단계를 두 축에 놓은 점 그래프로 JPEG 13.5MB 8비트, HEIF 13.4MB 10비트, RAW 45.4MB 14비트를 표시

알로센트리즘 - JPEG는 답을, RAW는 질문을 남깁니다

JPEG가 지키려 한 값은 즉시 쓸 수 있는 상태입니다. 표준이 8비트로 선을 그은 것은 성능을 몰라서가 아니라, 그 시절의 연산 자원 안에서 누구나 열 수 있는 그림을 만들기 위해서였습니다. 그 결정 덕분에 30년이 지난 지금도 JPEG는 사실상 모든 기기에서 열립니다.

RAW가 지키려 한 값은 결정을 미루는 권한입니다. 화이트밸런스도, 톤 곡선도, 노이즈 처리도 촬영 순간에 확정하지 않고 남겨 둡니다. 그 대가가 캐논 EOS R5 기준 45.4MB라는 용량과 현상이라는 한 단계입니다. 같은 카메라의 JPEG 라지 파인은 13.5MB입니다.

촬영 뒤에 바꾸는 일 RAW JPEG
화이트밸런스 기록만 되어 있어 다시 정할 수 있음 이미 적용됨, 보정은 제한적
어두운 부분 살리기 3스톱 올려도 2,048단계 3스톱 올리면 32단계
색감과 윤곽 처리 현상할 때 정함 카메라가 이미 정함
바로 보내기 현상 뒤에 가능 그대로 가능
32GB 카드에 담기는 장수 약 670장 약 2,240장

그래서 핵심 문장은 이렇게 정리됩니다. JPEG가 손볼 여지를 좁게 남긴 것은 인색해서가 아니라 촬영자가 아무것도 하지 않아도 되게 만든 값입니다. RAW가 무겁고 손이 가는 것은 과시가 아니라 결정을 나중으로 넘긴 대가입니다. 무엇을 미리 확정하고 무엇을 미룰지가 결과를 가른다는 점은 QR 결제와 NFC 결제를 비교한 글에서 본 구조와 닮았습니다.

반론 - RAW라고 늘 14비트인 것은 아닙니다

첫째, 같은 카메라에서도 RAW의 비트 수가 달라집니다. 캐논 EOS R5의 공개 사양은 기계식 셔터와 전자 선막에서 14비트, 고속 연사에서 13비트, 전자 셔터에서 12비트로 적고 있습니다. RAW로 찍었다는 사실만으로 여유가 보장되지 않으며, 어떤 셔터로 찍었는지가 함께 걸립니다.

둘째, 8비트가 부족하다는 말은 조건이 붙습니다. 노출을 맞춰 찍은 사진을 크게 손보지 않고 쓴다면 256단계로 모자랄 일이 드뭅니다. 밴딩은 크게 끌어올릴 때 생기는 현상입니다. 게다가 8비트는 JPEG라는 형식의 한계이지 촬영 결과물의 한계가 아닙니다. 같은 카메라의 HEIF 파인은 13.4MB로 JPEG 라지 파인의 13.5MB와 용량이 거의 같은데 10비트, 곧 채널당 1,024단계를 담습니다.

셋째, 오래 보관하는 문제에서는 RAW가 불리합니다. JPEG는 1992년 표준 하나로 지금까지 열리지만, RAW는 제조사마다 형식이 다르고 기종마다 갈라집니다. 지금 쓰는 현상 소프트웨어가 20년 뒤에도 그 파일을 열어 줄지는 아무도 보증하지 않습니다. 이 점은 PNG와 WebP를 비교한 글에서 본 문제와 같습니다.

결론 - 무엇을 기준으로 고르면 되는가

다시 찍을 수 없는 장면이거나 조명이 까다로운 자리라면 RAW가 맞습니다. 역광이나 실내처럼 어두운 부분을 나중에 살려야 할 가능성이 있을 때 32단계와 2,048단계의 차이가 실제로 드러납니다. 카드 용량은 미리 계산해 두시면 됩니다. 캐논이 밝힌 32GB SD 카드 기준으로 약 670장입니다.

매수가 많고 그날 안에 넘겨야 하는 일이라면 JPEG가 맞습니다. 같은 32GB에 약 2,240장이 들어가고 현상 단계가 없습니다. 노출만 정확히 맞추시면 8비트로 모자랄 일이 많지 않습니다.

정하기 어려우시면 RAW와 JPEG를 동시에 저장하는 설정을 쓰시면 됩니다. 평소에는 JPEG를 쓰고 문제가 생긴 장면만 RAW를 꺼내 현상하는 방식입니다. 용량을 더 내는 대신 결정을 미룰 권한을 사 두는 셈이며, 이 글의 비교는 결국 그 권한의 값에 관한 것입니다. 다음 글에서는 구독과 영구 라이선스를 놓고, 같은 소프트웨어의 값이 왜 두 가지로 매겨지는지 살펴보겠습니다.

댓글

이 블로그의 인기 게시물

QR vs NFC 결제, 누가 내는가

USB-C vs 독자 단자, 167배

네이티브 앱 vs 웹앱, 30%의 값