(작성중)URP 고품질 툰셰이딩 R&D 리뷰 : 양감

2025.09.29 - [TA/툰셰이더] - URP 고품질 툰셰이딩 R&D 리뷰 : Lighting

 

다 따로 하려다가 생각해보니 양감이라는 모호한 단어로 다 합쳐서 표현 가능한 부분이라고 생각되어 묶어서 쓴다.

Outline, Shadow, AO 등등에 대한 얘기이다.

 

툰셰이딩에서의 양감

왜 유니티 기본 Lit Shader는 셰이딩이 구려보일까?

일단 여러 이론적 배경이 바탕에 깔려있다. 나도 잘 모르지만 한번 분석해보자.

 

https://www.youtube.com/watch?v=ZdvaQtttRfo

여기 신기한게 셰이더에서 계산하는 램버트 공식을 그림 유튜브에서 설명하고 있다. 오...

음... 이상하다.. 실제로 이런 개념적인 부분을 아는 사람이 거의 없었는데, 이런 유튜브만 보면 아트하는 사람들은 다 이런 개념을 알고 있을 것 처럼 느껴진다..

 

셰이더를 만드는 입장에서는 이러한 이론적인 설명이 정말 중요하다고 생각하는데, 내가 하는 건 그림 한장을 완성하는 게 아니라 어떤 그림이 들어오던 동일한 스타일로 찍어낼 수 있기 위한 작업 공정을 만드는 일이기 때문이다. 그래서 이 애매한 "느낌 있는", "탁해보이지 않는" 모호한 말들을 어떤 기준에 따라 수치를 어떻게 변경하느냐로 구체화시킬 건지 항상 고민하고 있다.

 

베버의 법칙과 대조

셰이더에서 다루는 색상은 정말 수학적이고 물리량에 해당하는 수치인데 반해, 사람이 실제로 인지하는 색상의 밝기는 다르며, 일정 이상의 자극이 주어지지 않으면 차이를 잘 구분하지 못한다 대충 그런 내용이다. 물리적 자극과 심리적 지각 사이에 괴리가 있다는 정도의 의미이다.

 

그래서 이러한 법칙이 있다는 게 대체 뭐? 어쩌라고?

 

바로 Contrast에 대한 얘기로 이어진다.

https://www.youtube.com/watch?v=yNxo9I7K2Pc&t=206s

같은 유튜브 채널 영상인데, 영상에서 언급하기로, 대조가 강할수록 양감이 더 화려해 보이고, 시선이 잘간다고 한다.

그래서 툰셰이딩은 저런 사람이 인지하지 못하는 밝음과 밝음 사이의 미묘한 밝기 차이에 신경쓰기보단 결국 명, 암의 경계를 명확히 인지할 수 있도록 Contrast를 강하게 주어 시선이 잘갈 수 있도록 표현한다고 생각하면 된다.

하지만 그렇다면 암부에 해당하는 부분을 어떻게 표현해야 사람이 인지하기 좋을까? 정말 단순하게 어둡게 value 값을 낮춰서 칠하는 것이 능사인가?

 

그림이 탄다?

 

그림의 전반적인 인상을 기준으로 명도의 탑다운, 채도의 탑다운이 너무 극명하게 차이가 나도록 그리면 안된다는 얘기다.

약간 히스토그램 같은거라고 봐야 하나?

그렇다면 베버의 법칙을 고려했을 때 양감을 내려면 대조가 있어야 하는데, 명도와 채도의 대비를 강하게 주는 건 또 안된다는 딜레마를 해결하는 방법을 찾아야 한다.

https://www.youtube.com/watch?v=aXMdw21ucz0&t=540s

그림 전체를 놓고 봤을 때의 Histogram 분포도를 보면서 이 그림의 명암이 중간 톤이 아닌 흰색과 검은색 양 극단에 몰려있는지 체크가 가능하다.

영상에서는 흑백으로 돌려놓은 채로 각 파츠가 구분이 될 수 있도록 차이를 내주어야 한다는 얘기를 한다. 영상에서 흑백 전환을 할 때 사용한 방법은 Dot Grain 20%인데, 이게 어떤 식으로 RGB 색상을 처리해주었길래 명도 뿐만 아니라 채도, 색상 대비까지 모두 아우르는 것일까?

 

GrayScale 변환식

대비를 만들어내기 위해서 흑백 이미지를 통해 많이 판단하게 되는데, 이 흑백이미지는 이미 색상, 채도, 명도가 모두 반영될 결과이고, 이 흑백 이미지를 기준으로 각 파츠 간의 대비를 만들어낼 수 있도록 색상을 후보정하여 선명함, 시인성을 챙기는 것이다.

 

흑백 변환 연산은 보통 어떤 식으로 처리할까? 검색해보면 나오는 계산 식은 다음과 같다. Luminance에 대한 얘기다.

 

BT.709 표준

R : 약 30%

G : 약 59%

B : 약 11%

가중 평균을 적용하여 다음과 같이 계산한다.

GrayScale Vale = R * 0.299 + G * 0.587 + B * 0.114

 

그리고 포토샵은 이러한 방법 외에도 다른 Grayscale 변환 기능을 제공한다.

 

왜 R,G,B 각 채널에 대해서 다른 가중치를 사용하는 것일까?

 

Chroma / Saturation

"채도가 올라가면 밝기도 올라가요."

https://www.youtube.com/watch?v=a3PbXOoi30g

혹시 이런 얘기를 아티스트에게 들어본 적이 있을까? 내 멍청한 뇌로는 HSV에서 Value 값이 동일한 채로 Saturation만 증가했는데 왜 밝기가 증가했다고 하는거지? 라고 판단했던 기억이 있다. 실상은 달랐다. 동일한 채도, 명도를 가진 색상을 보면서도 사람은 어떤 것이 더 밝은지 다르게 인지한다. 노랑과 파랑이 대표적이다.

포토샵에서 흔히 쓰는 HSV 색공간은 실제 사람이 인지하는 색의 채도, 명도가 반영이 되어있지 않다. HSV 색공간에서의 S, V는 RGB Vector에 대한 계산식일 뿐이다.

 

실제로 HSV의 S, V 계산식을 보면 매우 단순하다.

Min = min(R,G,B)

Max = max(R,G,B)

Saturation : (Max - Min) / Max

Value : Max

https://www.youtube.com/watch?v=Ho1koyKLnG0

위 영상에서 언급되는 부분인데, 낮은 명도의 색을 찾기 위해서 대각선으로 이동한다는 얘기를 한다. 즉, hsv 색공간 기준 s, v 값이 모두 변해야만 아티스트들이 말하는 '명도'의 변화를 줄 수 있다는 뜻이다.

 

채도 얘기하는데 명도가 같이 끼어드는데 매우 난해하다는 인상을 받았다.

용어 정의를 깔끔하게 해야 하는데, 정의가 명확하지 않아서 그런 부분이 있었던 것 같다. 나도 Color & Light 책을 사서 읽어보면서 알아낸 개념이기도 하고.

 

이 삼각형 모양의 컬러 피커의 의미가 이 채도에 대한 개념을 포함하고 있다고 보인다. 맨 오른쪽에 있는 색상이 가장 채도가 높은 색상이고, 그 외의 색상은 흰색이나 검정색이 섞인 채도가 낮아진 색상이다.

위 움짤을 보면 알 수 있듯, 색상의 Brightness가 변화하더라도 saturation(포화도)는 동일하지만, 채도는 여전히 맨 오른쪽 삼각형 꼭지점에 있는 색상이 가장 높다.

 

OKLab / OKLCH (HCL)

컴퓨터 그래픽스를 다루는 입장에서 이러한 애매모호한 설명은 수식화할 수 없다. 그래서 찾아보다가 발견한 것이 OKLCH 색공간이다.

 

 

 

 

한난대비

 

산란

Lit 셰이더는 PBR 기반인데 셰이딩이 이상한 건 리소스를 잘못 만들거나 라이팅을 제대로 안해서 그런 거 아니냐!

원래는 이렇게 알고 있었지만, 사실 램버트 코사인 법칙이니 뭐니 하면서 만들어진 셰이더는 사실 재질에 닿은 빛이 무조건 반사, 흡수만 할 것이라는 전제 하에 동작하고 있다는 사실을 인지하지 못하고 있었다.

오히려 PBR 셰이더만 가지고는 현실 세계의 빛의 상호작용을 표현하기엔 무리가 있으며, 특히 캐릭터와 같은 유기물의 재질을 표현하는 데 있어서 매우 제한적인 표현만 가능하다.

그 동안 나는 산란을 염두에 두지 않고 계속 셰이더를 다뤄왔던 것이다..

 

밀도, 통일감

 

---

Outline

툰셰이딩에서는 큼지막한 음영만 표현하기 때문에 물체와 물체를 구분하기 위해 사용할 수 있는 방법이 바로 외곽선이다.

 

Inverted Hull이라고 불리는 Mesh의 뒷면이 그려지도록 Cull Front를 시키고 살짝 Normal 방향으로 확장하여 그리는 방식이 일반적이고, 또한 Screen Space Outline 보다 제어하기 쉬운 특성, 성능 등에서 이점을 가진다.

 

일단 Outline을 구현하고자 한다면 다음과 같은 벽을 해결해야 한다.

 

Outline의 확장 방향

 

눈 주변 등 원치 않은 곳에 생기는 외곽선 처리

Outline 기능을 구현할 때 반드시 마스킹 기능을 같이 구현해야 한다. 놀고있는 mesh 데이터 중에서 고르면 된다. 무난한 건 역시 vertex color일 듯.

이런 식으로 Blender 등 DCC 툴에서 Outline이 생기지 않아야 하는 영역을 마스킹해준다.

이렇게 얼굴에 생기는 원치 않는 Outline을 제거할 수 있다.

 

Outline / Shadow Color

툰셰이딩에 있어서 빼놓을 수 없는 Shadow Color, 그리고 Outline Color에 대해서 다루고자 한다.

Color는 아직도 해결하지 못한 부분이라 아마 라이팅 처럼 완벽한 맛은 아닐 것 같다.

 

Cast Shadow

요즘 그림 유튜브에서도 Cast Shadow, Form Shadow라는 단어를 많이 쓰는데 점점 TA 용어랑 아트 용어랑 하나로 합쳐지는 느낌이 들어서 신기하다.