AI가 만든 얼굴은 누구의 것인가

버튼 하나로 얼굴이 만들어진다. 존재한 적 없는 가수의 목소리가 익숙한 발라드를 부르고, 세상을 떠난 배우가 새 광고에 등장하며, 데뷔 전인 아이돌의 콘셉트 비주얼이 촬영 없이 완성된다. 생성형 AI는 어제까지 며칠이 걸리던 일을 몇 분으로 줄여 놓았다.

그런데 속도가 빨라진 만큼, 멈춰 서서 물어야 할 질문도 늘었다. 이 얼굴은 무엇을 학습해 만들어졌는가. 이 결과물은 누구의 것인가. 그리고 이것은 누구를 닮았는가. 기술이 '할 수 있게' 만든 일과, 우리가 '해도 되는' 일은 같지 않다. 그 사이의 간격을 메우는 것이 바로 기획자의 판단이다.

학습데이터 — 결과물에는 출처가 있다

생성형 AI의 결과물은 무(無)에서 나오지 않는다. 방대한 기존 창작물을 학습한 결과다. 그렇다면 그 학습의 재료가 된 원래 창작자들의 권리는 어디로 가는가. 이 질문은 지금도 세계 곳곳에서 소송과 협상의 형태로 다투어지고 있다. 게티이미지가 이미지 생성 AI(스태빌리티 AI)를, 뉴욕타임스가 오픈AI를 상대로 학습데이터의 무단 사용을 두고 소송을 건 일이 대표적이다.

기획자에게 중요한 것은 누가 옳은지 판정하는 일이 아니다. 내가 쓰는 도구가 무엇을 먹고 자랐는지를 묻는 습관이다. 어떤 데이터로 학습됐는지 불투명한 도구로 만든 결과물은, 나중에 어떤 권리 주장과 마주칠지 알 수 없는 결과물이기도 하다.

AI의 결과물에는 항상 보이지 않는 출처가 있다. 그 출처를 묻지 않는 기획은, 자기도 모르는 빚을 지는 기획이다.

상업적으로 쓸 콘텐츠라면 더욱 그렇다. 학습데이터의 권리 관계가 깨끗한 도구인지, 산출물의 상업적 이용이 허락되는지 — 이런 확인은 법무팀의 일이기 이전에, 기획 단계에서 먼저 챙겨야 할 점검 항목이다.

초상권과 목소리 — '닮음'이 만드는 위험

가장 예민한 영역은 실존 인물을 닮은 결과물이다. AI는 특정인의 얼굴과 목소리를 놀라울 만큼 정교하게 재현한다. 딥페이크 논란, 동의 없는 AI 커버곡, 세상을 떠난 인물의 무단 재현 — 이미 익숙해진 사회적 갈등들이다. 2023년 드레이크와 위켄드의 목소리를 흉내 낸 AI 곡 'Heart on My Sleeve'가 두 사람의 동의 없이 퍼졌다가 플랫폼에서 내려간 일, 같은 해 할리우드 배우들이 AI의 초상·목소리 무단 학습에 맞서 파업한 일이 그런 갈등의 한 장면이었다.

엔터테인먼트 산업은 이 위험의 한복판에 있다. 아티스트의 얼굴과 목소리는 그 자체가 핵심 자산이자 인격이다. AI가 그것을 손쉽게 흉내 낼 수 있게 된 순간, '닮게 만들 수 있다'는 가능성은 곧바로 '닮게 만들어도 되는가'라는 책임의 질문으로 바뀐다.

판단의 기준은 의외로 단순한 곳에서 출발한다. 동의가 있었는가, 그리고 맥락이 정직한가. 본인이 허락한 범위 안에서 쓰였는지, 보는 사람이 진짜와 혼동하도록 의도하지는 않았는지. 이는 미국에서 퍼블리시티권(right of publicity)으로, 한국에서도 초상·음성에 대한 인격권으로 보호되는 영역이다. 기술적으로 가능하다는 것이 윤리적 면허가 되지는 않는다.

버추얼 아티스트 — 만들어진 존재의 권리

흥미로운 지점은, 닮음의 위험을 비껴가는 길로 '처음부터 새로 만든 존재'가 떠오르고 있다는 것이다. 실존 인물을 본뜨지 않고 설계된 버추얼 아티스트는 — SM의 나이비스(Naevis)처럼 처음부터 가상으로 기획된 캐릭터가 그렇다 — 특정인을 닮음으로써 생기는 초상권 다툼에서는 상대적으로 부담이 덜할 수 있다. 다만 그렇다고 분쟁에서 자유롭다고 단정하기는 어렵다.

그러나 자유롭다는 것이 권리 문제가 없다는 뜻은 아니다. 디지털 휴먼에게도 디자인 저작권, 보이스의 권리, 모션 데이터의 소유 관계가 얽혀 있다. 누가 이 캐릭터를 만들었고, 어떤 목소리를 입혔으며, 그 권리는 어디에 귀속되는가. 만들어진 존재일수록 권리의 지도를 더 촘촘히 그려 두어야 한다.

실존하지 않는 캐릭터에게도 책임지는 주체는 실존한다. 가상은 책임의 면제가 아니라, 책임의 재배치다.

크레딧과 투명성 — AI를 썼다고 말하는 용기

기술이 정교해질수록 '티 나지 않게' 쓰고 싶은 유혹이 커진다. AI로 만든 비주얼을 사람이 그린 것처럼, 보정한 목소리를 원래 그런 것처럼 내보내고 싶어진다. 그러나 길게 보면, 감추는 쪽이 더 비싼 선택이 되는 경우가 많다.

투명성은 규제가 강요하는 의무이기 이전에, 신뢰를 관리하는 기술이다. AI 사용을 적절히 고지하는 것, 어디까지가 사람의 손이고 어디부터가 도구의 몫인지 정직하게 표시하는 것. 이 작은 크레딧 한 줄이, 나중에 터질 수 있는 진정성 논란을 미리 막는 보험이 된다.

물론 모든 공정을 일일이 고지할 필요는 없다. 포토샵으로 보정했다고 매번 밝히지 않듯, 도구가 충분히 일반화되면 고지의 기준도 달라진다. 기획자가 가늠해야 할 것은 '팬이 알았다면 배신감을 느낄 만한 지점'이 어디인가이다. 그 선을 읽어 내는 감각이 곧 직업 윤리다.

결국, 판단의 책임은 늘어난다

생성형 AI는 분명 강력한 동료다. 더 많은 시안을, 더 빠르게, 더 적은 비용으로 만들어 낸다. 이 가능성을 외면하는 것은 현명한 선택이 아니다. 문제는 기술 그 자체가 아니라, 그것을 어디에 어떻게 쓸지를 정하는 손에 있다.

도구가 강해질수록 사람의 판단은 가벼워지는 것이 아니라 무거워진다. 할 수 있는 일이 늘어난 만큼, 하지 않기로 결정해야 할 일도 늘어나기 때문이다.

유럽연합의 AI법(EU AI Act)처럼 제도도 빠르게 뒤를 쫓고, 생성물의 출처를 표시하는 기술 표준(C2PA 등)도 자리를 잡아 가고 있다. 그러나 규칙은 늘 기술보다 늦게 도착하고, 새 도구는 늘 규칙의 빈틈에서 등장한다. 그래서 체크리스트로 막는 규제만으로는 이 영역을 다 감당할 수 없다. 그 빈틈을 메우는 것은 결국 '좋은 기획자의 직업 윤리' — 누가 만들었고, 누구의 것이며, 누구를 닮았는지를 스스로 묻는 습관이다.

'할 수 있는 일'과 '해도 되는 일' 사이의 그 선을 함께 따져 보고 싶다면, 참고할 자리가 하나 있다. SM UNIVERSE·STUDIO REALIVE·SMHRD 컨소시엄의 K-POP 이머시브 콘텐츠 기획자 양성과정은 13주에 걸쳐 AI 도구를 제작 파이프라인에 들이는 실습과, 저작권·초상권·투명성을 기획 단계에서 판단하는 감각을 함께 다룬다. 구체적인 내용은 모집 페이지에 정리돼 있다.

---

AI가 만든 얼굴은 누구의 것인가. 이 질문에 단 하나의 정답은 없다. 그러나 질문을 던지는 일 자체를 생략한 콘텐츠는, 언젠가 그 대가를 치른다. 기술이 무엇이든 할 수 있게 된 시대에, 무엇을 하지 않을지 아는 것 — 그것이 기획자가 끝까지 손에 쥐고 있어야 할 마지막 권한이다.

Tags   #생성형AI   #AI윤리   #저작권   #초상권   #딥페이크   #버추얼아티스트   #콘텐츠기획   #투명성

ⓒ STUDIO REALIVE. 본 글은 에디토리얼 콘텐츠입니다.