AI 표시 의무, 누구의 책임인지보다 무엇을 위한 것인지가 먼저다 — 크리에이터 산업 칼럼

핵심 요약

AI 표시는 사용 사실을 알리는 데 그치지 않고, 이용자가 콘텐츠를 실제로 오인하지 않도록 도와야 한다.
표시 책임은 창작자에게 몰아주기보다 최초 제작자, 재게시자, 플랫폼, AI 도구 제공자가 나눠 맡는 것이 합리적이다.
창작자는 필요한 제작 기록과 표기 기준을 갖추되, 모든 AI 활용에 일괄적으로 표시하는 형식주의는 경계해야 한다.

아주경제는 11월 1일 AI 생성물 표시 의무를 유통 단계까지 확대하는 논의가 과학기술정보통신부와 방송미디어통신위원회(방미통위)의 이견으로 지연되고 있다고 보도했다. 기사에 따르면 국회가 10월 초까지 요구한 부처 합의안은 10월 말까지 마련되지 않았다.

창작자에게 중요한 것은 어느 부처가 담당하느냐보다 무엇을 밝히고 어디까지 책임져야 하느냐다. 하지만 책임을 나누기 전에 먼저 짚어야 할 질문이 있다. AI 표시로 무엇을 막고, 어떤 정보를 전달하려는가. 이 질문에 답하지 않은 채 의무부터 늘리면, 표시는 남아도 실효성은 없는 제도가 될 수 있다.

1. 표시의 목적: AI를 썼다는 사실보다 무엇을 오인하게 하는가

AI 기본법은 AI 산업을 육성하고, 국민이 안전하고 신뢰할 수 있는 환경에서 AI를 이용하도록 하기 위한 법이다. AI 기반 서비스라는 사실을 알리고 생성 결과물에 표시하도록 한 것도 이러한 취지에서다. 특히 실제와 구분하기 어려운 합성 콘텐츠에는 이용자가 명확하게 알아볼 수 있는 표시를 요구한다.

따라서 법의 취지를 기만 방지로만 설명할 수는 없다. 다만 창작자와 유통 단계로 표시 의무를 확대할 때에는 단순한 AI 사용 여부보다 시청자가 실제라고 오인할 가능성을 중심에 놓을 필요가 있다.

대본 작성에 도움을 받거나 자막을 자동으로 생성한 경우와, 실제 인물이 하지 않은 말을 한 것처럼 합성한 경우는 다르다. 중요한 것은 제작 과정에서 AI를 한 번이라도 썼느냐가 아니라, 그 결과물이 시청자의 사실 판단에 영향을 주느냐다.

그렇다고 속일 의도가 없었다는 이유만으로 표시가 불필요해지는 것은 아니다. 풍자나 실험으로 만든 영상도 원래의 설명 없이 퍼지면 실제 장면처럼 받아들여질 수 있다. 표시가 필요한지는 콘텐츠의 내용과 제시 방식, 유통 맥락을 함께 보고 판단해야 한다. 고의로 표시를 지우거나 사실인 것처럼 속이는 행위에는 그에 맞는 책임을 물으면 된다.

2. 생성할 때 붙인 표시가 게시할 때도 남아 있는가

기사에서 지적한 문제는 생성 이후에 있다. AI 기본법상 사업자의 표시 의무와 달리, 외부 플랫폼에 게시하거나 다시 공유할 때 표시를 유지하도록 하는 의무는 미비하다는 것이다.

창작 현장에서는 생성한 이미지를 내려받고, 일부를 잘라내고, 다른 장면과 결합해 하나의 영상으로 만든다. 생성 도구에서 붙인 표시가 최종 영상에도 그대로 남는다고 보기는 어렵다. 이용자가 실제로 콘텐츠를 접하는 순간까지 표시가 이어지도록 할 방법이 필요하다.

방미통위는 정보통신망법에서 게시자와 플랫폼의 유통 단계 의무를 보완하자는 입장이다. 과기정통부는 생성과 유통을 함께 검토해야 하며, 법률이 나뉘면 적용 대상과 기준이 달라질 수 있다는 점을 우려한다.

두 입장에는 각각 타당한 이유가 있다. 유통 단계의 책임을 정하되, 생성 단계와 다른 기준을 요구해서는 안 된다. 창작자 입장에서도 같은 콘텐츠를 두고 법마다 다른 방식으로 표시해야 한다면 혼란스러울 수밖에 없다. 어느 법에 담느냐 못지않게 기준을 맞추고 책임이 빠지는 구간을 없애는 일이 중요하다.

3. 책임은 알고 있는 만큼, 관리할 수 있는 만큼

다음은 현행법상 확정된 의무가 아니라, 제도를 설계할 때 고려해야 할 방향이다.

최초 창작자는 무엇을 직접 촬영했고 무엇을 생성·합성했는지 가장 잘 안다. 따라서 표시 대상에 해당하는 내용을 직접 만들었다면 그 사실을 우선 알리는 것이 합리적이다. 물론 창작자가 판단할 수 있도록 표시 대상과 예외부터 분명해야 한다.

다른 사람의 콘텐츠를 공유하는 사람에게 같은 수준의 책임을 지우기는 어렵다. 재게시자는 원본에 있는 표시를 유지하고, AI 생성물임을 알고 있다면 빠진 표시를 보완하도록 할 수 있다. 그러나 공유할 때마다 제작 과정을 조사하거나 AI 여부를 감정하라고 요구해서는 안 된다. 제작 경위를 몰랐던 경우와 표시를 고의로 지운 경우는 구분해야 한다.

플랫폼은 창작자가 알린 사실이 시청자에게 보이도록 해야 한다. 유튜브는 이미 현실적으로 보이는 AI 생성·변형 콘텐츠에 대해 창작자가 업로드 과정에서 고지하고 플랫폼이 라벨을 붙이는 방식을 운영한다. 단순한 편집 보조와 의미 있는 생성·변형도 구분한다. 국내 법률상 의무와는 별개지만 참고할 만한 사례다.

플랫폼에 체크박스 하나를 두는 것으로 충분하지는 않다. 입력한 정보가 실제로 표시되는지, 공유할 때도 유지되는지, 잘못 표시했을 때 수정할 수 있는지까지 살펴야 한다. AI 도구 제공자 역시 생성 단계에서 표시와 출처 정보를 제공하고, 창작자가 이를 게시할 때 활용할 수 있도록 도와야 한다.

실무자를 위한 체크포인트

첫째, 제작 이력은 필요한 만큼 남겨 두는 것이 좋다. 모든 작업을 입증할 방대한 서류보다 어떤 부분을 생성·합성했고, 직접 제작한 부분은 무엇인지 설명할 수 있는 기록이면 된다.

둘째, 팀에서 사용할 표기 기준을 정해 둘 필요가 있다. 법령과 플랫폼 정책을 확인하고, 어떤 경우에 표시하며 애매한 사례는 누가 검토할지 정하는 것이다. 다만 내부 기준을 마련했다고 법적 의무까지 충족되는 것은 아니므로, 관련 기준이 바뀌면 함께 수정해야 한다.

셋째, 협업 과정에서 담당자를 분명히 해야 한다. 브랜드·MCN·외주 제작자 사이에서 AI 사용 사실을 누가 전달하고, 최종 업로드 때 누가 표시를 설정할지 정해 두면 누락을 줄일 수 있다. 다른 콘텐츠를 가져와 편집할 때에는 기존 표시가 사라지지 않는지도 확인할 필요가 있다.

이러한 준비는 모든 콘텐츠에 AI 라벨을 붙이기 위한 것이 아니다. 표시가 필요한 경우를 가려내고, 왜 그렇게 판단했는지 설명하기 위한 것이다.

맺으며

좋은 AI 표시 제도는 라벨을 많이 붙이는 제도가 아니다. 이용자가 실제 촬영·녹음된 것과 생성·합성된 것을 구분하고, 그 차이가 중요할 때 알아볼 수 있게 하는 제도다. 모든 AI 활용을 똑같이 표시하면 창작자는 책임을 피하려고 모든 콘텐츠에 라벨을 붙일 수 있다. 그러면 정작 주의해서 봐야 할 차이는 드러나지 않는다.

창작자는 자신이 만든 내용을 밝히고, 재게시자는 확인 가능한 표시를 유지하며, 플랫폼과 도구 제공자는 그 정보가 시청자에게 전달되도록 해야 한다. 다만 각자의 의무는 이 목적을 이루는 데 필요한 수준이어야 한다. 표시를 했는지만 따지고 이용자의 오인을 줄였는지는 묻지 않는다면, 결국 제도를 위한 제도가 남게 된다.

참고 자료

아주경제, AI 생성물 표시 의무 유통 단계 확대 논의 관련 보도 2026년 11월 1일
대표 이미지: Zach M, Unsplash