[칼럼]AI가 썼다는 게 문제일까, 책임지지 않는 창작이 문제일까

생성형 AI가 창작 현장에 들어온 뒤 가장 자주 반복되는 질문은 단순하다. “이 작품은 사람이 만든 것인가, AI가 만든 것인가.”

하지만 이 질문만으로는 지금 벌어지는 변화를 충분히 설명하기 어렵다. 창작 과정은 이미 오래전부터 여러 도구와 협업의 도움을 받아왔다. 작가는 검색을 하고, 편집자의 조언을 받고, 번역 프로그램과 맞춤법 검사기를 사용하며, 사진가는 보정 프로그램을 쓰고, 음악가는 전자음원과 소프트웨어를 활용한다. 생성형 AI는 이 연속선 위에 등장했지만, 기존 도구보다 훨씬 적극적으로 문장과 이미지, 아이디어를 만들어낸다는 점에서 새로운 경계를 만들고 있다.

그래서 지금 필요한 것은 “AI를 썼느냐, 쓰지 않았느냐”는 이분법적 심판보다 훨씬 정교한 기준이다.

핵심은 누가 창작의 방향을 결정했고, 결과물에 대해 누가 책임질 수 있는가에 있다.

작가가 AI에게 몇 가지 아이디어를 묻고 그 가운데 일부를 참고해 새로운 문장을 썼다면 그것을 인간의 창작이 아니라고 단정하기 어렵다. 반대로 대략적인 지시 몇 줄만 입력한 뒤 AI가 만들어낸 결과물을 거의 그대로 작품으로 제출했다면 인간의 창작적 기여가 어디까지인지 질문할 수밖에 없다.

두 경우 모두 “AI를 사용했다”는 사실은 같지만 창작 과정은 전혀 다르다.

이 차이를 무시하고 AI 사용 여부만으로 작품을 판단하면 새로운 종류의 낙인이 만들어질 수 있다.

최근 해외 출판계에서도 원고에 AI가 개입했다는 의혹만으로 작가의 신뢰가 흔들리거나 계약 문제가 발생하는 사례가 나타나고 있다. 출판사가 저작권과 상업적 위험을 걱정하는 것은 이해할 수 있다. 현재 여러 나라의 법체계가 인간의 창작적 기여를 중심으로 저작권을 인정하고 있기 때문이다.

그러나 법적 불확실성이 존재한다는 사실과 의혹만으로 한 창작자를 사실상 유죄로 취급하는 것은 다른 문제다.

AI 사용을 금지하거나 허용하는 기준이 명확하지 않은 상태에서 창작자에게만 모든 위험을 떠넘긴다면 결국 힘이 약한 신인 작가와 프리랜서가 가장 먼저 피해를 입을 가능성이 크다.

출판사와 플랫폼 역시 책임에서 자유로울 수 없다.

AI 사용이 문제가 될 수 있다고 판단한다면 계약 단계에서 어떤 사용까지 허용되는지 구체적으로 제시해야 한다. 아이디어 탐색은 가능한지, 문장 생성은 금지되는지, 번역과 교정에 AI를 사용하는 것은 허용되는지 기준을 미리 알려야 한다.

규칙을 정하지 않은 채 작품이 성공한 뒤 AI 사용 가능성을 문제 삼는 방식은 공정하지 않다.

창작자에게 필요한 것도 무조건적인 자유는 아니다.

AI를 적극적으로 활용했다면 일정 수준의 공개 원칙을 고민할 필요가 있다. 독자와 출판사는 작품이 어떤 방식으로 만들어졌는지 알 권리가 있고, 특히 AI 생성물이 완성본에 상당 부분 포함됐다면 이를 숨기는 것은 신뢰 문제로 이어질 수 있다.

중요한 것은 ‘AI를 사용했으니 창작자가 아니다’가 아니라 ‘어떤 방식으로 사용했는지 투명하게 설명할 수 있는가’다.

여기에는 더 어려운 문제도 있다.

생성형 AI가 무엇을 학습했는가에 관한 문제다.

오늘날 AI는 인간이 만들어온 방대한 글과 이미지, 음악을 학습해 새로운 결과물을 만든다. 그 과정에서 원저작자의 동의와 보상이 충분했는지는 여전히 논쟁 중이다.

따라서 AI를 새로운 창작 파트너로 받아들이자는 주장도 이 문제를 건너뛰어서는 안 된다.

작가가 AI와 대화하며 아이디어를 발전시키는 과정은 분명 새로운 창작 방식일 수 있다. 하지만 그 AI가 수많은 다른 창작자의 작업을 어떤 방식으로 학습했는지까지 생각하면 이야기는 훨씬 복잡해진다.

AI가 욕심이 없다는 이유만으로 문제가 사라지는 것도 아니다.

AI 자체는 명예를 탐하거나 원고료를 요구하지 않는다. 그러나 AI를 운영하는 기업은 시장에서 경쟁하고 수익을 추구한다. 누가 학습데이터를 소유하는지, 누가 서비스를 통제하는지, AI가 만들어낸 경제적 가치가 누구에게 돌아가는지는 결국 인간과 기업의 문제다.

그래서 AI와 창작의 미래를 이야기할 때 기술을 지나치게 낭만적으로 바라보는 태도 역시 경계해야 한다.

AI는 좋은 협업자가 될 수 있지만 동시에 인간의 사고를 단순화하는 도구가 될 수도 있다.

작가가 막힐 때마다 AI에게 다음 문장을 묻고, 이야기의 방향과 등장인물의 성격까지 AI에게 결정하게 한다면 효율성은 높아질 수 있다. 하지만 그 과정에서 작가가 스스로 헤매고 실패하며 예상하지 못한 답을 찾아가는 시간이 사라질 수도 있다.

창작은 효율만으로 평가하기 어려운 활동이다.

한 문장을 쓰기 위해 여러 번 지우고, 이야기의 방향을 잘못 잡아 처음부터 다시 시작하며, 자신도 몰랐던 생각을 발견하는 과정 자체가 작품을 만든다.

AI가 모든 시행착오를 빠르게 제거해준다면 창작자는 더 많은 작품을 만들 수 있을지 모른다. 하지만 그 작품이 더 깊어질지는 별개의 문제다.

결국 중요한 것은 AI를 얼마나 많이 사용하는가가 아니라 어떤 순간에 사용하는가다.

자료를 정리하고 관점을 넓히는 데 활용할 수도 있고, 자신의 생각에 반대되는 논리를 요청해 사고를 점검할 수도 있다. 막연한 아이디어를 구체화하거나 여러 가능성을 비교하는 데도 사용할 수 있다.

이런 방식이라면 AI는 창작자의 사고를 대신하기보다 확장할 수 있다.

반대로 결과를 만들어주는 기계로만 사용한다면 창작자는 점점 판단을 외부 시스템에 의존하게 될 가능성이 있다.

앞으로 창작의 가치를 판단하는 기준도 달라질 필요가 있다.

우리는 지금까지 작품이 ‘누구 손에서 나왔는가’를 중요하게 생각했다. 앞으로는 ‘누가 작품의 의미와 방향을 결정했는가’를 더 중요하게 보게 될 수 있다.

AI가 수십 개의 문장을 제안했더라도 작가가 무엇을 버리고 무엇을 남길지 판단하고, 그 선택을 하나의 세계관으로 엮었다면 인간의 창작적 역할은 여전히 크다.

반대로 인간이 이름만 올렸을 뿐 작품의 핵심적인 판단을 대부분 AI에 맡겼다면 저자라는 개념을 다시 생각해야 할 수도 있다.

이 기준에서 중요한 것은 책임이다.

작품에 오류가 있다면 AI를 탓할 것인가. 표절 문제가 발생하면 “AI가 만들었다”고 말할 수 있는가. 혐오나 편견이 담긴 표현이 나온다면 창작자가 책임을 피할 수 있는가.

답은 분명해야 한다.

AI를 도구로 선택한 사람은 그 결과에 대해서도 책임져야 한다.

이 원칙이 자리 잡으면 AI 창작을 둘러싼 논쟁도 조금은 생산적인 방향으로 이동할 수 있다.

창작자를 AI 사용자와 비사용자로 나누는 것은 오래가기 어렵다. 앞으로 대부분의 창작 과정에 어떤 형태로든 AI가 들어올 가능성이 높기 때문이다.

대신 우리는 더 중요한 질문을 해야 한다.

AI가 개입한 과정은 투명했는가. 인간은 충분한 창작적 판단을 했는가. 다른 창작자의 권리는 존중됐는가. 결과에 대한 책임을 누가 지는가.

이 질문에 답할 수 있다면 AI는 인간 창작의 적이 될 필요가 없다.

하지만 아무 기준 없이 편리함만 좇는다면 AI는 인간의 능력을 확장하는 기술이 아니라 인간이 자신의 판단을 포기하는 가장 쉬운 핑계가 될 수도 있다.

창작의 미래는 AI가 얼마나 뛰어난 글과 그림을 만들어내느냐만으로 결정되지 않는다.

오히려 인간이 그 강력한 도구 앞에서 무엇을 직접 판단하고, 무엇을 타인에게 설명하며, 어디까지 책임지겠다고 말할 수 있는지가 더 중요하다.

AI 시대에도 결국 작품에 서명하는 것은 인간이다.

그리고 서명한다는 것은 단순히 이름을 올린다는 뜻이 아니다.

그 작품이 만들어지는 과정과 결과에 책임을 지겠다는 선언이어야 한다.