생성 AI의 시각적 표절 문제 : 미드저니와 달리3 실험으로 드러난 저작권의 지뢰밭 - 개리 마커스, 리드 사우센. 2024.1.6.

생성 AI의 시각적 표절 문제 : 미드저니와 달리3 실험으로 드러난 저작권의 지뢰밭 
개리 마커스, 리드 사우센
2024.1.6. https://ieee.org/

이 기사는 생성 AI가 저작권을 침해하는 이미지를 만들 수 있다는 문제를 다룬다. 저자들은 미드저니Midjourney와 달리DALL-E 3를 사용하여 영화, 게임, TV 캐릭터를 인식할 수 있는 이미지를 생성하는 실험을 했다. 생성된 이미지들은 저작권을 침해할 수 있는 요소를 포함하고 있었다.
이들은 생성 AI 시스템이 훈련 데이터에서 저작권이 있는 자료를 얼마나 "기억"하는지에 대한 의문을 제기했다. 예를 들어, 이 시스템들은 명시적으로 요청하지 않았음에도 불구하고 저작권이 있는 캐릭터와 이미지를 만들어낼 수 있었다. 이는 미드저니와 달리3가 저작권이 있는 자료를 기반으로 훈련되었을 가능성이 있으며, 이로 인해 사용자가 저작권 침해 소송에 직면할 수 있음을 의미한다. 저자들은 생성 AI가 저작권 보호 작품을 훈련에 사용하는 것이 윤리적 문제를 제기한다고 주장한다.

결론적으로, 이 기사는 생성 AI 시스템이 저작권을 침해할 수 있는 결과물을 생성할 수 있으며, 이는 사용자와 콘텐츠 제작자 모두에게 부담을 준다고 지적한다. 저자들은 적절한 라이선스를 받은 데이터에만 AI학습을 제한해야 한다고 주장한다.
이 기사는 기존 AI 저작권 문제와 다른, 몇 가지 중요한 측면을 제기하고 있다.

비의도적 저작권 침해로 인한 소비자 보호 및 책임 문제 : 생성 AI는 사용자의 명시적 요청 없이도 저작권이 있는 캐릭터와 이미지를 생성할 수 있다. 이는 사용자가 의도치 않게 저작권을 침해할 수 있는 상황을 만든다. 이로 인해 사용자는 무의식적으로 법적 책임을 지게 될 수 있다. 이는 기존 AI 저작권 문제 보다 확장된 문제이다.
훈련 데이터의 출처 불투명성: 미드저니와 달리3 같은 시스템이 저작권이 있는 자료로 훈련되었을 가능성이 있음에도 불구하고, 이들의 훈련 데이터 출처에 대한 투명성이 부족하다. 이는 기존 AI 문제와는 다른 새로운 윤리적, 법적 고려사항을 제기한다.
저작권 침해의 스케일과 범위: 생성 AI는 대규모로 저작권 침해 가능성이 있는 이미지를 생성할 수 있다. 이는 저작권 보호 작품의 대규모 복제 및 배포와 관련된 새로운 문제를 제기한다.
기술적 해결 방안의 한계: 생성 AI가 저작권 침해를 하는 출력물을 만들지 않도록 기술적으로 해결하는 것이 어렵다. 이는 기존 AI 문제에 비해 더 복잡하고 어려운 해결책을 요구한다.

https://spectrum.ieee.org/midjourney-copyright

시사점

오픈AI와 미드저니는 모두 그들이 생산하는 이미지의 출처에 대한 어떠한 정보도 제공하지 않는다. 그러니 사용자는 이미지를 생성할 때 자신이 침해하는지 여부를 알 수 없다. 출처를 정확하게 보고하거나 대부분의 저작권 위반을 자동으로 필터링하는 기술 솔루션을 누군가가 제시하지 않는 한, 유일한 윤리적 솔루션은 생성 AI 시스템이 적절하게 라이선스를 받은 데이터로 교육을 제한하는 것이다. 스트리밍 서비스가 음악과 비디오에 라이선스를 부여하는 것처럼 이미지 생성 시스템은 교육에 사용되는 시각적 창작물에 라이선스를 부여해야 한다. 기사는 생성 AI 개발자가 데이터 소스를 적절하게 라이선스가 부여된 데이터로 제한해야한다고 주장한다. 또한 예술적 도구로서 강력한 힘을 가지면서도 동의하지 않은 예술가의 예술을 착취하지 않는 소프트웨어가 되지 않기 위해, 아티스트에게 작업에 대한 보상을 제공해야 한다고 말한다. 
기사에서는 다루지 않고 있지만, 생성 AI가 음악 등 다른 분야에 적용되면서 비슷한 문제가 발생할 수 있을 것으로 충분히 예상된다. 뉴욕타임즈 소송에 대한 후속 연구 결과에 따르면 생성 AI 시스템은 투명성이나 보상 없이 사용자와 콘텐츠 제작자에게 과도한 부담을 주는 방식으로 정기적으로 서면 및 시각적 표절 결과물을 생성할 수 있음을 시사한다. 
소송의 가능성은 매우 클 수 있으며, 전체 기업의 기반이 윤리적으로 불안정한 기반 위에 구축될 수 있다는 점에 대해 조심해야 한다.

https://spectrum.ieee.org/midjourney-copyright

--
위 글은 아래 링크된 원문을 요약한 글입니다. 꼭 원문을 확인해보세요.
원문 출처 : Generative AI Has a Visual Plagiarism Problem. Experiments with Midjourney and DALL-E 3 show a copyright minefieldGARY MARCUSREID SOUTHEN06 JAN 2024. ieee.org
https://spectrum.ieee.org/midjourney-copyright