Photo by Shutterstock

◆ AI의 무단 학습을 둘러싼 갈등

인공지능(AI)을 둘러싼 저작권 논쟁이 연일 뜨겁다. 특히나, 그림계에서 AI 논란이 가속화되는 지점은 AI에게 사용되는 학습 자료의 '무단 사용'이다.

일러스트레이터 샘 양(Sam Yang)은 그림 생성 인공지능이 그림을 그리기 위해서는 모방할 수 있는 '원본 데이터'가 필수불가결하나, AI 회사와 개발자들은 원 데이터 원작자에게 허가받지 않고 데이터 크롤링과 마이닝을 통해 무단으로 AI에게 그림을 학습시키고 있다고 말하며 문제를 공론화했다.

제2의 러다이트 운동이라고 불릴 정도로 격화된 대립은 작년 12월 글로벌 아티스트 커뮤니티 '아트스테이션(ArtStation)에서 진행되었던 예술가들의 온라인 시위에서도 확인할 수 있다. 시위에 참여한 예술가들이 아트스테이션 운영진 측에 항의하는 뜻에서 갤러리에 'AI 금지 마크'가 그려진 이미지 업로드 공격을 진행한 것이다. 이러한 시위에 미드저니 AI는 심각한 오류를 보이며 'AI 금지 마크'가 뒤섞인 그림을 생성해 냈다. 미드저니의 AI가 학습데이터로 사용하고 있던 것이 아트스테이션의 갤러리였던 탓이다.


◆ 크리에이터 보호를 위한 움직임: 글레이즈(Glaze), 어도비(Adobe)의 파이어플라이

이러한 흐름에 이어, AI의 데이터 크롤링에서 자신의 저작물을 보호할 수 있는 기술 또한 개발되고 있다. 시카고 대학의 박사 과정 학생들과 컴퓨터 사이언스 교수들로 구성된 학술 연구 그룹, 글레이즈(Glaze Project) 팀이 대표적이다.

글레이즈(Glaze)팀은 기계학습의 침입적인 사용으로부터 인터넷 사용자들을 보호하기 위한 기술을 개발해냈다. AI의 특성임과 동시에 약점인 적대적 예제(adversarial examples)를 이용한 프로그램을 만든 것이다.

글레이즈(Glaze) 팀은 그림에 픽셀 단위의 변형(클로킹)을 주는 것으로 딥러닝 모델의 정보 분류를 혼선할 수 있다고 설명한다. 이를 통해 아티스트들이 AI 회사가 데이터 마이닝, 데이터 스크래핑을 할 때 자신들의 저작물을 일차적으로 보호할 수 있도록 하겠다는 것이 그들의 취지이다.

물론, 이것이 완벽한 해답은 아니다. 글레이즈(Glaze) 팀조차도 이것이 AI 모방의 영구적 해결책이 아니라고 답하며, 이 기술 역시 미래 대응책에 의해 뚫릴 수 있다고 대답한다. 이제 막 개발이 되는 프로그램이기 때문에 신뢰성에 의구심을 표현하거나 그림의 질감이나 색채에 따라 변화가 눈에 보인다는 네티즌들 또한 존재한다.

그러나 글레이즈(Glaze)팀은 이것이 장기적으로 AI를 둘러싼 법적 규제적 대책이 마련되기 전, 예술가 중심의 보호 도구를 발전하는 첫걸음이라고 강조한다. 이어 앞으로도 도구를 상업화할 계획이 없다고 밝히며 언제든 글레이즈(Glaze)의 사이트에서 무료로 프로그램을 다운로드 할 수 있다고 전했다.

글레이즈(Glaze)가 예술가들의 저작물을 일차적으로 보호하는 프로그램을 만들었다면, 디자인 소프트웨어 업체, 어도비(Adobe)는 표절 문제없이 활용할 수 있는 생성 AI 서비스 '파이어플라이'를 21일(현지 시각) 내어놓았다.

어도비는 파이어플라이가 저작권이 만료된 사진, 무료 사진, 공공도메인 콘텐츠를 기반으로 훈련해 저작권 문제에서 자유롭다고 설명했는데, 이와 동시에 크리에이터가 자기 작품과 저작재산권을 보호할 수 있는 도구 또한 개발했다.
 

◆ CAI = 내 작품이 AI에 활용되지 않도록 요청

콘텐츠 진위 이니셔티브(CAI)가 그 주인공이다. 크리레이터는 자기 작품이 AI에 활용되지 않도록 요청할 수 있고, 작품 속에 이름, 활용 툴 등을 표시할 수 있다. 어도비는 파이어플라이 학습 데이터로 사진, 그림 등을 제공하는 크리에이터에게 일종의 보상을 제공하겠다는 방안도 마련하겠다고 밝혔다.

저작권과 크리에이터 보호 측면에 중점을 둔 이러한 움직임들이 생성 AI에 반감을 드러냈던 예술가들에게 어떻게 받아들여질지 앞으로의 귀추가 주목된다.