AI 아바타와 윤리적 문제

표목

1. AI 아바타: 현재 인기 있는 유행
2. AI 아트와 도덕성: 윤리적 측면에 대한 논의
3. 렌즈 AI 앱 소개: 동작 원리와 위험성
4. AI 아트 도구: 안전한 대안 찾기
5. 라이언 5B 데이터셋: 윤리적 문제와 혼란
6. 예술과 도덕성: AI 아트의 개념
7. 렌즈 AI 앱의 윤리적 문제: 저작권 침해와 개인 정보 보호
8. AI 아트의 창작 과정: 효율적인 대안을 탐색하다
9. 예술가와의 협력: 진정한 아트의 탄생
10. AI 아트의 미래: 윤리적 표준 설정을 위해 동참하다

AI 아바타: 현재 인기 있는 유행

AI 아바타는 모두가 사랑하는 창작자나 유명인들이 Twitter나 Instagram에 올리는 AI 창작물을 가리킵니다. 그들이 올리는 AI 창작물은 멋지고 재미있어 보입니다. 하지만 이들 중 일부는 비슷한 것들이 많아서 독특하지 않을 수 있습니다. 그래도 이들이 시도하고 싶어하는 것은 당연합니다. 왜냐하면 AI 창작물은 정말 멋지기 때문이죠. 하지만 인터넷의 좋은 것들이라면 이 역시 너무나도 비윤리적입니다. 왜 그렇게 말하는지, 그리고 AI 창작물처럼 보이는 멋진 미술을 윤리적으로 어떻게 구할 수 있는지 알아볼 것입니다.

렌즈 AI 앱 소개: 동작 원리와 위험성

렌즈 AI 앱은 10~20개의 사진을 업로드하고 앱에 3.99달러를 지불하면 AI가 제공하는 프로필 사진이 생성됩니다. 그 중에서 좋아하는 사진을 선택하고 Twitter에 올리면 됩니다. 이 과정은 피부 위의 스테이크를 사기 위해 슈퍼마켓에 가는 것과 유사합니다. 그러나 그것이 어떻게 이뤄지는지를 살펴보면 좀 더 복잡해집니다. 이 앱은 기억을 차단하는 도구로 마케팅을 진행하고, AI 아트가 도용된 것과는 무관하게 자기 자신을 따로 소개합니다. 여러분이 이미 알아듣지 못했다면 AI 아트가 어떤건지, 여기서 말하는 도용된 아트가 무엇인지 토론해보겠습니다. 이 앱은 여러분에게 주도적인 경험을 제공하는데, 여러분이 사용할 수 있는 멀티 프로필 사진을 여러장 만들어줄 뿐입니다. 그리고, 이 사진들은 저작권이 없으며 디지털 아트처럼 보입니다. 이렇게 작동하는 걸 보면 영향력 있는 인플루언서들이 사용하니까 본인도 사용해야 하는 강요같은 느낌이 들 수도 있습니다. 같은 맥락으로 담배를 피우는 이유도 사회적 압력 때문입니다. 다른 사람들과 다를 수 없기 때문에 당연히 모두가 하게 되는 것이니까요. 4.99달러를 내고 AI 아바타를 만들어야 하니까 모두에게 쓸 수 있는 앱을 만들어보세요! 마치 아무래도 비슷한 고기를 쓰러 가야할 것 같습니다. 하지만 누가 이것을 만드는 걸까요? 이 앱은 유저 친화적인 서비스를 주장하진만큼, 사용자를 위해서다라고 자기 시인처럼 보이지만, 사실은 사실은 훌륭한 광고입니다. 그리고 지금 이것은 유행이 되고 있습니다. 여러분의 좋아하는 인플루언서들이 이런 말을 하는데, 그러니까 여러분도 해야 하니까요. 같은 이유로 우리 모두가 매일 한 팩의 담배를 피우는 것처럼 말입니다. 모든 사람의 인생 그리고 나이가 되어야 하는 거에요. 이제 4.99달러를 가지고 AI 아바타라는 것을 만들어보세요. 한번에 모든 것을 소비하진 말고요. 왜냐하면 그게 거래의 특성입니다.

그러면 나쁜 점은 무엇일까요? 아니, 그 과정이 비윤리적인 것인 줄로 생각하실 수도 있습니다. 그들은 여러분이 업로드한 사진을 데이터 세트에 보관한다고 말하면 안되겠죠. 그 말을 받아서 내가 말하려던 그것이 아니에요. 이 앱 제작사는 이미지를 처리한 후에 여러분이 업로드한 사진을 즉시 삭제합니다. 그렇게 하는 이유는 그렇다면 시스템이 비효율적으로 작동하게 되기 때문입니다. 저는 컴퓨터가 어떻게 작동하는지 잘 모르기 때문에 이 앱 자체는 깨끗한 손으로 청소를 하기 위해 내린 마음과 똑같습니다. 앱 자체는 윤리적인 문제 바깥에서 아무 일도 일어나지 않는 것처럼 보이는데, 인공지능으로 만든 소스 도구를 비윤리적으로 어떻게 구하는지에 대한 문제도 있습니다. 이건 제게 의도적으로 비윤리적이거나 어리석은 것 같네요.

하지만 렌즈 AI 앱이나 다른 AI 도구와 같은 AI 도구는 안정적인 확산 모델이라고 하는 것을 사용합니다. 전부 벌써 이 비디오를 찾아가려고 하는 것 같아요. 그만해주세요! 여기가 흥미로워지는 곳이니까요. 안정된 확산이란 사진을 생성하는 것입니다. 이미지에서 이미지로 변환될 수 있으며, 예를 들어 "Danny Phantom Among Us"라는 문구를 입력하면 정확하게 그와 유사한 이미지가 나올 수 있습니다. 안정된 확산은 실제로 새로운 이미지를 생성하는 것이라고 광고되지만, 실제로는 이미지를 합성하는 것입니다. 아무것도 없는 것에서 이미지를 만들 수 없습니다. 불러리안 5B라는 것은 이미지 데이터 세트 중 하나로 어떤 목적에 따라 이미지를 불러들이는 데 유용한 악의적인 요소라고 할 수 있습니다. 그것은 인터넷에서 11년 동안 수집한 85억 개의 이미지와 관련된 텍스트를 데이터베이스로 가지고 있습니다. 저의 말들을 더 잘 이해하기 위해 "불러리안 고양이(French cat)"를 검색하면 불러리안 고양이에 대한 사진과 관련된 텍스트를 찾을 수 있습니다. 이 문제점은 당연히 단지 이미지 및 텍스트 데이터 집합이 아닌, 이 데이터 집합에 제출된 컨텐츠일 수 있으며 작가, 사진 작가 또는 컨텐츠 제작자가 이러한 데이터 집합의 일부가 되기 위해 동의하지 않았거나 직접 묻지 않았다는 것입니다. 이것이 아트 도용의 개입이 발생하는 곳입니다. 수많은 그림 작가들이 자신의 작품이 AI 이미지를 생성하는 데 사용되고 있다는 것을 보여주는 다양한 예를 보여주고 있으며, "내가 훈련 되었나?"라는 웹 사이트에서 이 데이터 집합에 포함된 이미지를 확인할 수 있습니다. 또한 이 데이터 집합은 컨텐츠 내부에 저작권을 위반하는 이미지에도 링크가 포함되어 있을 수 있으며, 더 나아가 비공개 데이터가 포함된 이미지도 있습니다. 예를 들어, 2013년에 의사에 의해 찍힌 어떤 예술가의 사적 의료 사진이 올라와 있습니다. 이 사진들은 어떠한 사람도 볼 수 있도록 Lyon 5B 데이터 집합에 업로드되었고, AI 프로그램인 lenz와 같은 프로그램이 이 데이터를 사용해서 새로운 이미지를 생성하려고 사용합니다. lyon 5B의 제작자는 이 데이터 집합에 대한 공지가 유용한 컨텐츠를 생성하고 정리하는 것을 목표로하고 있으며 저작권 침해를 하지 않기 위해 이 사진들은 등록할 때 저작권 관리 조치를 취하고 있다고 합니다. 그러나 실제로 그것은 그 가지마음으로 그것이 저작권을 침해하지 않는다고 주장합니다. 그리고 이에 대한 어떠한 책임도 져주지 않습니다. 그건 사진이 아니라 링크이기 때문이라고 주장합니다. 정말 어이 없는 일입니다. 이 상황에서는 아무나 내가 범죄를 한게 아니라고 합니다. 그래도 목수나 그로서, 고객이나 그릴, 뒤집개, 양념 판매자들은 나쁜 일에 대한 도덕적인 고민에서 자유로울 수 있습니다. 이게 날보고 허기가 나게 만들어요. 왜냐하면 체인의 모든 개인들은 소인류 중 아무나 담배 한국당 하루에 하나씩 피우고 있기 때문입니다.

이제 뭐가 문제인지 궁금하신 분들은 어떤없음이 문제인가요? 그리고 고기는 어때서 어떻게 만들어지죠? 이 기회에 좀 똑같은 확실한 비윤리적 행위를 나타내는 것이랍니다. 렌즈 AI 앱에 대해 나쁜 점은 인간적인 측면에서 심각한 것입니다. 우리가 AI 아트를 인식하는 방법을 바꾸는 것은 최선의 대안이 아니며, 특히 예술가 커뮤니티에서 예술가를 지원한다고 주장하는 사람들이 이런 AI 아바타를 올리는 것은 이상하게 보입니다. 이런 앱들은 AI 아트를 간단하고 친근한 사용자 경험으로 제공하며, 윤리적 규정들을 무시하고 어떤 것들을 할 수 있는지를 보여줍니다. 이것이 어떻게 우리의 개인 정보 보호와 같은 것들이 흔하게 발생하는지를 보여줍니다. 이것이 우리가 소셜 미디어 회사들이 우리의 온라인 경험을 조작하는 가장 좋은 방법입니다. 이것이 광고주가 우리가 무슨 일을 하고 있고 어떤 것들이 필요한지를 정확하게 대상화할 수 있게 하는 방법입니다. 이런 것들을 많이에서 우리는 기이하거나 이상하거나 비윤리적이거나 그냥 잘못된 것들로 인식하지만 우리는 이것들이 필연적으로 생활해야 할 악이라고 보고 있습니다. 그러나 이것은 사실이 아닙니다. 우리는 특히 지금처럼 예술가를 위한 인터넷의 윤리적인 공간을 창조할 수 있습니다.

앞서 말했듯이, 이 앱이 유명한 이유가 무엇인지 궁금할 수 있습니다. 이 앱을 다루는 이유는 그저 현재 인기 있는 AI 아트 트렌드인 것일까요? 그렇다고 생각하시면 됩니다. AI 창작물은 트렌드가 되어서는 안됩니다. 특히 지난 주에 예술가들 사이에서 예의바른 태도를 보여주는 사람들도 많은데, 그들에게 있어서 트렌디한 마법 아바타를 올리는 것은 이상하게 보입니다. 렌즈 AI 앱과 같은 앱들은 실제로는 어떤 의미에서 매우 비윤리적인 것을 단순하고 친근한 사용자 경험으로 만들어줍니다. 그것은 철거하려는 처리 공장의 영수증을 찢는 것이라고 할 수 있고, 여러분에게 맥도날드 광고를 보여 줍니다. 아래 읽고 싶지 않아도 도움이 되는 서비스를 제공하는 룰리안 5B 사진데이터베이스도 비윤리적이라고 할 수 있는 것들 중 하나입니다. 이 데이터베이스는 거칠게 말해서 85억 개의 이미지들에 대한 색인으로 서로 관련이 있는 텍스트와 함께 우리에게 시각화된 정보를 제공합니다. 링크를 통해 원본 이미지로 가는 주소들을 집합적으로 나타냅니다. 이미지 자체가 아니라 링크이기 때문에 저작권이 침해되지 않는다고 주장합니다. 실제로는 이 데이터베이스가 수집한 이미지들 중에서도 아무 제약이 없고, 선정된 이미지를 모집하지 않기 때문에 일부 이미지는 위험할 수 있습니다. 이러한 문제들을 회피하려고 룰리안은 "우리는 불안전한 컨텐츠나 워터마크가 있는 것을 필터링함과 동시에 저작권을 어길 수 있다는 것은 해결하기 위한 것이 아니며, 이 데이터베이스는 단지 원본 이미지로 보여 줄 링크에 대한 목록이라면서, 모델을 위해 이 링크를 사용하여 실제로 새로운 이미지를 생성하는 프로그램에 대한 책임을 지지 않는다고 말하고 있습니다. 모두 주체가 책임져주지 않으면 누가 책임져야 할까요? 여러분이 책임져야 할까요? 아니면 그들이 책임져야 할까요? 여러분과 저 모두 그들이 다 책임져야 한다고 생각합니다.

박람회를 조금 돌아왔습니다. 렌즈 AI 앱에 대해 나쁜 점이 무엇인지 궁금하세요? 저는 그저 현재 인기 있는 AI 아트 트렌드인 것일까요? 그렇다고 생각한 분들은 이해해야 합니다. AI 아트는 트렌드로서 인식되어서는 안됩니다. 트렌드다운거 다 상해야 하는거니까요. 그렇다는 것은 AI 아바타를 제작하는 큰 문제입니다. AI 아트가 유니크한 경험이 될 수 있도록 도와주길 바랍니다. 인터넷 시대에 예술가로서 우리의 디지털 저작권을 잃게 되는 것은 위험하겠지만, 그렇기에 비윤리적이거나 그걸 정당화하려는 것이 아닙니다. 우리가 만든 AI 아바타나 다른 사람들이 제작한 AI 아바타는 그저 도둑질당한 아트와 여러분의 셀카사진을 섞어놓은 소설 이미지일 뿐입니다. 현재 AI에 의해 개발된 아트는 아직 완벽하지 않습니다. 그래서 불러리안 5B 같은 곳에서 가져온 아트의 스타일을 혼용한다면 더 나빠질지도 모릅니다. 그래서 불러리안 5B 데이터셋은 인터넷 상에서 가장 해로운 것 중 하나입니다. 그 안에는 NSFW(성적 콘텐츠), NUD(은밀한 콘텐츠)와 함께 사적인 데이터가 포함되어 있습니다. 지난 9월, 어느 AI 작가는 의사로부터 2013년에 진행된 개인 의료 사진이 불러리안 5B 데이터셋에 업로드되어 표시되어 있다는 사실을 발견했습니다. 렌즈와 불러리안 5B와 같은 프로그램이 이 링크를 사용하여 새로운 이미지를 생성할 때 참조 이미지로 사용됩니다. 프로그램의 개발자들과 lenza와 같은 앱의 개발자들에게 이것에 대한 책임은 없습니다. 그것은 대단한 일이죠. 여기서 아무도 책임을지지 않습니다. 인덱스로 85억 개의 이미지 링크를 포함하는 것은 실질적으로 저작권을 위반하는 것은 아니라고 주장하기 때문입니다. 그리고 실제로는 링크자체이기 때문에 이러한 링크를 사용하여 이미지를 생성하는 프로그램에 대한 책임을 지지 않는다고 주장합니다. 이건 저도 인정하긴 어렵습니다. 여기 누구도 책임은 없습니다. 이제 여러분은 진짜 예술가를 찾으세요. 이 앱은 예술창작의 훼손에 참여하지 않습니다. 이 앱은 어떻게 윤리적인 공간을 창조하는지에 대한 지도가 됩니다.