<편집자주>
“시리야, 지금 몇 시야?” “헤이 빅스비, 친구에게 전화 걸어줘.” 스마트폰에 탑재된 인공지능(AI)에게 한 번쯤 해본 말들이다. 시간을 안내하고 전화를 걸어주던 인공지능은 이제 실시간으로 외국어를 통역하고 방대한 양의 정보를 한 눈에 알아볼 수 있게 정리하는 등 엄청난 발전을 거듭해왔다. 지금도 인공지능은 스스로 학습하고 발전하고 있으며, 그에 따라 인공지능이 우리 삶에서 차지하는 비중도 커지고 있다.
그렇다면 인공지능의 발전이 과연 우리에게 좋은 점만 가져다줄까. 인공지능은 인간의 명령을 곧이곧대로 따를 수밖에 없기에, 인간이 인공지능을 범죄에 활용하는 등의 사례가 발생하고 있다. 이 같은 인공지능의 잘못된 활용 사례와 부작용 등을 알아야 더욱 발전할 인공지능을 슬기롭게 활용할 수 있을 테다.
인공지능이 프로필 사진을 제작해 준다. 얼굴이 나온 사진 몇 장을 넣으면 곧 훤칠한 내 모습이 담긴 사진이 여러 장 생성된다. 어떻게 순식간에 프로필 사진을 여러 장 생성할 수 있는 것일까? 얼굴을 이용한다는 점에서 초래되는 문제는 없을까? 인공지능 프로필(이하 AI 프로필)의 원리와 그로 인해 나타나는 사회 문제를 알아본다.
김유성 기자
다양한 콘셉트에 나를 대입하다
AI 프로필 기술이 인기를 끌고 있다. 애플리케이션에 얼굴이 들어간 사진을 10~20장가량 투입하면 짧게는 한 시간, 길게는 하루 안에 다양한 콘셉트의 사진이 제작된다. AI 프로필 기술은 특별한 메이크업을 받지 않아도 다양한 화장법과 헤어스타일이 반영된 사진을 얻을 수 있어 많은 사람의 관심을 끌고 있다. 프로필 사진의 가격이 10만 원가량에 육박하는 지금, 1만 원도 채 안 되는 가격을 지불하면 여러 장의 AI 프로필 사진을 얻을 수 있다. 인공지능은 어떻게 짧은 시간 안에 다양한 콘셉트의 사진을 여러 장 생성할 수 있는 것일까?
일반적인 증명사진과 같은 단조로운 배경부터 평소에 접하기 어렵고 특별한 배경까지, AI 프로필을 생성하면 다양한 배경에서 찍은 듯한 사진을 얻을 수 있다. 때문에 AI 프로필을 제작하려면 배경을 가장 먼저 생성해야 한다. 이 과정에서 ‘Diffusion Model(이하 디퓨전 모델)’이라는 기술이 쓰인다. 디퓨전 모델이란 ‘노이즈’로부터 원하는 사진을 추출하는 경로를 학습하는 과정을 말한다. 노이즈는 디지털 사진에서 의도하지 않은 여러 신호들이 이미지에 나타나는 상태를 일컫는다. 신호 연결이 제대로 되지 않은 채로 TV를 켰을 때 볼 수 있는 지지직거리는 화면이 노이즈의 대표적인 예시다. 노이즈로부터 원하는 사진을 만들기 위해 불필요한 신호는 제거하고, 필요한 신호는 추가하는 방식으로 배경이 되는 사진을 추출한다. 이 과정을 여러 차례 반복함으로써, 인공지능은 프로필을 만들려는 이용자가 많아도 빠른 속도로 배경 사진을 생성할 수 있게 된다. 오희석(한성대학교 AI응용학과) 교수는 “특정 사진 제작 경로를 인공지능에 학습시켜 놓으면 해당 콘셉트의 사진이 필요할 때마다 바로 추출할 수 있다”고 설명했다.
배경 사진을 생성했다면, 그 위에 이용자가 투입한 얼굴 사진을 합성하는 과정을 거쳐야 한다. 이 과정에서는 ‘Fine-tuning(이하 파인튜닝)’ 기법이 사용된다. 우리말로 ‘미세조정’이라는 뜻으로, 인공지능에 새로운 데이터를 학습시키고 그 데이터에 대해 동작할 수 있도록 만드는 과정이다. AI 프로필 제조사들은 파인튜닝 기법 중에서도 ‘Dreambooth(이하 드림부스)’ 기술을 주로 사용한다. 드림부스는 투입된 얼굴 사진을 기반으로 새로운 얼굴 사진을 생성하는 기술이다. 여러 파인튜닝 기법 중에서도 몇 장의 사진만으로 특정 개인의 얼굴이 반영된 결과물을 제작할 수 있다는 점이 드림부스가 주로 사용되는 이유다. 오 교수는 “AI 프로필 제조사에서는 배경 사진을 몇 장 만들어 두고 이용자가 투입한 사진을 기반으로 드림부스 기술을 사용해 이용자의 얼굴이 들어간 AI 프로필 사진을 제공하는 기술을 쓰고 있다”고 말했다.
드림부스가 만든 얼굴 사진을 배경 사진에 바로 합성하면 두 사진의 색상, 질감 등이 달라 자연스러운 느낌의 사진을 만들 수 없다. 따라서 배경과 얼굴 사진 사이의 이질감을 줄이기 위한 과정을 거쳐야 한다. 이를 위해 배경 사진과 얼굴 사진의 이미지 코드가 포함하고 있는 정보를 서로 교환하면서 색상이나 질감 등을 비슷하게 바꾼다. 이 과정에서는 ‘Cross Attention(이하 크로스 어텐션)’ 기술이 사용된다. 크로스 어텐션을 통해 배경 사진과 얼굴 사진 사이의 이질감을 줄여 더 자연스러운 사진으로 만드는 과정을 거치는 것이다. 이수진(세종대학교 인공지능데이터사이언스학과) 교수는 “사용자의 얼굴이 가진 특성을 인공지능이 이해할 수 있는 형식으로 변환해 이용자의 얼굴과 배경 사진의 정보를 연산한다”며 “이 과정을 통해 얼굴과 배경 사이의 경계를 자연스럽게 만들고 색상 등 스타일을 일치시키는 것”이라고 전했다.
AI 프로필을 만드는 과정에서 다량의 연산 작업을 수행하기에 기술적 한계가 발생하고, 그로 인해 초기에 생성된 AI 프로필 사진은 크기가 작다. 때문에 마지막으로 사진의 크기를 키우는 과정을 거친다. 이 과정에서 사진의 해상도*를 높이는 ‘초해상도(SuperꠓResolution)’ 기법이 사용된다. 사진을 키우는 과정에서 화질이 저하되거나 불필요한 노이즈가 나타나는 등의 문제가 발생하기 때문이다. 초해상도 기법을 사용하면 화질을 보존하면서도 불필요한 노이즈를 제거하면서 사진의 크기를 키울 수 있다. 이 과정까지 거치면 이용자에게 제공할 수 있는 AI 프로필 사진이 완성된다. 이 교수는 “모든 과정을 거치면 인공지능은 최종적으로 이용자의 얼굴이 포함된 AI 프로필 사진을 생성한다”며 “이 사진은 이용자가 원하는 스타일, 테마 등에 맞춰 최적화된 결과물”이라고 설명했다.
AI 프로필은 지불하는 가격에 따라 제작 시간이 짧게는 1시간 이내, 길게는 하루가 소요된다. 소요 시간은 다르지만, 사용되는 기술에는 변함이 없다. 단지 지불하는 가격에 따라 이용자 간의 제조 순서에 차이를 두기 때문에 AI 프로필을 제작하는 데 소요되는 시간이 달라지는 것이다. AI 프로필을 제작하는 과정에서 다량의 연산 작업이 필요하다 보니 동시에 여러 작업물을 제작하는 데 한계가 있다. 그래서 더 높은 비용을 지불한 이용자의 사진을 먼저 제작할 수밖에 없다. 오 교수는 “인공지능이 학습 후 프로필 사진을 생성하는 데 걸리는 시간은 30분 이내”라며 “AI 프로필 업체에서 사진을 제작하는 양에 한계가 있다 보니 이용자가 지불하는 비용에 따라 자체적으로 우선순위를 정하는 것”이라고 밝혔다.
*해상도 : 컴퓨터 화면 등에 나타나는 그림이나 글씨의 선명도
누가 언제 만들지 모른다
인공지능이 사진을 생성하는 기술은 여러 사회 문제를 낳고 있다. 인공지능의 기술이 발전하면서 현실과 가까운 느낌을 줄 정도로 사실적인 사진을 생성하기 때문이다. 실제로 도널드 트럼프 전 미국 대통령이 체포되는 사진이나 수감된 사진이 제작돼 인터넷에 퍼지면서 많은 이들이 실제 사진으로 오해하는 등의 사건이 있었다. 이처럼 인공지능은 가상과 현실을 넘나들며 사회의 혼란을 유발한다.
인공지능이 실제와 가까운 사진을 생성하면서 AI 프로필 사진도 주목받았다. 실제 사진을 넣으면 현실과 유사한 사진을 여러 장 만들어줘 많은 이들의 인기를 끈 것이다. 박미애(경북대학교 인공지능혁신융합대학사업단) 교수는 “AI 프로필은 저렴한 가격에 다양한 스타일이 반영된 높은 품질의 사진을 짧은 시간 내에 얻을 수 있기 때문에 이용자 사이에서 인기 있는 서비스로 자리잡았다”고 말했다.
그러나 AI 프로필은 누구나 이용할 수 있는 기술이라는 점에서 많은 문제점을 야기한다. 우선 AI 프로필을 이용하는 본인이 아니어도 연예인 등 타인의 사진을 무단으로 도용해 AI 프로필을 만들 수 있다는 점이 문제로 제기된다. 당사자의 동의 없이 AI 프로필을 제작한다면 얼굴이 불특정 다수에게 노출돼 초상권을 침해하기 때문이다. 박 교수는 “AI 프로필은 본인이 아니어도 특정인의 얼굴이 나온 사진을 갖고 있는 누구나 프로필 사진을 만들 수 있다는 점에서 논란이 된다”고 전했다. 임명호(단국대학교 심리치료학과) 교수는 “본인의 허락 없이 신원이 불특정 다수에게 노출되는 것은 범죄 유무와 별개로 심각한 윤리적 위반행위”라고 밝혔다.
연예인과 같은 타인의 얼굴을 무단으로 도용해 AI 프로필을 제작하는 것은 퍼블리시티권*을 침해하는 행위다. 특히 연예인의 사회적 지위와 인상은 다방면에서 중요한 자산이기 때문에 부적절하게 사용될 경우 심각한 명예훼손으로도 이어질 수 있다. 만약 연예인의 퍼블리시티권이 침해돼 광고나 홍보 등에서 수익 감소로 이어질 경우 그 손실은 더욱 커진다. 최근에는 일반인도 TV에 출연하거나 SNS 활동을 활발히 하는 만큼 퍼블리시티권은 일반인에게도 적용된다. 박 교수는 “퍼블리시티권의 무단 사용은 해당 인물이 자신의 명성으로부터 얻을 수 있는 잠재적 수익 감소로 인한 손해를 야기한다”고 지적했다.
AI 프로필은 이용자의 얼굴을 기반으로 만들어지기 때문에 ‘딥페이크’ 범죄에도 쉽게 노출될 수 있다. 딥페이크란 ‘Deep Learning’과 ‘Fake’의 합성어로, 인공지능 기술을 활용해 기존 인물의 얼굴 등을 사진에 합성한 가짜 이미지나 영상을 뜻한다. AI 프로필은 인공지능이 사진을 제작하는 기술이기 때문에 AI 프로필 또한 딥페이크에 해당되며, 타인의 사진을 무단 도용해 선정적인 AI 프로필을 제작하는 것 또한 딥페이크 범죄라고 볼 수 있다. 특히 최근에는 많은 사람이 SNS에 얼굴이 드러나는 사진을 게시하면서 일반인의 사진을 도용해 AI 프로필을 제작할 우려도 존재하기 때문에 더욱 위험하다. 이은희(인하대학교 소비자학과) 교수는 “본인의 동의 없이 타인을 AI 프로필로 제작해 유포하는 것은 바람직하지 않다”고 전했다.
연령 제한 없이 누구나 이용 가능한 AI 프로필은 미성년자가 이용했을 때 미성년자를 선정적으로 묘사해 성적 대상화할 위험도 존재한다. AI 프로필을 이용하면 선정적인 사진이 생성되거나 딥페이크 등의 범죄에 노출될 가능성이 존재하기 때문이다. 만약 미성년자의 얼굴이 들어간 선정적인 AI 프로필을 유포한다면 『아동·청소년의 성보호에 관한 법률』 제8조에 의해 5년 이상의 유기징역에 처할 수 있다. 박 교수는 “선정적인 미성년자 이미지 생성은 디지털 착취 및 학대의 한 형태가 될 수 있다”고 꼬집었다.
또한 미성년자가 딥페이크와 같은 범죄에 쉽게 접근할 수 있다면 부적절한 콘텐츠 제작의 주체가 미성년자가 될 가능성도 있다. 이는 곧 미성년자의 개인 정보 보호나 온라인 안전에 대한 이해가 왜곡되는 문제를 낳기도 한다. 박 교수는 “미성년자와 관련한 부적절한 콘텐츠를 생성하는 AI 프로필 문제는 인공지능 생성 미디어 영역 내에서 매우 중요한 윤리적 문제”라고 강조했다.
본인이 아닌 AI 프로필 유포를 막기 위해, AI 프로필을 만들 때 이용자 본인의 얼굴이 나온 사진만 이용할 수 있도록 해야 한다는 의견이 제기된다. 현재는 AI 프로필과 관련한 법령이 부재할 뿐 아니라 서비스 제공 업체에서도 관련 규정을 두고 있지 않다. 때문에 본인 얼굴이 나온 사진만 이용하도록 규제하고 이를 위반할 경우 처벌을 받게 한다면 초상권 침해 문제 등을 완화할 수 있다는 것이다. 박 교수는 “AI 프로필 사진을 제작할 때 이용자 본인의 얼굴만 사용할 수 있도록 법을 개정한다면 명확한 경계를 설정해 사진 남용을 막을 수 있다”고 전했다.
AI 프로필이 선정적인 사진을 생성하는 것을 제한하는 조치도 해결 방안으로 제기된다. 해당 조치가 시행된다면 AI 프로필을 이용하는 미성년자가 범죄 등에 노출될 위험 없이 서비스를 이용할 수 있다. 조원희(법무법인 디라이트) 변호사는 “유튜브에서 선정적인 동영상을 업로드하거나 검색하는 것을 막는 것처럼 AI 프로필 앱에서 선정적인 사진 생성을 막을 필요가 있다”고 밝혔다.
*퍼블리시티권 : 초상, 성명 등 그 사람의 정체성을 상업적으로 이용해 경제적 이익을 얻을 수 있는 권리
