직소의 '어셈블러', 허위조작 이미지와 전쟁을 시작하다

"기술을 활용해 세상을 더 안전하게 만든다"

직소는 그런 조직입니다. 며칠 전에 소개된 Assembler도 같은 이유와 목표로 개발이 됐습니다.

Assembler는 한마디로 설명하면 허위조작 이미지(영상 포함)을 탐지하는 툴입니다. 현재 완전하게 오픈되지는 않았습니다. 그것의 기능과 취지, 작동 방식 등만 공개해둔 상태입니다. 이제 첫발을 떼긴 했지만 어셈블러가 가져올 허위조작 이미지 탐지의 수월함은 기대를 낳게 만들고 있습니다.

우선 작동 방식부터 설명을 드리겠습니다. 아래 그림을 보시기 바랍니다.

이름에서도 유추할 수 있다시피, 어셈블러는 여러 탐지기(detector)들의 조합/결합으로 만들어졌습니다. 하지만 각각의 탐지기들이 따로 노는 것이 아니라 유기적으로 얽혀 최고의 퍼포먼스를 내도록 설계가 됐습니다. 일단 각각의 탐지기들은 인터넷상에 떠도는 허위조작 이미지의 특정 유형들의 패턴을 파악해 탐지하는 역할을 맡습니다. StyleGAN은 딥페이크를 도맡습니다.

GAN은 우리말로 적대적 생성망이라고 부르죠. 생성기(generator)와 분류기(discriminator)를 경쟁시키는 인공신경망입니다. 생성기는 소위 가짜 이미지를 끊임없이 생성해내고 분류기는 그 속에서 진짜 이미지를 분별하는 역할을 합니다. 둘이 경쟁하면서 예측 정확성을 높여가는 구조입니다.(적어도 제가 이해하기로는) StyleGAN은 생성기 파트의 한계를 획기적으로 높여놨다는 평가를 받고 있습니다. 그 유명한 엔비디아에서 발표된 논문을 통해 2018년 소개됐습니다.

하여튼, 이렇게 탐지된 각각의 허위조작 이미지들은 앙상블 탐지기의 학습 대상으로 전환됩니다. 그 이미지 자체가 학습 대상이 되는 것이 아니라 개별 유형 이미지들의 패턴들이 학습 대상이 되는 구조로 보입니다. 앙상블 탐지기는 여러 유형의 탐지기에서 확인된 시그널들을 학습해서, 여러 유형들이 뒤섞인 복합적인 조작 이미지들을 탐지하는데 활용이 될 수 있습니다.

허위조작 이미지 기술적 만병통치약은 없다

아시다시피 조작된 이미지들은 대체적으로 복사가 됐거나, 특정 영역만 크롭이 됐거나, 명채도 조정 등으로 변형됐거나 하는 형태를 띱니다. 워싱턴포스트의 분류에 따르면 'MALICIOUS TRANSFORMATION' 이미지는 크게 변조(Doctoring), 위조(Fabrication)로 나뉘는데요. 전자가 포토샵이나 영상 편집기를 통해 제작된다면 후자는 AI 기술을 이용해서 딥페이크 형태로 만들어집니다. 이러한 다양한 유형들을 기계적으로 탐지해 문제의 영상 혹은 이미지를 찾아내는 방식입니다.

아시다피시 허위조작정보를 막거나 감지할 수 있는 만병통치약은 없습니다. 이 기술은 세상의 모든 허위조작 이미지를 걸러낼 수 있을 것이라는 기대는 내려놓는 게 좋을 겁니다. 다만, 거침없이 확산되고 있는 허위조작 이미지를 빠른 시간안에 감지해 대처 방안을 내놓도록 기자들을 돕는 역할을 하게 되지 않을까 싶습니다.

개인적으로 기술이 이 문제를 근본적으로 해결해줄 것이라고 생각하지 않습니다. 그것보단 팩트체커들을 증강시키는 동력을 기술이 제공해줄 것이라고 기대는 합니다. 더 나은 기술과 결합된 팩트체커의 힘은 이전과는 전혀 다른 모습을 띠게 될 수도 있다고 생각합니다. 어셈블러는 그런 노력의 일환이 아닌가 싶습니다. 얼른 사용할 수 있는 날이 오길 바랄 뿐