[매일안전신문] ‘딥페이크’ 기술을 활용한 이른바 ‘알페스’와 ‘섹테’ 등 합성영상이 큰 사회문제로 떠오른 가운데 딥페이크 영상을 검증할 수 있는 딥러닝 모델이 나왔다. 딥페이크 영상이 진짜인지, 가짜인지를 약 90% 수준에서 판단해 낼 수 있다.
30일 인공지능(AI) 전문기업 머니브레인에 따르면 딥페이크 영상을 검증할 수 있는 딥러닝 모델 ‘Detectdeepfake.ai(AI 영상조작 검출기술)’를 출시했다.
딥페이크(Deepfake)는 인공지능을 활용해 특정인의 얼굴과 목소리, 행동까지 그대로 재현하는 기술이다. 지난해 미국 대선을 앞두고 글로벌 소셜미디어 기업이 잇따라 딥페이크 기술을 악용한 허위 정보가 사실인 것처럼 가장한 사건이 발생해 큰 논란이 됐다.
최근 우리 사회에서는 유명 K팝 남성 아이돌을 동성연애 인물 등으로 성적으로 대상화한 창작물 ‘알페스(RPS·Real Person Slash)’와 불법으로 음성까지 합성한 ‘섹테(Sextape)’ 등 딥페이크 기술을 활용한 합성동영상이 문제가 되고 있다.
이런 동영상의 위·변조 여부를 직접 확인하기 어렵다 보니 사실로 여겨지면서 심각한 인격 침해와 명예훼손으로 이어지고 있다.
머니브레인은 서울대인공지능연구실(DSAIL)과 함께 딥페이크 기술 발전을 위한 ‘AI 딥페이크 탐지 AI 경진대회’ 개최를 비롯해 과학기술정보통신부의 ‘딥페이크 변조영상 AI데이터’ 분야 수행 기업으로서 딥페이크 검증을 위한 데이터 확보와 기술 개발에 노려해 왔다.
이 회사 딥러닝 연구팀은 딥페이크 검증 신뢰도를 높이기 위해 독일 뮌헨공대와 이탈리아 나폴리 페데리코 2세 대학 연구진이 개발한 ‘페이스포렌식++(FaceForensics)’ 데이터와 아마존, 페이스북, 마이크로소프트 등이 모여 만든 ‘DeepFake detection challenge(DFDC)’ 데이터, 자체 수집한 ‘KoDF(Korean deepFake detection dataset)’ 등 광범위한 데이터를 딥러닝 AI에 분석·학습을 시켜 해당 데이터에 포함된 딥페이크 영상의 검증률을 99%까지 끌어올렸다.
학습한 AI가 한 번도 보지 못한 새로운 딥페이크 영상 검증을 진행하도록 한 결과 진위 판단에서 약 90%의 검증률을 보였다. 해외에서 인정받는 검증 모델보다 월등히 높은 수준이라고 회사측은 전했다.
이번에 출시된 ‘Detectdeepfake.ai’는 홈페이지(https://www.detectdeepfake.ai)를 통해 무료로 이용가능하다.
머니브레인 장세영 대표는 “Detectdeepfake.ai 출시로 딥페이크 영상으로 인한 피해를 최소화하고 딥페이크 기술이 긍정적인 방향으로 발전할 수 있는 계기가 되길 바란다”면서 “딥페이크로 인한 사회적 우려가 해소돼 다방면의 산업에 딥페이크 콘텐츠가 긍정적으로 적용되기를 희망한다”고 말했다. /신윤희 기자
[ⓒ 매일안전신문. 무단전재-재배포 금지]
