오바마 대통령은 진짜일까? 가짜일까?

                          버락 오바마 전 미국 대통령의 가짜 영상 <출처: 워싱턴대학교>

 지난 2017년 8월 미국 워싱턴대학교 연구진은 버락 오바마 전 미국 대통령의 가짜 영상을 만들어 화제가 됐다.

오바마 전 대통령의 연설 영상에서 음성을 따서 이 음성에 맞게 입 모양을 내도록 학습시켜 합성해 실제로는 존재하지 않는 영상을 만들어냈다.

 GAN은 음성 합성에서도 성과를 내고 있다. IBM 등은 특정 인물의 목소리, 말투, 화법 등을 학습시켜 실제 사람의 음성을 만들어내는 연구를 하고 있다.

‘딥페이크’ 등 악용 사례에 대한 우려도

GAN은 진짜 같은 가짜를 생성해준다는 점에서 높은 활용성이 기대되지만 악용 가능성에 대한 우려도 만만치 않다. 실제와 구별되지 않는 거짓이 현실을 압도할 수 있기 때문이다. 현재도 GAN을 활용한 ‘딥페이크’ 포르노 영상들이 유통되면서 부작용을 낳고 있다. 유명 연예인들의 얼굴을 포르노 영상에 합성한 영상들이 GAN을 바탕으로 정교해지면서 디지털 성범죄가 무분별하게 벌어지고 있다. 과거에도 이미지, 영상 합성 등으로 인한 문제가 없었던 건 아니지만 가짜 콘텐츠를 쉽고 빠르게 대량으로 찍어낼 수 있다는 점에서 이전과 다른 파괴적 영향력을 가질 수 있다.

이는 가짜 뉴스 문제와 궤를 같이한다. 가짜 뉴스 역시 인간 역사와 함께해 온 문제지만, 기술의 발전에 따라 가짜 뉴스의 생산 속도와 양이 기하급수적으로 늘면서 이전과 다른 사회적 파급력을 갖게 됐다. 텍스트보다 신뢰성 있는 이미지, 음성, 영상들이 실제와 가깝게 만들어져 조작될 경우 가짜 뉴스 문제는 더욱 심각해진다. IT 자문기관 가트너는 ‘2018년 이후 주목할 10대 디지털 기술 전망’을 발표하면서 2020년이 되면 사람들이 실제 정보보다 AI가 만든 허위 정보를 더 많이 접하게 될 것이라고 전망했다

최근 기술의 윤리성에 초점이 맞춰지는 이유도 여기에 있다. AI 기술의 부작용에 대한 우려가 늘면서 글로벌 IT기업들은 AI 윤리 규범을 내놓고 있다. 마이크로소프트는 2017년 자사의 AI 연구 인력을 위한 ‘AI 디자인 원칙’과 ‘AI 윤리 디자인 가이드’를 소개했다. AI가 효율성을 극대화하되 인류를 위협하지 않고 인류 발전에 기여해야 하며 투명성을 갖추고 기술이 신뢰에 기반해야 한다는 내용을 담고 있다. 같은 해 1월 미국 캘리포니아주 아실로마에 테슬라 최고경영자 일론 머스크, 알파고를 개발한 데미스 허사비스 등이 모여서 ‘아실로마 AI 원칙’을 발표했다. 국내 기업 중에는 카카오가 ‘알고리즘 윤리 헌장’을 2018년 1월 발표했다.

<출처 : 네이버케스트 GAN(생성적 적대 신경망) 정리=이기범 기자(spirittiger@bloter.net) >