유명인을 사칭한 "가짜 SNS 계정 문제"/ 인공지능, 딥페이크

연합뉴스 기사인데, 요즘 이런 이야기가 많네요.

박항서·그리스 장관· 버핏도 당했다…전세계 '가짜SNS' 주의보

페이스북, 인스타그램, 트위터 등은 요즘은 아예,
우리가 컴퓨터 바이러스 정기검사하듯이,
상시 신고를 받고 정기적으로 전 계정을 스캔해,
남을 사칭하는 가짜 계정을 차단하는 모양입니다.

저런 서비스는 애초에 실명확인 가입을 받지 않는 체계기 때문에,

(물론, 외국 서비스는 일단 가입하고 나면 집요하게, 별 것 아닌 듯 수시로 요구하는 클릭질을 통해 실명과 실제 삶을 프로파일링해버립니다. 가입 단계에서 본인인증요구하고는 회원입력정보에 필수항목을 넣으면 대개 그것으로 일단락되는 우리 나라 서비스들과는 다릅니다.

외국의 서비스들, 그리고 이젠 국내 SNS도 따라하고 있지만, 외국 SNS들은 훨씬 지능적이면서, 그 내용이 유출되면 더 치명적일 수 있습니다. 예를 들어 페이스북이 가끔 요구하는 정보를 다 입력해주면 당신은, 출생지, 과거에 살았던 곳 목록, 가족구성, 결혼/동거형태, 애인여부와 연애희망여부, 가족의 페이스북 계정, 당신을 모델링하기 충분한 본인사진과 음성, 가족 사진, 주거지 사진, 생활패턴, 출퇴근 경로, 직장명, 직장위치, 고용형태, 연봉, 근로시간, 세금관계 기초자료, 직업, 생활수준, 초등학교 이래 학력, 소비패턴 등을 전부 입력하게 됩니다. 다 합치면 웬만한 신용평가회사가 가지고 있을 정보보다 자세하고, 우리 나라에서 주거래은행 웹사이트에 넣어주는 정보보다 더 자세합니다. 

그 정보집합 위에 당신이 매일같이 페이스북에 적는 일상사와 당신의 생각이 더해집니다. 제삼자는 당신이 공개한 정보와, 페이스북이 유출한 정보, 페이스북과 연계한 마케팅 회사가 판매하거나 유출한 정보를 정보를 바탕으로 당신을 프로파일링해 당신의 아바타를 당신이 모르는 곳에서 재구성할 수 있습니다.

그리고 그 다음 단계로 출현할 수 있는 것이 바로 "딥 페이크(deep fake)"영상입니다. 버락 오바나와 도널드 트럼프 예제만 가능한 것은 아닙니다. 간단한 것은 유튜브 방송용으로 팔리기도 하지만, 아예, 범죄목적이 아님을 서명받고 만들어주는 상업서비스 회사도 있습니다)


일반인 개인에 대해서는 신고를 받아 처리하고
나머지는 신고+뉴스 스캔+인공지능 스캔으로 처리하는 방식이 될 듯.
계정이 억단위가 되면 애초에 사람이 할 수도 없고,
우리 나라만 해도 계정이 백만에서 천만단위니까 인공지능을 이런 데 써야죠.