전쟁을 시작한 이유 인 딥 페이크 기술
딥 페이크가 있는 새로운 세상
인터넷은 이제 거의 모든 다리미에서 사용할 수 있으며 지도에서 4G 네트워크를 사용할 수 없는 지점을 찾기가 점점 더 어려워지고 있습니다. 광대역 인터넷은 점차 대체되고 있는 일반 플랫폼의 주로 HD 품질 비디오입니다. 뉴스 테이프, 분석 및 재미있는 독서. 또한 수십억 명의 사람들에게 영향을 미치는 도구이므로 현재 올바른 여론을 만들 수 있습니다. 이러한 인구 게임의 절정에는 Gal Gadot, Scarlett Johansson, Taylor Swift, Emma Watson 및 Katy Perry와 같은 유명인을 포르노 스타로 전환하는 능력이 이미 입증된 딥 페이크 기술이 있을 수 있습니다. Deepfake는 비디오에서 사람의 행동과 외모를 시뮬레이션할 수 있는 알고리즘입니다. 이 기술은 딥 러닝("딥 러닝")과 가짜("가짜")의 조합에서 이름을 얻었습니다. 딥 페이크는 생성 경쟁 원칙(Generative Adversarial Network, GAN)에서 작동하는 악명 높은 신경망을 기반으로 합니다. 프로그램 기반에 내장된 알고리즘은 두 가지 프로세스에서 서로 지속적으로 경쟁합니다. 제시된 사진에서 학습하여 사본을 실제 얼굴로 대체하고 기계 자체가 원본과 사본을 혼동하기 시작할 때까지 부적합한 옵션을 제거합니다. 이 복잡한 계획은 원본의 얼굴이 다른 이미지로 대체되는 가짜 사진 및 비디오 콘텐츠를 만드는 딥 페이크 작업의 주요 목표입니다. 예를 들어, 카리스마 넘치는 미국 대통령 도널드 트럼프는 XNUMX세기의 어떤 추악한 지도자의 자리를 대신하여 연단에서 대중에게 노골적인 이단을 행할 수 있습니다. 이제 생성된 딥 페이크 비디오 중 하나에서 버락 오바마 전 대통령은 도널드 트럼프에 대한 외설적인 말을 허용했습니다.
물론 처음에는 딥 페이크 광고가 입소문이 났습니다. 할리우드 여배우의 얼굴이 포르노 비디오의 일반 플롯에 이식되어 모든 후속 결과가 나타났습니다. 또는 예를 들어 배우 Nicolas Cage가 갑자기 우리 시대의 가장 상징적인 영화 에피소드의 주인공이 됩니다. 이러한 창작물 중 일부는 비디오에 표시되며 솔직히 대부분은 약간 서투른 것처럼 보입니다.
하지만 배우 윌 스미스로 지미 팰런 투나잇 쇼에 출연한 힙합 아티스트 카디 비는 꽤 설득력 있어 보인다.
그리고 여기에 원본이 있습니다.
Ctrl Shift Face 채널의 공예가 좋아 보입니다. 예를 들어 Sylvester Stallone은 The Terminator에서 주연을 맡았습니다.
이미 IT 분석가들은 "가짜" 기술이 수십 년 안에 가장 위험한 디지털 기술이 될 수 있다고 말하고 있습니다. 이 기술 외에도(및 이를 기반으로) Princeton 대학, Max Planck 및 Stanford 대학의 전문가들이 Neural Rendering 애플리케이션을 구축했습니다. 그는 어떤 언어로든 텍스트를 발음하기 위해 자신의 목소리로 사람의 이미지를 "강제"하는 훨씬 더 위험한 작업을 가지고 있습니다. 이를 위해서는 소리가 있는 40분 분량의 비디오만 필요하며, 그 동안 신경망은 사람의 목소리와 얼굴 표정으로 작업하는 방법을 학습하여 새로운 언어 표현으로 변환합니다. 물론 처음에는 아이디어가 좋은 위치에 있습니다. Neural Rendering의 주요 소비자는 배우 촬영 시간을 줄이려는 영화 스튜디오가 될 것입니다. 그러나 가까운 장래에 거의 모든 사용자가 랩톱에서 비디오 가짜를 생성하여 머리카락이 끝에 서게 될 수 있다는 것이 즉시 모든 사람에게 분명해졌습니다. "가짜" 프로그램의 두 번째 분기는 DeepNude 응용 프로그램으로, 어떤 여성의 사진에서도 매우 사실적으로 알몸으로 "스트리핑"할 수 있습니다. 서비스 초기에는 삭제 요청이 너무 많아 소송을 두려워하는 개발자가 종료를 발표했습니다. 그러나 해커가 리소스를 해킹했고 이제 모든 사람이 DeepNude를 사용할 수 있습니다. 물론 그들은 서비스에 대한 액세스를 제한하려고 노력하고 있지만 이것이 일시적인 조치일 뿐이라는 것을 모두가 이해합니다.
딥 페이크는 사기꾼에게 유용한 도구임이 밝혀졌습니다. 영국 에너지 회사는 독일 관리자의 "복제"가 재무 부서에 연락했을 때 220유로를 강탈당했습니다. 그는 모의 음성으로 헝가리에 있는 계좌로 급히 돈을 송금해 달라고 요청했고, 사업 파트너들은 가입자를 믿지 않을 이유가 없었다. 물론 이제 비디오 시퀀스를 대량으로 고품질로 위조하는 것은 문제가 있습니다. 상태 규제 기관은 fakeapp 및 facefake의 리소스를 지속적으로 차단하며 컴퓨터의 힘으로 아직 비디오를 빠르게 합성할 수 없습니다. 우리는 이 작업을 원격 유료 서버에 위임해야 하며, 작업하려면 원래 성격과 "피해자"의 수천 장의 사진이 필요합니다.
카수스 벨리
딥 페이크 기술은 미래에 배우를 직업에서 제외시킬 수 있습니다. 전체 산업은 "만화" 영화 캐릭터로 전환할 수 있으며, 그 중 많은 사람들이 기술이 죽음에서 부활할 것입니다. 그러나 이것은 오히려 미래의 꿈입니다. 수많은 노동 조합과 기본적인 컴퓨팅 능력 부족으로 인해 몇 년 앞당겨질 가능성이 있습니다. 이미 영화 "Rogue One: A Star Wars"에서 한 에피소드의 감독이 1994년에 사망한 배우 Peter Cushing을 "부활"시켰습니다. 유명한 제임스 딘이 새로운 베트남 전쟁 영화에 등장할 것이라는 소문이 있습니다. 신경망은 아놀드 슈워제네거와 조니 뎁과 같이 이미 나이가 든 배우가 프레임에서 10-20년 더 젊어 보이도록 도와줍니다. 평균적으로 현재 전 세계는 매달 최소 15~20개의 딥페이크 비디오를 생성하며, 대부분은 인터넷에 나타납니다. 러시아 프로그래머들은 글로벌 트렌드를 따라잡기 위해 노력하고 있습니다. 2020년 XNUMX월 Vera Voice는 Vladimir Vysotsky의 작업 팬에게 Taganka 극장에서 가수의 디지털 사본과 채팅할 수 있는 기회를 제공할 예정입니다.
모든 것은 비디오 및 사진 증거가 더 이상 법정 소송에서 효과적인 주장이 될 수 없으며 글로벌 비디오 감시 시스템이 돈 낭비로 판명된다는 사실에 달려 있습니다. 아무도 CCTV 카메라의 영상을 믿지 않을 것입니다. 이것이 합성 더미가 아니라는 보장은 어디에 있습니까? 정치적 선전에서 딥페이크는 이미 유권자의 의견에 강력한 영향력을 행사하고 있습니다. 2019년 60월 캘리포니아는 선거 전 730일 이내에 정치 후보 동영상 게시를 금지한 최초의 주가 되었습니다. 이 법 AB 2020을 위반하면 형사 책임을 져야 합니다. 이제 더 많은 주가 이 이니셔티브에 참여했으며 XNUMX년 XNUMX월 중국에서는 특수 표시 없이 합성된 딥 페이크 사진과 비디오를 게시하는 것이 금지됩니다. 그건 그렇고, 이제 눈으로 가짜를 결정하는 가장 효과적인 방법 중 하나는 합성 문자에서 자연스러운 깜박임이 부족하다는 것입니다.
이제 딥 페이크 기술의 개발(그리고 수요가 있는 한 개발을 멈출 수 없음)이 진실과 거짓에 대한 생각을 어떻게 바꿀지 상상해 보십시오. 특히 정부 기관이 참신함을 채택할 때. 다른 간첩 노출에 대한 합성 비디오는 능숙하게 사용된다면 적어도 다른 제재를 가하거나 외교 공관을 폐쇄하는 구실이 될 수 있습니다. 그리고 주권 국가에 대한 대규모 미사일 공격을 승인하기 위해 민간인에게 화학 공격을 가할 필요는 없을 것입니다. 대량 학살 행위, 적용 결과 оружия 국가 최초의 대량 살상, 도전적이고 모욕적 인 행동-적절한 상황에있는이 모든 딥 페이크 꽃다발은 유권자의 눈에 또 다른 군사 모험의 시작을 정당화 할 수 있습니다. 그리고 총성이 울리기 시작하고 로켓이 날아오를 때, 아무도 전쟁이 시작된 폭로 영상이 무엇인지 기억하지 못할 것입니다.
이제 이 재난을 어떻게 해야 할지 명확한 답이 없습니다. 딥 페이크 노출에 초점을 맞춘 최고의 알고리즘은 97%의 확률만 보장할 수 있습니다. 현재 모든 진보적인 프로그래머는 2019년 10월 Facebook에서 발표한 Deepfake Detection Challenge에 참가할 수 있습니다. 천만 달러의 상금 풀은 100% 보장된 가짜 동영상을 인식할 수 있는 알고리즘을 개발할 수 있는 사람에게 돌아갑니다. 지하 딥 페이크 개발자의 반응이 얼마나 빨리 따를지는 누구나 추측할 수 있습니다.
- 예브게니 페도 로프
- youtube.com, 프로필.ru
정보