Deadborn 아이디어: UN, 군사 인공 지능 금지 계획
첫 번째 경고
아시다시피 미래는 미리 결정되어 있지 않지만 많은 사람들이 미래에 영향을 미치려고 합니다. 제13차 회의는 재래식 무기에 관한 협약의 작업을 검토하기 위해 17월 1980일부터 XNUMX일까지 제네바에서 개최됩니다. 협약의 바로 그 제도가 XNUMX년에 시작되었으며 특정 종의 확산을 제한하기 위한 것임을 기억하십시오 оружия과도한 손상을 유발합니다. 의학적으로 탐지할 수 없는 파편과 탄약 조각, 부비트랩, 소이 무기, 눈을 멀게 하는 레이저, 집속 폭탄 및 비 자폭 탄약을 금지하는 총 XNUMX가지 프로토콜에 서명했습니다. 전 세계 대부분의 국가가 이 협약에 서명했으며 약간의 유보만 있습니다. 세계 정치에서 늘 그렇듯이 서명이 성취를 의미하지는 않습니다. 따라서 이 경우 서명과 비준을 모두 한 국가와 방금 서명한 국가가 있습니다. 후자의 경우 국가에 특별한 의무가 부과되지 않습니다. 또한 모든 프로토콜에 서명할 수 있는 것은 아니므로 어떤 경우에도 자유롭게 조작할 수 있습니다. 그건 그렇고, 러시아는 협약의 XNUMX가지 의정서를 모두 서명하고 비준했습니다.
가까운 장래에 군용 인공 지능도 이 금지된 재래식 무기 목록에 추가될 가능성이 있습니다. 그러나 유엔 변호사들의 논리에는 이상한 점이 많다. 협약은 무기가 과도한 고통을 주거나 단순히 무차별적으로 살해하는 경우 금지되어야 한다고 제안합니다. 인공 지능은 적어도 지금은 전쟁의 잔혹성을 줄이기 위해 정확하게 설계되었습니다. 실례가 되는 예는 Mossad가 로봇 플랫폼에 장착된 7,62mm FN MAG 기관총에서 제거한 이란의 핵 물리학자 Mohsen Fakhrizadeh의 살해입니다. 소식통에 따르면 차에는 많은 인공 지능이 있었습니다. 장비는 독립적으로 희생자를 추적하고 기관총을 가리켰습니다. 실시간으로 이것은 오퍼레이터 명령과 액추에이터 사이의 1,6초 지연으로 인해 불가능합니다. 그 결과 이스라엘로부터 "진행"을 받은 로봇은 실제로 자체적으로 Fakhrizadeh를 쐈습니다. 이 경우 인공 지능(AI)은 인도적인 것 이상으로 작동했습니다. 결국 이스라엘인은 미사일로 전체 지역을 부수고 목표와 함께 불필요한 많은 사람들을 파괴할 수 있었습니다.
UNPO 협약 수정안의 발의자들은 원격 제어 무기만 계속 사용하고 사람이나 다른 목표물을 파괴하기로 결정한 장비는 금지할 것을 제안합니다. 그러나 AI는 파괴뿐만 아니라 정찰에도 사용할 수 있습니다. 예를 들어, 이스라엘은 최근 팔레스타인과의 충돌 동안 쿼드콥터 떼를 사용하여 미사일 발사기의 수색 및 감시를 조직했습니다. 자율 모드의 드론은 넓은 지역을 샅샅이 뒤져 테러리스트를 찾고 공격기를 겨냥했습니다. AI는 일반 학교 마당에 있는 지하 하마스 미사일 발사대도 해독할 수 있었다. 30일 간의 전쟁 동안 총 XNUMX회 이상 정찰을 위해 드론 떼를 보냈습니다. 이스라엘 정보 기관은 이 사건을 세계 최초의 인공 지능 전쟁이라고 부르는 것을 자랑스럽게 생각합니다. 이 경우 우리는 탄약을 절약하고 더 중요하게는 비전투원의 생명을 구하는 포인트 효과에 대해 다시 이야기합니다. 이런 식으로 전투 AI 기능을 제한하는 것이 의미가 있습니까?
동시에 드론 떼에 포함된 기술 지능은 정찰 기술에서 충격 기술로 빠르게 전환될 수 있습니다. 미국인들은 정보로 통합된 800개의 무장 쿼드로콥터가 1000개의 독립적인 쿼드로콥터보다 훨씬 더 효율적으로 작동한다고 계산했습니다. 이야기 작년 2월에 리비아 전쟁 중 반군을 독립적으로 추적하고 파괴한 터키 무인 항공기 Kargu-XNUMX도 그러한 "스마트" 무기에 대한 조기 금지를 제안합니다. 사람이 사람을 죽이는 것은 이것이지만 쇠조각이 스스로 결정을 내리는 것은 엄연히 다릅니다. 공평하게, 이 이야기는 모두 명확하지 않습니다. 드론이 실제로 얼마나 자율적이었는지는 완전히 명확하지 않습니다. 이것은 또 다른 터키 광고일 가능성이 있습니다.
최근 이스라엘과 가자지구의 분쟁 기간 동안 무인기는 독립적으로 지하 미사일 격납고를 수색했습니다. 출처: timesofisrael.com
그리고 마지막으로, 군사 AI 반대자들의 주요 주장은 기술이 빠르게 저렴해지고 있으며 전 세계적으로 빠르게 확산되고 있다는 것입니다. 이러한 비대칭 위협은 이미 시리아, 우크라이나, 예멘에서 그리고 잠재적으로 테러리스트 세포가 알리익스프레스 서비스에 접근할 수 있는 모든 국가에서 현실이 되었습니다. 더 정확하게 말하면 테러리스트일 필요는 없습니다. 멕시코 마약 카르텔은 충격 드론에 탐닉합니다. 그러나 AI의 기초 같은 냄새도 나지 않습니다.
여섯 번째 프로토콜
세계 정치에서는 중요한 사건이 발생하기 전에 신중하게 기반을 마련하는 것이 관례입니다. 그래서 제네바 회의 직전에 드론 군대의 위험에 대한 여론의 정도를 높이기 위해 고안된 바이러스 성 비디오가 웹에 나타났습니다. Future Life Institute (하나 있음)의 저자는 상당히 높은 수준에서 미래를 모델링하는 비디오를 촬영했습니다. 그리고 그것은 암울합니다. 테러리스트 쿼드콥터는 대규모 협박 행위를 수행하고 하늘에서 평화로운 사람들을 공격하고 기관총에서 쏜다. 프레임 중 하나에 로봇-최근 도입된 미국의 저격용 60족 저격용 드론 '비전 5'과 놀라울 정도로 유사한 개들이 행정동을 향해 발포하고 있다. 준비되지 않은 시청자는 일반적으로 화면에서 일어나는 일을 액면 그대로 받아 들일 수 있으며 준비된 시청자는 적어도 비디오 아이디어에 흠뻑 젖을 것입니다. 해당 영상은 이미 XNUMX만 회 이상의 조회수를 기록했으며, 이는 제네바의 의사 결정 센터에 어느 정도 영향을 미칠 수 있습니다.
그러나 여섯 번째 프로토콜이 재래식 무기 및 군사 AI에 관한 협약에 포함될 것이라고 상상한다면? 우선, 관련 기술을 적극적으로 개발하고 있는 미국과 중국의 국가는 서명하지 않을 것입니다. 그런데 러시아도 계획된 제한에 만족하지 않습니다. 주요 선수들이 서명하지 않으면 나머지 선수들은 합류할 이유가 없습니다. 손바닥을 상대방, 심지어 잠재적 인 사람에게 전달하여 자발적으로 자신을 제한하고 싶은 사람은 누구입니까? 제XNUMX세계 국가들이 새 의정서에 서명하고 자랑스러워하지 않는 한. 지금은 AI가 없었고 앞으로도 없을 것입니다. 또한 AI 소유자의 전망은 끝이 없을 것이며 이는 금지 절차에 중요한 장애물이 될 것입니다. 인간의 개입 없이 번거로움과 걱정 없이 적을 선택적으로 파괴하는 능력은 이미 금지된 눈부신 레이저와 소이 무기보다 훨씬 더 가치가 있습니다. 동시에 전문가들은 그러한 AI 시스템이 통제되지 않은 공격의 위험이 낮다고 말합니다. 기계 두뇌는 그것을 파괴하기 위해 나설 동기가 없습니다. 아무도 자율주행차에 반대하지 않죠? 그리고 그들은 이미 군사 AI보다 더 많은 사람들을 죽였습니다. 테러리스트들이 군용 드론을 요격할 위험이 있다면, 미래에 평화로운 XNUMX륜 드론의 통제를 요격하는 것에 대해 아무도 당황하지 않는 이유는 무엇입니까? 일부 "Tesla"의 자동 조종 장치는 "미쳐버릴" 수 있고 군중 속으로 날아가 사고를 일으키고 리튬 이온 배터리에서 화재를 일으킬 수 있습니다. 일반적으로 평화로운 삶에서 잠재적으로 AI의 영향을 받는 경우 군사 경로보다 더 적은 문제가 없습니다.
그리고 마지막으로 자율 킬러를 금지하는 데 있어 가장 중요한 것은 누가 추적하고 통제할 것인가? 매우 광범위한 권한을 가진 별도의 조직이 필요합니다. 자율 드론과 원격 제어 드론을 구별하는 것은 기술적으로 어려운 일이며 잠재적인 여섯 번째 프로토콜을 위반하는 사람들이 분명히 악용할 것입니다. 인공 지능을 재래식 무기에 통합하려는 시도는 이제 사산한 아이디어처럼 보입니다.
정보