과학자들은 인공 지능의 위협에 겁을 먹는다.
Amnon Eden 박사가 인공 지능의 잠재적 인 파괴적 영향을 분석하는 것을 주요 목표로하는 프로젝트 매니저임을 알리는 것이 중요합니다. 인공 지능을 만들어내는 결과에 대한 적절한 이해가 없다면, 그 개발은 재앙의 위험에 놓일 수 있다고 과학자는 믿는다. 현재 우리 사회는 인공 지능의 잠재적 영향 분석에 관한 과학계에서 진행되고있는 분쟁에 대해 제대로 알지 못합니다. "향후 2016에서 가능한 위험에 대한 분석은 기업과 정부, 정치인 및 의사 결정을 담당하는 사람들의 사고에 훨씬 더 광범위하게 영향을 미치게 될 것입니다.
과학자는 인류의 멸망을 묘사하는 공상 과학 소설이 로봇, AI를 만드는 과정이 통제 불능 상태가 되면서 곧 우리의 일반적인 문제가 될 수 있습니다. 예를 들어, Elon Musk는 기업가 Sam Altman의 지원을 받아 인간의 마음을 초월하도록 설계된 오픈 소스 AI 개발에 전념하는 새로운 1억 달러 규모의 비영리 단체를 만들기로 결정했습니다. 동시에 미국의 억만장자 엘론 머스크는 인공 지능을 "우리 존재에 대한 가장 큰 위협"으로 꼽았습니다. 애플을 공동 창업한 스티브 워즈니악은 지난해 XNUMX월 "미래는 사람들에게 벅차고 매우 위험해 보인다. 기업이 보다 효율적으로 운영될 수 있도록 말이죠.”
많은 과학자들이 인공 지능으로부터 위협을 받았다는 것을 알아야합니다. 어떤면에서 인공 지능의 발달과 관련이있는 유명한 과학자, 투자가 및 기업가 수십명은 인공 지능 분야의 보안 및 공공 유틸리티 문제에 더 많은 관심을 기울일 것을 호소하는 공개 서한에 서명했습니다. 이 문서에 서명 한 사람들 중에는 천체 물리학 자 스티븐 호킹 (Stephen Hawking)과 테슬라 (Tesla)와 스페이스 엑스 일 론 머스크 (SpaceX Ilon Musk)의 창립자가 있습니다. 공개 단체 인 Future of Life Institute (FLI)가 작성한이 문서는 인공 지능이 노동 시장에 미치는 영향에 대한 우려가 커지고 있으며 심지어 로봇과 기계의 기능이 필요할 때 모든 인류의 생존에 대한 장기 전망에 대한 우려가 커지고있는 환경에서 작성되었습니다. 거의 아무런 제약없이 성장한다.
과학자들은 오늘날 AI의 잠재력이 매우 높다는 사실을 이해하고 있기 때문에 동행하는 함정을 피하기 위해 최적의 사용 가능성을 충분히 탐구해야한다고 편지 FLI 노트. 사람이 만든 인공 지능 시스템이 우리가 원하는 것을 정확하게 수행 할 필요가 있습니다. Future of Life Institute는 "인류가 직면하는 위험을 최소화하고"미래의 낙관적 인 비전 "으로 연구를 자극하기 위해 Skype의 창시자 인 Jaan Tallinn이 자신의 분야에서 많은 애호가들에 의해 작년에 설립 된 것에 주목할 가치가 있습니다. 우선, 우리는 인공 지능과 로봇의 개발로 인한 위험에 대해 이야기하고 있습니다. FLI의 자문위원회에는 Musk and Hawking과 유명한 배우 Morgan Freeman 및 기타 유명한 사람들이 포함됩니다. 일로 나 마스크 (Ilona Mask)에 따르면, 인공 지능의 제어가 불가능한 개발은 핵보다 잠재적으로 더 위험합니다 оружие.
2015이 끝날 무렵, 영국의 천체 물리학 자 스티븐 호킹 (Stephen Hawking)은 인공 지능 기술에 대한 자신의 반대를 설명하려했습니다. 그의 의견으로는, 승압기는 궁극적으로 사람들이 직면하는 작업을 방해하는 소모품이나 개미로 보게됩니다. 스티븐 호킹 박사는 레드 닷 포털 사용자들과의 의사 소통을 통해 지적 능력이 뛰어난이 기계가 지적인 우월성으로 인해 모든 인류를 파괴하려는 "사악한 생물"이 될 것이라고는 생각하지 않는다고 지적했다. 대부분의 경우, 그들은 단순히 인류에 주목하지 않을 것이라는 사실에 관해 이야기하는 것이 가능할 것입니다.
"최근 언론은 끊임없이 내 말을 왜곡했다. 인공 지능의 개발에 놓여있는 주요 위험은 기계의 악의가 아니라 그들의 능력입니다. 수퍼 인텔리전트 인공 지능은 업무와 관련하여 탁월한 업무를 수행 할 것입니다.하지만 목표와 목표가 일치하지 않는다면 인류는 매우 심각한 문제가 발생할 것입니다 "라고 유명한 과학자는 설명합니다. 예를 들어 Hawking은 수퍼 펑크 AI가 새로운 수력 발전 댐의 운영 또는 건설을 책임지고있는 가상의 상황을 인용했습니다. 그러한 기계의 경우 위탁 시스템이 얼마나 많은 에너지를 생산할 것인가가 중요 할 것이고 사람들의 운명은 중요하지 않을 것이다. "우리 가운데 적개자를 짓밟고 화를 내며 개미를 쫓는 사람은 거의 없지만 상황을 상상해 봅시다 - 전기를 생산하는 강력한 수력 발전소를 통제하십시오. 수위를 올릴 필요가 있고 행동으로 인해 한 마리의 암수가 홍수에 빠지면 익사하는 곤충의 문제로 인해 귀찮게하지 않을 것입니다. 개미 자리에 사람들을 두자 "고 과학자는 말했다.
Hawking에 따르면, 인공 지능의 추가 발전의 두 번째 잠재적 인 문제는 지능형 기계의 생산을 독점 할 수있는 부유층과 세계 인구의 소득 격차가 급속히 커지는 "기계 소유주의 폭압"이 될 수 있다는 것이다. Stephen Hawking은 다음과 같은 방법으로 이러한 가능한 문제를 해결할 것을 제안합니다. 인공 지능을 개발하는 과정을 느리게하고 "보편적 인"것이 아니라 매우 제한된 수의 작업 만 해결할 수있는 고도로 전문화 된 인공 지능으로 전환하는 것입니다.
Hawking and Mask 외에도 Frank Ulczek, 노벨상 수상자, MIT 물리학 교수, Luke Mulhauser, MIRI (Machine Intelligence Institute) 전무 이사, Google, Microsoft, IBM 및 IT 분야의 많은 전문가와 기업가 Vicarious m DeepMind 사에 의해 설립되어 인공 지능 시스템의 개발을 전문으로합니다. 이 편지의 편집자들은 대중을 두려워하지 않고 인공 지능의 창조와 관련된 긍정적 측면과 부정적인 측면을 강조 할 계획이라고 언급했다. 편지에서 "현재 AI 분야의 연구가 자신감을 가지고 진행되고 있으며 현대 인간 사회에 AI가 미치는 영향은 증가 할 것이라는 데 모두 동의한다"고 편지는 말하고있다. 인간에게 개방 될 가능성은 엄청나 다. 현대 문명이 제공해야하는 모든 것은 지성 사람 우리는 인간 지능이 인공 지능과 번식 될 수 있다면 무엇을 달성 할 수 있는지 예측할 수는 없지만 빈곤과 질병을 없애는 문제는 더 이상 무한히 어렵지 않습니다. "
이미지 인식 및 음성 인식 시스템, 무인 차량 등을 포함한 인공 지능 분야의 수많은 개발이 현대 생활에 이미 포함되어 있습니다. 실리콘 밸리의 관측통에 따르면 150 신생 업체는 현재이 분야에서 구현되고 있습니다. 동시에이 분야의 개발로 인해 투자 투자가 증가하고 있으며 Google과 같은 회사가 AI를 기반으로 한 프로젝트를 개발하고 있습니다. 따라서이 편지의 저자들은 인간 생활의 경제적, 사회적 및 법적 측면에 대한 관찰 된 붐의 모든 가능한 결과에 관심을 기울일 때가되었다고 생각합니다.
닉 보 스톰 (Nick Bostrom)은 옥스포드 대학 (University of Oxford)의 교수로, 인류의 원리에 관한 연구로 유명합니다. 이 전문가는 인공 지능이 그 시점에 이르렀으며 그 다음 사람과의 양립이 불가능하다고 믿습니다. 닉 보 스트롬 (Nick Bostrom)은 유전자 공학 및 기후 변화와 달리 정부가 충분한 양을 할당하는 것을 통제하기 위해 "AI의 진화를 통제하는 데는 아무 것도하지 않는다"고 강조했다. 교수에 따르면 인공 지능과 관련해서는 현재 법적인 공백을 채우는 정책이있다. 무해한 것으로 보이는 무인 차량과 같은 기술조차도 많은 문제를 제기합니다. 예를 들어, 유사한 자동차가 승객을 구하기 위해 비상 제동을하고 무인 차량으로 사고를 당했을 때 누가 책임 져야합니까?
Nick Bostrom은 잠재적 인 위험에 대해 "컴퓨터가 인간에 대한 이익과 손해를 판단 할 수 없으며"인간 도덕에 대해 조금이라도 생각조차하지 못했다고 지적했다. 또한 컴퓨터의 자체 개선 사이클은 사람이 따라갈 수없는 속도로 진행될 수 있으며이 작업으로 거의 수행 할 수 없다고 과학자는 말합니다. 니크 보스토롬 (Nick Bostrom)은 "컴퓨터가 스스로 생각할 수있는 개발 단계에서 아무도 이것이 혼란에 이르게하거나 우리의 세계를 현저하게 향상시킬 것인지 정확하게 예측할 수 없다"고 말했다. 인류의 회복을위한 기후 온난화와 인내력을 증가시킨다. 이는 인공 지능을 염두에 두게 될지 모른다.
또한 Bostrom은 우리의 생물 지능을 높이기 위해 인간의 뇌를 치핑하는 문제를 제기합니다. "여러 가지면에서 모든 프로세스가 제어되면 이러한 절차가 유용 할 수 있지만 이식 된 칩이 자체 프로그래밍을 다시 할 수 있다면 어떻게 될까요? 이것이 슈퍼맨의 출현이나 사람처럼 보이는 컴퓨터의 출현으로 이어질 수있는 결과는 무엇입니까? "교수는 묻습니다. 컴퓨터가 인간의 문제를 해결하는 방식은 우리와 매우 다릅니다. 예를 들어, 체스에서 인간의 두뇌는 좁은 동작만을 고려하여 최상의 옵션을 선택합니다. 컴퓨터는 모든 가능한 동작을 고려하여 최상의 결과를 얻습니다. 이 경우 컴퓨터는 게임에서 상대방을 화나게하거나 놀라게 할 것을 기대하지 않습니다. 체스를하는 사람과는 달리, 컴퓨터는 우연히 교활하고 미묘한 움직임을 만들 수 있습니다. 인공 지능은 "휴먼 팩터"제거로 인한 시스템 오류를 제거하는 가장 좋은 방법으로 간주 될 수 있지만, 사람과 달리 로봇은 사람들의 생명을 구할 수있는 업적을 수행 할 준비가되어 있지 않습니다.
또한 스마트 기계의 증가는 새로운 산업 혁명의 한 단계입니다. 이는 곧 가까운 장래에 인류가 필연적 인 사회 변화에 직면하게된다는 것을 의미합니다. 거의 모든 간단한 작업이 로봇 및 기타 메커니즘을 수행 할 수 있기 때문에 시간이 지남에 따라 업무는 우수한 전문가가 될 것입니다. 과학자들은 인공 지능은 "눈과 눈을 필요로한다"고 믿는다. 그래서 우리 행성은 로봇이 거주하는 만화 행성 "Zhelezaaka"로 변하지 않는다.
생산 프로세스의 자동화가 점점 더 중요 해짐에 따라 미래가 이미 실현되었습니다. 세계 경제 포럼 (World Economic Forum, WEF)은 자동화를 통해 2020, 5, 다양한 분야에서 일하는 수백만 명의 사람들이 일자리를 잃을 것이라는 사실을 알리는 보고서를 발표했다. 이것이 로봇과 로봇 시스템이 우리 삶에 미치는 영향입니다. 보고서를 작성하기 위해 WEF 직원은 전 세계의 13,5 만 명의 직원에 대한 데이터를 사용했습니다. 그들의 데이터에 따르면, 2020 년까지 7 수백만의 일자리에 대한 총 필요성은 사라질 것이지만, 다른 산업의 예상 고용 증가는 2 수백만의 직업보다 조금 더 많을 것입니다.
정보 출처 :
http://www.ridus.ru/news/209869
http://www.vedomosti.ru/technology/articles/2015/01/13/ugrozy-iskusstvennogo-razuma
https://nplus1.ru/news/2016/01/19/they-took-our-jobs
http://ru.sputnik.kg/world/20151013/1019227239.html
정보