인공 지능. 2 부 : 멸종 또는 불멸?
"잠깐,이 모든게 현실이 될 수있는 방법, 왜 아직도 모든 구석에서 말하지 않는거야?"시리즈의 두 번째 기사가 있습니다. 이전 시리즈에서는 지성의 폭발이 지구의 사람들에게 점차로 퍼져 나가고 있음을 알게되었습니다. 그것은 좁은 초점에서 보편적 인 인간 지능으로, 그리고 마지막으로 인공 지능으로 발전하려고 노력하고 있습니다.
이 기사의 첫 번째 부분은 충분히 순수하게 시작되었습니다. 우리는 좁은 초점을 맞춘 인공 지능 (AII, 경로 결정이나 체스 게임과 같은 특정 작업 해결을 전문으로 함)에 대해 논의했습니다. 그런 다음 UII (AOI 또는 AI, 일반 지적 능력에 따라 모든 작업을 해결하는 사람과 비교할 수 있음)에서 일반화 된 인공 지능을 성장시키는 것이 왜 그렇게 어려운지 분석했습니다. 기술적 진보의 기하 급수적 인 속도로 OII가 곧 나타날지 모른다는 결론을 얻었습니다. 결국 우리는 기계가 인간의 지능 수준에 도달하자마자 다음과 같은 일이 즉시 일어날 수 있다고 결정했습니다.
늘 그렇듯이 인공 수퍼 인텔리전스 (어떤 사람보다 훨씬 똑똑한 ICI)가 우리 삶에 이미 등장 할 수 있다고 생각하지 않고이 문제에 대한 우리의 의견을 가장 잘 반영 할 수있는 감정을 선택한다고 생각하지 않습니다.
특정 ICI에 대해 자세히 알아보기 전에 기계가 초능력을 발휘한다는 것이 무엇을 의미하는지 다시 생각해 봅시다.
가장 큰 차이점은 빠른 초 지능과 고품질 초 지능 사이에 있습니다. 수퍼 지능형 컴퓨터를 생각할 때 가장 먼저 떠오르는 점은 사람보다 훨씬 빠르게 생각할 수 있다는 것입니다. 수백만 배는 더 빨리, 5 분이면 사람이 10 년 동안 필요한 것이 무엇인지 이해하게됩니다. ( "나는 쿵푸를 안다!")
그것은 인상적으로 들리 겠지만 ISI는 실제로 어떤 사람들보다 더 빨리 생각해야합니다. 그러나 주된 분리 특징은 그의 지성의 질에 있습니다. 이것은 아주 다른 것입니다. 사람들은 원숭이보다 훨씬 똑똑합니다. 왜냐하면 사람들의 두뇌는 복잡한 언어 표현, 장기 계획, 원숭이가 할 수없는 추상적 사고를 만드는 많은 독창적 인인지 모듈을 포함하고 있기 때문입니다. 원숭이의 뇌를 수천 번 분산 시키면 우리보다 더 똑똑해지지 않을 것입니다. 10 년 후에도 지시에 따라 설계자를 모을 수 없으며, 최대 2 시간을 필요로 할 것입니다. 원숭이가 배우지 못하는 것들이 있습니다. 아무리 많은 시간을 보내거나 얼마나 빨리 두뇌를 작동 시키더라도.
또한 원숭이는 뇌가 다른 세계의 존재를 깨닫지 못하기 때문에 인간이 어떻게 인간인지 알지 못합니다. 원숭이는 사람이 무엇인지, 스카이 스크래퍼인지 알 수 있지만 사람이 스카이 스크래퍼를 만들었다는 것을 결코 이해하지 못합니다. 그녀의 세계에서 모든 것이 자연에 속해 있으며 원숭이는 초고층 건물을 건설 할 수있을뿐만 아니라 모든 사람이 초고층 건물을 만들 수 있다는 것을 이해합니다. 그리고 이것은 지능의 작은 차이의 결과입니다.
우리가 이야기하고있는 지성의 일반적인 계획에서, 또는 생물학적 생물체의 표준에 의해서만, 사람과 원숭이의 지능의 질의 차이는 아주 작습니다. 이전 기사에서 우리는 사다리에 생물학적 인식 능력을 배치했습니다.
슈퍼 지능형 기계가 얼마나 심각한 지 이해하려면이 사다리의 사람보다 두 단계 높게 배치하십시오. 이 기계는 꽤 많이 보복 될 수 있지만, 우리의인지 능력에 대한 우위는 원숭이와 마찬가지로 우리와 같습니다. 그리고 침팬지들은 초고층 건물을 건설 할 수 없다는 것을 결코 이해하지 못하기 때문에 기계가 우리에게 그것을 설명하려고 시도하더라도 기계가 몇 단계 더 높게 이해할 것입니다. 그러나 이것은 단지 몇 단계에 불과합니다. 차는 개미들을 우리에게 더 똑똑하게 보일 것입니다 - 그것은 수년간 그 위치에서 가장 단순한 것들을 가르쳐 줄 것이며, 이러한 시도는 완전히 희망이 없을 것입니다.
우리가 오늘 이야기 할 superintelligence의 유형은이 계단을 훨씬 넘어서 있습니다. 이것은 지능이 폭발적으로 증가하는 것입니다. 기계가 더 똑똑해질수록 더 빨리 자신의 지능을 높여 서서히 추진력을 높일 수 있습니다. 그러한 기계는 정보에있어 침팬지를 뛰어 넘는 데 수년이 걸릴 수 있지만, 아마도 몇 걸음 씩 우리를 능가 할 수있는 몇 시간이 걸릴 것입니다. 이 시점부터 기계는 매초 4 단계로 뛰어 넘을 수 있습니다. 이것이 바로 우리가 첫 번째 연구가 끝난 직후에 이해해야하는 이유입니다. 뉴스 기계가 인간의 지능 수준에 도달했다면 우리는이 사다리에서 우리보다 훨씬 높은 (그리고 아마도 수백만 배 더 높은) 무언가로 지구상에서의 공존에 직면 할 수 있습니다.
ICI가 무엇을 할 것이며 그 결과가 우리에게 어떤 영향을 미치는지 이해할 수있는 방법이 없다는 것을 한번만 정의하자. 반대자를 주장하는 사람은 단순히 슈퍼 인텔리전스가 무엇을 의미하는지 이해하지 못합니다.
진화는 수 억년 동안 천천히 그리고 점진적으로 생물학적 뇌를 발전 시켰으며 인간이 초능력을 가진 기계를 만들면 어떤면에서는 진화를 능가 할 것입니다. 또는 진화의 일부가 될 것입니다. 아마도 진화론은 모든 생명체가 새로운 미래를 예고하는 전환점에 도달 할 때까지 점차적으로 발전합니다.
우리가 나중에 논의 할 이유 때문에, 과학계의 많은 부분은 그 질문이 우리가이 전환점에 도달하는지 아닌지를 믿는 것이라고 믿습니다.
이 후에 우리가 어디 있니?
저는이 세상 어느 누구도 당신이나 당신도, 우리가 전환점에 이르렀을 때 무슨 일이 일어날 지 말할 수 없다고 생각합니다. 옥스포드 철학자이자지도 이론가 인 AI Nick Bostrom은 모든 가능한 결과를 두 가지 큰 범주로 줄일 수 있다고 믿습니다.
첫째, 역사우리는 삶에 대해 다음과 같은 것을 압니다. 종은 나타나고, 특정 시간 동안 존재하고, 필연적으로 생활 균형의 균형에서 벗어나 죽을 것입니다.
"모든 종들이 죽어 가고있다"는 것은 언젠가 "모든 사람들이 언젠가 죽는다"는 역사적으로 신뢰할 수있는 규칙이었다. 종의 99,9 %가 수명 기록에서 떨어졌으며 특정 종족이이 로그에 너무 오래 머무르면 자연풍의 돌풍이나 갑작스런 소행성이이 로그를 뒤집어 놓을 것임이 분명합니다. 보스 트롬 (Bostrom)은 종 (attractor)의 상태를 멸종이라고 부릅니다. 모든 종의 균형이 맞아서 종 (species)이 아직 돌아 오지 않은 곳으로 떨어지지 않는 곳입니다.
대부분의 과학자들은 ISI가 멸종 위기에 처할 수있는 능력을 가지고 있음을 인식하고 있지만 많은 사람들은 ISI의 능력을 사용하여 개인 (그리고 종 전체)이 종의 불멸 성 (attortor-species immortality)의 두 번째 상태를 달성 할 수 있다고 믿고 있습니다. 보스 트롬은 종의 불멸 성은 종의 멸종과 동일한 애착 자라고 믿습니다. 즉, 우리가 이것에 도달하면, 우리는 영원한 존재로 운명을 질 것입니다. 따라서 모든 종족이이 막대기에서 현재의 날 이전에 멸종 위기에 빠졌다고하더라도 Bostrom은 통나무가 양면을 가지고 있다고 믿고 지구상에 단순히 그 반대쪽으로 떨어지는 방법을 이해할 수있는 지능이 없다고 생각합니다.
Bostrom과 다른 사람들이 옳다면, 우리에게 제공되는 모든 정보로 판단 할 때, 매우 잘 될 수도 있습니다. 우리는 두 가지 매우 충격적인 사실을 취할 필요가 있습니다.
역사상 처음으로 ISI가 출현하면 종은 불멸을 가져오고 치명적인 멸종 사이클에서 벗어날 가능성이 생깁니다.
ICI의 출현은 상상할 수 없을만큼 엄청난 영향을 미칠 것이며 이로 인해 인류는이 통나무로부터 한 방향으로 또는 다른 방향으로 인도 될 것입니다.
진화가 그러한 전환점에 이르면 언제나 사람들의 삶의 흐름과 관계를 끝내고 사람들과 함께 또는 새로운 세상을 창조 할 수 있습니다.
이것은 게으른 사람 만 묻지 않는 흥미로운 한 가지 질문으로 이어집니다. 언제 우리는이 전환점에 도달 할 것이며 언제 그가 우리를 결정할 것입니까? 세계의 어느 누구도이 두 가지 질문에 대한 답을 알고 있지 않지만 많은 똑똑한 사람들은 수십 년 동안 이것을 이해하려고 노력해 왔습니다. 기사의 나머지 부분에서 우리는 그들이 무엇을 찾았는지 알아낼 것입니다.
우리는이 질문의 첫 부분부터 시작합니다 : 언제 우리는 전환점에 도달해야합니까? 즉, 첫 번째 기계가 초 지능에 도달 할 때까지 얼마나 많은 시간이 남았습니까?
의견은 경우에 따라 다릅니다. Sun Microsystems Bill Joy의 미래 학자 Ray Kurzweil의 공동 설립자 인 Vernor Vinge 교수를 비롯한 많은 사람들이 기계 학습 전문가 인 Jeremy Howard와 TED Talk에서 다음 차트를 발표하면서 동의했습니다.
이 사람들은 ISI가 곧 나타날 것이라는 견해를 공유합니다. 오늘날 우리에게 느리게 보이는이 기하 급수적 인 성장은 문자 그대로 다음 몇 십년 안에 폭발 할 것입니다.
마이크로 소프트의 공동 설립자 폴 알렌 (Paul Allen), 리서치 심리학자 게리 마커스 (Gary Marcus), 컴퓨터 전문가 어니스트 데이비스 (Ernest Davis), 테크노 푸너 미치 카퍼 (Misc Kapor)와 같은 사람들은 커즈 웨일 (Kurzweil)과 같은 사상가들이 문제의 규모를 심각하게 과소 평가하며 전환점에 너무 가깝지 않다고 생각한다.
Kurzweil Camp는 급격한 성장을 무시하고 지나치게 과소 평가하는 개체를 찾고 있습니다. 1985에서 천천히 떠오르는 인터넷을 보면서 가까운 시일 내에 세계에 영향을주지 않을 것이라고 주장하는 사람들과 의심 할 수있는 사람을 비교할 수 있습니다.
기술 진보의 전형적인 기하 급수적 인 특성을 지능화하는 지적 능력의 기하 급수적 인 발전에 대해서는 진보가 후속 단계를 수행하는 것이 더 어렵다고 말하면서 "이단자들"은 막을 수 있습니다. 등등.
Nick Bostrom이있는 세 번째 캠프는 첫 번째 캠프와 두 번째 캠프 모두와 의견이 다르며, a) 모든 것이 가까운 장래에 절대적으로 일어날 수 있다고 주장한다. b) 이러한 일이 전혀 일어나지 않거나 오래 걸릴 것이라는 보장은 없습니다.
철학자 인 휴 버트 드레퓌스 (Hubert Dreyfus)와 같은 다른 사람들은이 세 그룹 모두가 일반적으로 전환점이 될 것이라고 천진히 믿으며 또한 ISI에 결코 도달하지 않을 것이라고 믿습니다.
우리가이 모든 의견을 종합하면 어떻게됩니까?
2013에서 Bostrom은 "인간 수준의 OIH를 달성하기위한 예측은 무엇입니까?"라는 주제로 일련의 회의에서 인공 지능 분야의 전문가 수백 명과 인터뷰 한 설문 조사를 실시했습니다. - 기회 확률), 현실적인 가정 (10- 확률 OII의 확률을 갖는 해) 및 자신감있는 가정 (OII가 50- 확률로 나타나는 가장 빠른 해). 결과는 다음과 같습니다.
* 낙관적 인 평균 연도 (10 %) : 2022
* 평균 현실적인 해 (50 %) : 2040
* 평균 비관적 인 해 (90 %) : 2075
평균 응답자는 25 년 동안 우리는 AIS보다 더 많은 AIS를 가질 것이라고 믿습니다. 90에 의한 OII 발생의 2075 퍼센트 확률은 아직 매우 어리다고 생각하면 평생에 발생할 가능성이 높습니다.
최근 제임스 바라트 (James Barrat, 찬사를 받고 아주 좋은 책인 "우리의 마지막 발명품"의 저자)가 실시한 별도의 연구에서 나는 독자들의주의를 끌었다. Hi-News.ru)와 Ben Herzel은 OII에 헌정 된 연례 회의에서 AGI Conference에서 우리가 OII에 도달 한 해에 관한 사람들의 의견을 간단히 보여주었습니다. 2030, 2050, 2100에 나중에 또는 전혀. 결과는 다음과 같습니다.
* 2030 : 응답자의 42 %
* 2050 : 25 %
* 2100 : 20 %
2100 이후 : 10 %
사용 안함 : 2 %
Bostrom의 결과와 비슷합니다. Barrat 조사에서 응답자의 3 분의 2 이상이 OI가 2050 년까지 여기에있을 것이며 절반 이하는 OII가 다음 15 년에 나타날 것이라고 생각합니다. 응답자의 2 %만이 원칙적으로 우리 미래에 AIS를 보지 못한다는 사실도 주목합니다.
그러나 CSI는 ICI와 같은 전환점이 아닙니다. 전문가에 따르면, 우리는 ICI를 가질 것인가?
Bostrom은 ISI에 도달했을 때 전문가를 인터뷰했습니다. a) AIS에 도착한 지 2 년 후 (즉, 지능이 폭발하여 거의 즉시) ISIS에 도달했습니다. b) 30 년. 결과는?
평균적인 견해는 OII에서 ISI 로의 10 퍼센트 확률로의 빠른 전환이지만 30 년 이내에 75 퍼센트 확률로 발생합니다.
이 데이터를 통해 응답자가 50 % ICI 발생 확률이라고 부르는 날짜를 알 수는 없지만 위의 두 가지 대답을 토대로 20 년이라고 가정합시다. 즉, AI 분야의 세계적인 전문가들은 2060 년에 전환점이 올 것이라고 믿습니다. (OII는 2040 년에 나타납니다 + 20이 OII에서 IIS로 전환하는 데 수년이 걸릴 것입니다).
물론 위의 통계는 모두 투기 적이며 단순히 인공 지능 분야 전문가의 의견을 나타냅니다. 그러나 대부분의 사람들이 2060에 의해 ISI가 올 것 같다고 동의합니다. 불과 몇 년 만에 45.
두 번째 질문으로 넘어갑니다. 우리가 전환점에 도달하면, 치명적인 선택의 어느 쪽이 우리를 결정할 것입니까?
superintelligence는 강력 할 것이고, 우리에게 중요한 질문은 다음과 같습니다 :
누가 또는 무엇이이 힘을 통제 할 것이며 그 동기는 무엇인가?
이 질문에 대한 대답은 ISI가 엄청나게 강력한 개발, 놀라운 무서운 개발 또는이 두 가지 옵션 사이의 무언가를 받느냐에 달려 있습니다.
물론 전문가 커뮤니티는 이러한 질문에 답하려고합니다. Bostroma 조사는 OII가 인류에 미치는 영향의 가능성에 대한 가능성을 분석했으며 52 %의 가능성으로 모든 것이 잘되고 31 %의 가능성으로 모든 것이 좋지 않거나 극도로 나 빠진다는 사실이 밝혀졌습니다. Hi-News의 독자 여러분과 함께 진행된 이번 주제의 마지막 부분에 첨부 된 설문 조사는 같은 결과를 나타 냈습니다. 상대적으로 중립적 인 결과는 확률이 17 %에 불과했다. 즉, 우리 모두는 OII의 출현이 커다란 사건이 될 것이라고 믿습니다. 이 설문 조사는 OII의 출현과 관련이 있습니다. ICI의 경우 중립성 비율이 낮을 것입니다.
질문의 좋지 않은 부분에 대한 담론에 더 깊이 들어가기 전에 "언제 일어날 것인가?"와 "좋든 나쁘지?"라는 질문의 두 부분을 결합 해 봅시다. 대부분의 전문가의 견해를 다루는 도표에 들어가십시오.
우리는 1 분 안에 주 캠프에 관해 이야기 할 것이지만, 먼저 당신의 위치를 결정하십시오. 당신이이 주제를 다루기 시작하기 전에 당신과 같은 장소에있을 가능성이 큽니다. 사람들이 일반적으로이 주제에 대해 생각하지 않는 몇 가지 이유가 있습니다.
* 첫 번째 부분에서 언급했듯이이 영화는 사람과 사실을 심각하게 혼란스럽게 만들었고 인공 지능으로 비현실적인 시나리오를 제시했기 때문에 AI를 진지하게 받아들이지 않아야했습니다. 제임스 바라트 (James Barratt)는 질병 통제 센터 (Center for Disease Control)가 우리의 미래에 뱀파이어에 대한 심각한 경고를 발표 한 사실과이 상황을 비교했습니다.
* 소위인지 적 편향 때문에, 우리가 증거가없는 한, 우리가 무언가의 실재를 믿는 것은 매우 어렵습니다. 1988 컴퓨터 과학자들이 인터넷의 출현과 그것이 될 수있는 광범위한 결과에 대해 정기적으로 상상해 보았지만 실제로 일어날 때까지 사람들의 삶이 바뀔 것이라고 사람들은 거의 믿지 않았습니다. 컴퓨터는 단순히 1988에서이 작업을 수행하는 방법을 모르고 있었고 사람들은 컴퓨터를보고 "심각하게 생각하니? 세상이 바뀔 것인가? " 그들의 상상력은 개인적인 경험이 가르쳐 준 것, 컴퓨터가 무엇인지를 알았 기 때문에 제한적이었으며 컴퓨터가 앞으로 어떻게 될지 상상하기 어려웠습니다. AI에서도 똑같은 일이 일어나고 있습니다. 우리는 그것이 심각한 일이 될 것이라고 들었지만, 아직 우리가 그를 대면하지 않았기 때문에, 우리는 현대 세계에서 AI의 약한 발현을 전체적으로 볼 수 있습니다. 우리가 근본적으로 우리의 삶을 변화시킬 것이라고 믿는 것은 다소 어렵습니다. 관심있는 사람들뿐만 아니라 모든 진영의 수많은 전문가들이 매일의 집단적 자기 중심주의의 소음을 통해 우리의 관심을 끌려고 노력하고 있다는 것은 이러한 편견에 반대합니다.
* 우리가이 모든 것을 믿었음에도 불구하고 당신이 존재하지 않는 나머지 영원을 보낼 것이라는 사실에 대해 몇 번이나 생각해 보았습니까? 조금 동의 해. 이 사실이 당신이 매일하는 일보다 훨씬 더 중요하더라도. 이것은 우리의 두뇌가 일반적으로 우리가 속한 장기적인 상황에 아무리 미칠지라도 작은 일상적인 것에 초점을 맞추기 때문입니다. 간단히 말해서, 우리는 그렇게 준비되어 있습니다.
이 기사의 목표 중 하나는 캠프에서 "다른 일에 대해 생각하고 싶다"라는 캠프를 꺼내어 캠프에 전문가를 배치하는 것입니다. 위 사각형에있는 두 개의 점선 사이의 교차점에 서 있더라도 완전히 미결정입니다.
연구 과정에서 대부분의 사람들의 의견이 "주 캠프"의 방향으로 신속하게 들어가고 전문가의 4 분의 3은 주 캠프에서 두 개의 서브 캠프로 떨어집니다.
우리는이 두 캠프를 모두 방문 할 것입니다. 재미있게 시작합시다.
왜 미래가 우리의 가장 위대한 꿈일까요?
인공 지능의 세계를 탐험하면서 우리는 안락 지대에서 놀랍게도 많은 사람들을 발견합니다. 오른쪽 상단의 광장에있는 사람들은 흥분으로 윙윙 거리고 있습니다. 그들은 우리가 통나무의 좋은면에 떨어질 것이라고 믿으며, 필연적으로 우리가이 문제에이를 것이라고 확신합니다. 그들에게는 미래가 꿈꾸는 것만이 미래입니다.
이 사람들을 다른 사상가와 구별하는 요점은 그들이 행복하게되고 싶다는 것이 아니라 그들이 우리를 기다리고있는 것이 분명하다는 것입니다.
이러한 확신은 논쟁에서 비롯됩니다. 비평가들은 잠재적 인 부정적인면을 과장하는 맹목적인 흥분에서 오는 것이라고 믿습니다. 그러나 지지자들은 우울한 예측은 항상 순진하다고 말한다. 기술은 계속되고 항상 해를보다 우리를 도울 것입니다.
당신은 이러한 의견 중 하나를 선택할 권리가 있지만, 회의론을 버리고 균형 기록부의 행복한 측면을 잘 살펴보고, 읽은 모든 것이 이미 일어 났을 수도 있다는 사실을 받아들이려고합니다. 사냥꾼 채집인들에게 위안과 기술, 무한한 풍부함을 보여 주면 그들은 마법의 허구처럼 보였을 것입니다 - 우리는 아주 겸손하게 행동하며 미래에 똑같은 이해할 수없는 변화가 우리를 기다리고 있음을 인정할 수 없습니다.
닉 보스 트롬 (Nick Bostrom)은 인공 지능의 권총 (supramental) 시스템이 갈 수있는 세 가지 방법을 설명합니다.
* 사람이 대답 할 수없는 복잡한 질문을 포함하여 정확하게 제기 된 질문에 대답 할 수있는 오라클 - 예를 들어 "자동차 엔진을보다 효율적으로 만드는 방법". Google은 원시 오라클입니다.
* 고레벨 명령을 실행하는 요정 - 분자 어셈블러를 사용하여 새롭고 효율적인 자동차 엔진 버전을 만들고 다음 명령을 기다립니다.
* 넓은 접근성과 세계에서 자유롭게 활동할 수있는 능력을 갖춘 주권자. 자신의 결정을 내리고 프로세스를 개선합니다. 그는 차보다 개인적으로 여행하는 저렴하고 빠르고 안전한 방법을 발명 할 것입니다.
우리가보기 힘든 이러한 질문과 과제는 누군가가 "연필을 테이블에서 떨어 뜨린"상황을 개선하도록 요청하면 슈퍼마인 시스템처럼 보일 것입니다.
미국 인공 지능 전문가 인 Eliezer Yudkovsky는 다음과 같이 잘 알고 있습니다.
참을성이없는 과학자, 발명가 및 기업가가 우리 테이블에서 자신감을 불어 넣어주는 영역을 선택했지만,이 세계 최고의 곳으로 걸어가려면 한 가지 가이드 만 있으면됩니다.
Ray Kurzweil은 이중 감각을 일으 킵니다. 어떤 사람들은 그의 아이디어를 우상화하고 어떤 사람들은 그를 경멸합니다. 일부는 중간에 머물러 있습니다 - 더글라스 호프 슈타 더 (Douglas Hofstadter)는 커즈와일 (Kurzweil) 서적에 대해 이야기하면서 "좋은 음식과 작은 개 똥을 많이 먹은 것처럼 보였습니다. 그런 다음 모든 것을 섞어서 무엇이 좋고 무엇이 나쁜지를 이해하는 것은 불가능합니다."
당신이 그의 아이디어를 좋아하든 원하지 않든 관심있는 그림자 없이는 지나칠 수 없습니다. 그는 십대 때부터 물건을 발명하기 시작했으며, 다음 해에는 최초의 플랫 베드 스캐너, 최초의 텍스트 음성 변환 스캐너, 잘 알려진 Kurzweil 뮤직 신시사이저 (최초의 실제 전자 피아노) 및 상업적으로 성공한 최초의 음성 인식기 등 여러 가지 중요한 것들을 발명했습니다. 그는 또한 다섯 가지 감각적 인 책의 저자이기도합니다. Kurzweil은 그의 대담한 예측에 대해 높이 평가 받았으며 그의 "실적"은 상당히 좋았습니다. 80이 끝날 무렵 인터넷은 아직 초기 단계 였지만 그는 2000 년 동안 네트워크가 글로벌 현상이 될 것이라고 제안했습니다. 월스트리트 저널은 커즈와일 (Kurzweil)을 "불안한 천재"라고 불렀다. 포브스는 "글로벌 사고 기계" Bill Gates는 "인공 지능의 미래를 예언하는 사람들 중 최고"라고 잡지는 "Edison의 합법적 인 상속인"입니다. 2012에서 Google의 공동 설립자 래리 페이지 (Larry Page)는 Kurzweil을 기술 감독직에 초청했습니다. 2011에서 NASA를 보호하고 Google이 부분적으로 후원하는 Singularity University를 공동 설립했습니다.
그의 전기는 중요합니다. Kurzweil이 미래에 대한 그의 비전에 대해 이야기 할 때, 그것은 미친 듯이 보입니다. 그러나 이것에 관한 정말 미친 일은 그가 미치지 않은 것입니다. 그는 믿을 수 없을만큼 지혜롭고 교육 받고 분별있는 사람입니다. 예측에서 실수라고 생각할 수도 있지만, 그는 바보가 아닙니다. Kurzweil의 예측은 "쾌적 대", Peter Diamandis 및 Ben Herzel의 많은 전문가들에 의해 공유됩니다. 그것이 그의 견해에서 일어날 것입니다.
타임 라인
Kurzweil은 컴퓨터가 2029이 일반 인공 지능 (OII) 수준에 도달 할 것이며, 2045은 인공 지능뿐만 아니라 완전히 새로운 세계, 즉 소위 특이성의 시대를 맞이할 것이라고 믿습니다. AI의 연대기는 여전히 과장된 것으로 간주되지만, 지난 15 년 동안 협소 한 인공 지능 시스템 (AII)의 급속한 발전으로 많은 전문가들이 커즈와일로 전환하게되었습니다. 그의 예측은 Bostrom 조사 (2040, 2060, IIS to XNUMX)보다 훨씬 야심적이지만 여전히 그렇지 않습니다.
Kurzweil에 따르면, 올해의 2045의 특이성은 생명 공학, 나노 기술 그리고 더 중요한 AI의 분야에서 3 개의 동시 혁명을 가져옵니다. 그러나 우리가 계속하기 전에 - 그리고 나노 테크놀러지는 인공 지능을 계속적으로 따르고 있습니다. 나노 기술에 대해 잠시 시간을 들여 봅시다.
나노 기술에 대한 몇 마디
일반적으로 1-100 나노 미터 내에서 물질을 조작하는 나노 기술을 호출합니다. 나노 미터는 10 억 분의 1 미터 또는 백만 분의 1 밀리미터입니다. 1-100 나노 미터 내에서 바이러스 (100 nm), DNA (10 nm wide), 헤모글로빈 분자 (5 nm), 포도당 (1 nm) 등을 맞출 수 있습니다. 나노 기술이 우리에게 계속적으로 종속된다면, 다음 단계는 적어도 하나의 크기 (~, 1 nm) 인 개별 원자로 조작하는 것입니다.
사람들이 문제를 겪는 곳을 이해하고 그러한 규모로 문제를 제어하려고 시도하면 더 큰 규모로 넘어 갑니 다. 국제 우주 정거장은 지구보다 1 킬로미터 위에있는 481에 위치해 있습니다. 사람들이 거인이었고 머리가있는 ISS를 만지면 지금보다 250 000 배 더 빠를 것입니다. 1 100 시간대에 250에서 000 나노 미터까지 무언가를 늘리면 2,5 센티미터를 얻게됩니다. 나노 기술은 ISS 높은 궤도를 가지고있는 사람이 모래 또는 안구의 입자 크기를 제어하려고하는 것과 같습니다. 다음 단계 인 개별 원자를 제어하려면 거인이 직경 1 / 40 밀리미터의 물체를 조심스럽게 배치해야합니다. 보통 사람은 그들을보기 위해 현미경이 필요합니다.
Richard Feynman은 1959에서 나노 기술에 대해 처음으로 말했습니다. 그는 다음과 같이 말했다. "물리학의 원리는 내가 말할 수있는 한, 원자로 원자를 통제 할 수있는 가능성에 반대하지 않는다. 원칙적으로 물리학자는 화학자가 기록한 화학 물질을 합성 할 수 있습니다. 어떻게? 화학자가 물질을 얻으려고 말하는 원자를 놓음으로써. " 이것은 모두 단순함입니다. 개별 분자 또는 원자를 움직이는 방법을 알고 있다면 거의 모든 것을 할 수 있습니다.
나노 기술은 1986의 엔지니어로서 에릭 드렉슬러 (Eric Drexler)가 근본적인 저서 "기계 (Machines of Creation)"에서 자신의 기초를 제시했을 때 심각한 과학 분야가되었습니다. 그러나 드렉슬러 (Drexler)는 나노 기술의 현대적 아이디어에 대해 더 배우고 싶은 사람들은 올해 2013 총 풍부 "(급진적 인 풍부함).
"회색 점액"에 관한 몇 마디
나노 기술이 깊어집니다. 특히, "회색 끈적 거리는 소리"라는 주제는 나노 기술 분야에서 가장 즐거운 주제가 아니며 말하기 힘듭니다. 나노 기술 이론의 구 버전에서, 무언가를 만들기 위해 함께 작동하는 수조 개의 작은 나노 로봇의 생성을 포함하는 나노 스케일 방법이 제안되었습니다. 수조 개의 나노 로봇을 만드는 방법 중 하나는 그 자체로 재현 할 수있는 것, 즉 1-2 개, 2-4 개를 만드는 것입니다. 하루 동안 수조 개의 나노 로봇이 나타날 것입니다. 그러한 것이 기하 급수적 인 성장의 힘입니다. 웃기지 않니?
그것은 재밌지 만, 정확하게 종말로 이끈다. 문제는 기하 급수적 인 성장으로 수조의 나노봇을 신속하게 만들 수있어 자체 복제가 끔찍한 일이라는 것입니다. 시스템이 종료되면 몇 조개에 복제를 중지하는 대신 나노봇이 계속 증식합니까? 이 모든 과정이 탄소에 의존한다면 어떨까요? 지구의 바이오 매스는 탄소 원자 10 ^ 45를 포함한다. 나노봇은 10 ^ 6 탄소 원자의 순서로 구성되어야하므로 10 ^ 39 나노봇은 지구상의 모든 생명체를 삼켜 버릴 것이며, 이것은 130 복제에서 일어날 것입니다. 나노봇 ( "회색 끈적 거리는 소리")의 바다가 지구를 넘칩니다. 과학자들은 나노봇이 100 초 안에 복제 할 수 있다고 생각합니다. 즉, 단순한 실수로 3,5 시간 만에 지구상의 모든 생명체를 죽일 수 있습니다.
테러리스트와 불리한 전문가의 손에 나노 기술이 도달하면 더 나 빠질 수 있습니다. 수조 개의 나노봇을 만들어서 2 주 내에 전세계에 조용히 전파하도록 프로그램 할 수 있습니다. 그런 다음 90 분만에 버튼을 한 번 클릭하면 전혀 먹을 수 없으며 기회도 없습니다.
이 공포 이야기는 여러 해 동안 널리 논의되어 왔지만 좋은 소식은 단지 공포 이야기에 불과하다는 것입니다. "회색 끈적 거리기"라는 용어를 사용하는 에릭 드렉슬러 (Eric Drexler)는 최근 다음과 같이 말했습니다. "사람들은 공포 이야기를 좋아합니다.이 작품은 좀비에 관한 무서운 이야기의 범주에 속합니다. 이 아이디어 자체는 이미 두뇌를 먹고 있습니다. "
우리가 나노 기술의 바닥에 도달 한 후에는 기술 장비, 의류, 식품, 생명 공학 제품 (혈액 세포, 바이러스 및 암에 대한 전투기, 근육 조직 등)을 만들기 위해 이들을 사용할 수 있습니다. 그리고 나노 기술을 사용하는 세계에서, 재료의 비용은 더 이상 제조 공정의 부족이나 복잡성이 아니라 원자 구조의 복잡성에 달려 있습니다. 나노 기술의 세계에서 다이아몬드는 더 저렴한 지우개가 될 수 있습니다.
우리는 아직 가까이 있지 않습니다. 그리고 우리는이 경로의 복잡성을 과소 평가하거나 과대 평가합니다. 그러나 나노 기술이 그리 멀지 않은 것은 사실입니다. 커즈와일 (Kurzweil)은 2020 년을 통해 우리가 그들을 가질 것이라고 제안합니다. 세계는 나노 테크놀로지가 큰 미래를 약속 할 수 있다는 것을 알고 있기 때문에 수십억 달러를 투자 할 수 있습니다.
슈퍼 인텔리전트 컴퓨터가 신뢰할 수있는 나노 스케일 어셈블러에 도달하면 어떤 가능성이 있을지 상상해보십시오. 그러나 나노 기술은 우리의 아이디어이며, 우리는 그것을 타고 가려고 노력하고 있습니다. 우리에게는 어렵습니다. ISI 시스템의 경우 농담 일 뿐이며 ISI 자체가 우리가 일반적으로 생각할 수있는 것보다 더 강력한 기술을 개발할 수 있습니까? 우리는 동의했다 : 아무도 인공적인 인공 지능이 할 수있는 것을 추측 할 수 없다. 우리의 두뇌가 될 것 인 최소한의 것을 예측할 수 없다고 믿어집니다.
AI가 우리를 위해 무엇을 할 수 있습니까?
슈퍼 인텔리전스와 슈퍼 인텔리전스가 만들 수있는 모든 기술로 무장 한 ICI는 아마 인류의 모든 문제를 해결할 수있을 것입니다. 지구 온난화? ISI는 화석 연료와 관련이없는 에너지를 생산할 수있는 효율적인 방법을 개발함으로써 탄소 배출을 먼저 막습니다. 그런 다음 그는 CO2을 대기로부터 제거하기위한 효과적이고 혁신적인 방법을 제시 할 것입니다. 암 및 기타 질병? 문제는 아닙니다 - 건강 관리와 의학은 상상할 수없는 방식으로 변할 것입니다. 세계 기아? ICI는 나노 기술을 사용하여 처음부터 실제 고기까지 자연스러운 고기를 만듭니다.
나노 기술은 쓰레기 더미를 신선한 고기 나 다른 음식 (익숙한 형태가 아니어도 거대한 사과 입방체를 상상해도 알지 못함)으로 바꿀 수 있으며 첨단 교통 시스템을 사용하여 전 세계에이 음식을 전염시킬 수 있습니다. 물론, 더 이상 음식으로 죽지 않아도되는 동물에게는 위대한 것입니다. ICI는 또한 멸종 위기에 놓인 생물 종을 저장하거나 저장된 DNA로부터 이미 멸종 된 것과 같은 많은 다른 일을 할 수 있습니다. CII는 가장 어려운 경제 문제, 윤리 및 철학, 세계 무역 등 가장 어려운 거시 경제 문제를 해결할 수 있습니다.이 모든 것이 CII에게 명백하게 드러날 것입니다.
그러나 CII가 우리를 위해 할 수있는 특별한 것이 있습니다. 모든 것을 바꿀 수있는 유혹과 괴롭힘 : CII는 우리가 사망률을 처리하는 데 도움이 될 수 있습니다.. AI의 가능성을 점차적으로 파악하면 죽음에 대한 모든 생각을 재고 할 수도 있습니다.
진화는 지금보다 더 오래 우리의 수명을 연장 할 이유가 없었습니다. 우리가 충분히 길러서 출산하고 자녀를 키울 수있는 시점까지 키우면이 진화로 충분합니다. 진화론적인 관점에서 30 +는 개발할 수있는 충분한 시간을 가지고 있으며, 생명을 연장하고 자연 선택의 가치를 감소시키는 돌연변이에 대한 이유가 없습니다. 윌리엄 버틀러 예이츠 (William Butler Yates)는 우리 종족을 "죽어가는 동물에게 붙인 영혼"이라고 불렀다. 별로 재미 있지 않습니다.
그리고 우리 모두 언젠가는 죽을 것이기 때문에, 우리는 죽음이 불가피하다는 생각으로 산다. 우리는 시간이 지남에 따라 노화를 생각하며 앞으로 나아가고이 과정을 멈추지 않을 것입니다. 그러나 죽음에 대한 생각은 위험한 것입니다 : 그것에 사로 잡혀서, 우리는 사는 것을 잊어 버립니다. Richard Feynman은 다음과 같이 썼습니다.
"생물학에는 훌륭한 것이 있습니다.이 과학에는 죽음의 필요성에 관해 말할 수있는 것이 없습니다. 영원한 운동 기계를 만들고 싶다면 우리는 물리학에있어서이 법칙의 불가능 성을 지적하거나 법률이 잘못되었다는 것을 발견했습니다. 그러나 생물학에서는 불가피한 죽음을 나타내는 것은 없습니다. 생물 학자들이이 문제의 원인,이 끔찍한 보편적 인 질병을 발견하기 전에 그것은 단지 불가피하지 않으며, 단지 시간 문제로 남아 있다고 믿게됩니다. "
사실 노화는 시간과 관련이 없습니다. 노화는 신체의 물리적 물질이 마모된다는 것입니다. 차의 부품 또한 열화되지만 -이 노후화는 필연적입니까? 부품을 착용 할 때 자동차를 수리하면 영원히 작동합니다. 인체는 다르지 않습니다. 단지 더 복잡합니다.
커즈와일 (Kurzweil)은 혈류 내의 지능적이고 Wi-Fi가 연결된 나노봇에 대해 이야기합니다.이 나노봇은 규칙적인 수선이나 신체의 어느 부위에서의 낡은 세포의 교체를 포함하여 수많은 건강 관리 작업을 수행 할 수 있습니다. 이 과정을 개선하거나 (지능형 ICI가 제안한 대안을 찾으면) 신체 건강을 유지할뿐만 아니라 노화를 되돌릴 수 있습니다. 60-year-old와 30-year-old의 차이점은 적절한 기술로 해결할 수있는 몇 가지 물리적 인 순간에 있습니다. ISI는 한 사람이 60 살이었을 때 30 살이었던 자동차를 만들 수있었습니다.
저하 된 뇌조차도 업데이트 될 수 있습니다. ISI는 뇌의 데이터 (성격, 기억력 등)에 영향을 미치지 않고이를 어떻게 수행해야하는지 확실히 알고 있습니다. 완전한 뇌 손상으로 고통받는 90의 한 사람은 재교육, 업그레이드 및 인생 경력의 시작으로 돌아갈 수 있습니다. 이것은 불합리하게 보일지도 모르지만 시체는 소수의 원자이며 CID는 원자 구조로 쉽게 조작 할 수 있습니다. 모두가 그렇게 어리석은 것은 아니다.
Kurzweil은 또한 시간이 지남에 따라 인조 재료가 점점 더 신체에 통합 될 것이라고 믿습니다. 우선, 장기는 영원히 작동하고 결코 실패하지 않는 초정밀 기계 버전으로 대체 될 수 있습니다. 그런 다음 우리는 완전한 몸을 재 설계하고, 적혈구를 스스로 대체 할 수있는 이상적인 나노봇으로 대체하여 일반적으로 심장의 필요성을 제거 할 수 있습니다. 우리는 또한인지 능력을 향상시키고, 수십억의 생각을 빨리 시작하고, 클라우드를 사용하여 인류가 이용할 수있는 모든 정보에 액세스 할 수 있습니다.
새로운 지평을 이해할 수있는 가능성은 참으로 무한합니다. 사람들은 새로운 약속으로 성관계를 가졌으며, 단지 재생산뿐만 아니라 즐거움을 위해 그것에 참여하고 있습니다. 커즈와일은 우리가 음식으로도 똑같이 할 수 있다고 생각합니다. 나노봇은 몸의 세포에 직접 완벽한 영양을 공급하여 건강에 해로운 물질이 신체를 통과하도록합니다. 나노 기술 이론가 인 Robert Freitas는 이미 인체에서 실행될 때 15 분 동안 호흡하지 못하게 할 수있는 혈액 세포의 대체품을 개발했습니다. 이것은 사람이 발명 한 것입니다. 힘이 ICI를 얻을 때를 상상해보십시오.
결국 Kurzweil은 사람들이 완전히 인공적으로 변해가는 시점에 도달 할 것으로 믿는다. 우리가 생물학적 물질을보고 그들이 얼마나 원시적인지를 생각할 때; 우리가 인류 역사의 초기 단계에 대해 읽을 시간, 미생물, 사고, 질병 또는 노인이 자신의 의지에 반하여 사람을 죽일 수있는 방법에 대해 경탄하는 시간. 결국, 사람들은 자신의 생물학을 물리 치고 영원히 될 것입니다. 이것은 우리가 처음부터 이야기하고있는 균형 광선의 행복한면에가는 길입니다. 그리고 그것을 믿는 사람들은이 미래가 우리를 매우 빨리 기다리고 있다고 확신합니다.
커즈와일 (Kurzweil)의 사상이 심각한 비판을 받았다는 사실에 놀라지 않을 것입니다. 2045 년 동안의 그의 특이성과 사람들을위한 후속 영원한 삶은 "괴상한 자의 부상"또는 "IQ 140로 합리적으로 창조 된 사람들"이라고 불렀습니다. 다른 사람들은 낙관적 인 시간 틀, 인체와 뇌에 대한 이해에 의문을 제기하면서 무어의 법칙을 상기 시켰습니다. 커즈와일 (Kurzweil)의 생각을 믿는 모든 전문가들에게 그가 실수라고 믿는 세 사람이 있습니다.
그러나 이것에 대해 가장 흥미로운 점은 그와 동의하지 않는 대다수의 전문가들은 일반적으로 이것이 불가능하다고 말하지 않는다는 것입니다. "말도 안되는 것, 이것은 결코 일어나지 않을 것입니다."그들은 "우리가 ISI에 도착하면 모든 일이 일어난다. 그러나 그것은 단지 잡을 것"이라고 말합니다. 보스 트롬 (AI의 위험에 대해 경고 한 AI 전문가 중 한 명)은 다음과 같이 인정합니다.
"초 (超) 지능이 해결할 수 없거나 적어도 해결할 수있는 문제가 적어도있을 것 같지 않다. 질병, 빈곤, 환경 파괴, 모든 종류의 고통 - 나노 기술의 도움을 받아이 모든 수퍼 인텔리전스는 잠시 후에 해결 될 것입니다. 또한 초 정보는 나노 기술을 사용하거나 우리를 클라우드에 로딩하는 기능을 사용하여 노화 프로세스를 중단하고 역전시킴으로써 무제한적인 수명을 제공합니다. superintelligence는 또한 지적 및 감정적 가능성을 무한히 증가시킬 수있는 기회를 창출 할 수 있습니다. 그는 우리가 기쁨과 이해 속에 살면서 우리의 이상에 접근하고 정기적으로 꿈을 이루는 세상을 만드는 데 도움을 줄 수 있습니다. "
그러나 이것은 Kurzweil의 비평가 중 한 사람의 말입니다. 보안 ISI를 만드는 데 성공하면이 모든 것이 가능하다는 것을 알고 있습니다. Kurzweil은 단순히 인공 지능이 가능할 때 어떤 인공 지능이되어야 하는지를 결정했습니다. 그리고 그가 좋은 신이라면.
"안락한 지역"의 지지자들에 대한 가장 분명한 비판은 ICI의 미래를 평가할 때 그들이 잘못 될 수 있다는 것입니다. 그의 책 Singularity에서 Kurzweil은 20에서 700 페이지를 잠재적 인 ISI 위협에 사용했습니다. 질문은 ISI에 도착할 때가 아니라 질문은 그의 동기가 될 것입니다. 커즈와일 (Kurzweil)은이 질문에 신중하게 반응합니다. "ISI는 많은 이질적인 노력에서 비롯되며 우리 문명의 인프라에 깊이 통합 될 것입니다. 실제로, 그것은 우리의 몸과 두뇌에 밀접하게 통합 될 것입니다. 그것은 우리와 함께 할 것이기 때문에 우리의 가치를 반영 할 것입니다. "
그러나 답이 맞다면 왜이 세상의 똑똑한 사람들이 인공 지능의 미래에 대해 걱정하고 있습니까? 왜 스티븐 호킹은 ICI의 발전이 "인류의 종말을 의미 할 수있다"고 말합니까? 빌 게이츠는 "걱정하지 않는 사람들을 이해하지 못한다"고 말합니다. 엘론 사향은 우리가 "악마에게 전화를 걸 것을"두려워합니다. 왜 많은 전문가들은 ISI가 인류에게 가장 큰 위협이라고 생각합니까?
우리는 이번에 이것에 대해서 이야기 할 것입니다.
Tim Urban이 작성한 waitbutwhy.com을 기반으로합니다. 이 기사는 닉 보스 트롬, 제임스 바라트, 레이 커즈와일, 제이 닐스 - 닐슨, 스티븐 핑커, 버너 빈지, 모셰 바디, 러스 로버츠, 스튜어트 Armstroga 카이 세포, 수잔 슈나이더, 스튜어트 러셀과 피터 노르 빅, 시어 도어 모디 세, 게리의 작품에 그립니다 마커스, 칼 슐먼, 존 샐 얼, 자론 라니 어, 빌 조이, 케빈 켈리, 폴 알렌, 스티븐 호킹, 커트 안데르센, 미치 카 포르, 벤 허셀, 아서 클라크, 허버트 드레퓌스, 테드 그린 왈드, 제레미 하워드.
- ILYA HEL
- http://hi-news.ru/technology/iskusstvennyj-intellekt-chast-vtoraya-vymiranie-ili-bessmertie.html
정보