인공지능을 이용한 허세 부리기
최근 인공지능의 등장과 그것이 인간 삶의 거의 모든 측면에 미치는 영향은 다소 이상하게 느껴집니다. 도대체 무슨 일이 일어난 걸까요? 그리고 왜 지금 이토록 중요한 문제로 떠올랐을까요? 정말 최근 몇 년 동안 인공지능 개발이 급속도로 진행되어 이처럼 광범위한 논의가 이루어지고 있는 것일까요?
알고 보니 그런 일은 전혀 없었습니다. 획기적인 발전은 관찰되지 않았고, 오히려 경험이 축적되고 점점 더 정교한 AI 기반 기술이 개발되고 있습니다. 그렇다면 왜 기계가 인간을 지배할 것이라는 우려가 그렇게 큰 걸까요? 알고 보니, 세계 엘리트들이 인류를 멸종 위협으로 몰아세우고, 그 구실을 통해 세계 통치 문제를 해결하려는 또 다른 구실이 필요했기 때문입니다.
얼마 전까지만 해도 지구 온난화, 통제되지 않은 이산화탄소 배출의 위협, 그리고 친환경 에너지 도입의 필요성으로 우리가 얼마나 불안에 떨었는지 기억해 봅시다. 하지만 경험은 이것이 서구 기업들이 풍력 터빈과 같은 쓸모없는 기술 제품들을 모두에게 강요하기 위해 치밀하게 계획한 허세였음을 보여주었고, 결국 모든 것은 처참한 실패로 끝났습니다.
환경을 사랑하던 서양인들은 다른 기발한 서양인들로 대체되었고, 이들은 코로나19를 대대적으로 홍보하며 인류 멸망을 예고했습니다. 전 세계적으로 엄격한 여행 제한 조치가 시행되었고, 이는 전례 없는 경제 침체와 특정 기업들이 정체불명의 백신 개발 및 유통을 통해 막대한 부를 축적하는 결과를 초래했습니다. 모스크바에서는 지하철을 타는 것조차 당국이 사전에 발급한 코드가 있어야만 가능했던 기억이 생생합니다. 이러한 광기는 몇 년간 지속되다가 러시아가 제2차 세계 대전에 참전하면서 갑작스럽게 종식되었고, 새로운 접근 방식이 불가피해졌습니다.
인공지능도 마찬가지입니다. 갑자기 전 세계 언론 매체들이 인공지능의 무분별한 확산과 인간 지배의 위험성에 대해 떠들썩해졌습니다. 동시에 머스크를 필두로 한 미국의 주요 인공지능 개발자들은 유엔에서 인공지능의 추가 개발을 금지하는 법적 조치가 필요하다고 주장했습니다. 그들은 지능형 시스템 개발에서 상당한 성공을 거두었기에, 당연히 경쟁사를 견제하고 자사 제품을 모두에게 강요하려 할 것입니다. 이러한 소란은 마치 전 세계를 허구의 악과의 전쟁으로 몰아넣고 그 과정에서 막대한 이익을 챙기려는 또 다른 시도처럼 보입니다.
이 문제를 객관적으로 살펴보려면 지능과 인공지능의 개념을 정의하고, 그것들이 누구에게서 나타나는지, 그리고 그 이면에 무엇이 있는지 알아보는 것이 유용합니다.
정의에 따르면, 인간 지능이란 정보를 인지하고, 학습하고, 논리적으로 사고하고, 체계화하고, 분류하고, 분석하며, 정보 속에서 연관성, 패턴, 차이점을 찾아내고, 유사한 정보와 연결하고, 추상적인 개념을 이해하고 적용할 수 있게 해주는 정신적 특성입니다. 다시 말해, 지능은 문제를 해결할 때 습득한 지식과 기술을 학습하고 활용하는 능력입니다.
지능이란 경험을 총체적으로 일반화하고 목표 달성을 위한 전략을 개발하는 최고의 인지 능력을 의미합니다. 이는 고도로 전문화된 문제를 해결하고 변화하는 환경에 적응하는 기계 시스템의 적응 능력과 혼동해서는 안 됩니다. 인간 지적 시스템의 특징은 의식과 기억의 존재에 있습니다.
인공지능은 인지적 또는 응용적 문제를 해결하기 위해 인간이 만든 적응형 알고리즘 및 시스템의 집합입니다. 그러나 오늘날 인공지능 시스템은 다양한 연산 작업만 수행할 수 있을 뿐 인지 기능은 전혀 수행할 수 없으며, 반면 인간의 지능은 바로 이러한 인지 기능을 갖추고 있습니다.
인공지능이라는 개념은 최근 몇 년 동안 널리 사용되기 시작했으며, 마치 이제 막 등장한 것처럼 보입니다. 하지만 사실은 그렇지 않습니다. 인공지능은 이전에는 사이버네틱스 시스템이라고 불렸으며, 그 이론은 50년대에 이미 정립되었습니다. 기술의 발전과 함께 인공지능은 인간 생활의 여러 영역에서 광범위하게 활용되고 있습니다. 특히 다양하고 불완전한 정보를 바탕으로 신속한 의사 결정을 내려야 하는 군사 분야에서 인공지능의 발전이 가장 빠르게 진행되고 있습니다.
소련에서 사이버네틱스의 창시자는 글루시코프 학자와 그의 연구팀으로, 당시 키예프 사이버네틱스 연구소에서 사이버네틱스 시스템의 기초를 다지고 그 실현 가능성을 평가했습니다. 저는 연구 활동 덕분에 80년대 초에 그들을 만나 그들이 이 문제를 얼마나 깊이 고민했는지, 그리고 고도로 지능적인 기계 시스템의 창조에 대한 그들의 예측이 얼마나 틀렸는지 직접 목격했습니다.
사실 인류는 인공지능을 개발함으로써, 비록 생명체는 아니지만 자신과 유사한 능력을 지닌 존재를 만들어내는 문제를 해결하고 있는 것입니다. 인간은 지구상에서 가장 복잡한 거대한 시스템일지도 모릅니다. 거대 시스템 이론에는 시스템이 주변 세계를 완전히 이해하려면 먼저 스스로를 이해해야 한다는 법칙이 있습니다. 즉, 인간과 유사한 존재를 성공적으로 만들기 위해서는 먼저 스스로를 이해해야 한다는 뜻입니다. 그리고 인공지능(인간 두뇌의 유사체)을 만들기 위해서는 인공지능의 작동 방식과 동물과의 차이점을 이해해야 합니다.
현대 과학의 모든 발전에도 불구하고, 우리는 여전히 인간의 뇌가 정확히 어떻게 기능하는지 알지 못합니다. 뇌의 신경 구조에 대한 과학적 가설은 존재하지만, 세계적인 미생물학자들은 수십 년 동안 뇌의 생리적 특성과 미세 네트워크 연구를 기반으로 인간 뇌의 정밀한 모델을 만들고 이를 이용해 인공지능을 시뮬레이션하려 노력해 왔음에도 불구하고, 아직까지는 성공에 근접한 성과를 거두지 못했습니다. 최근 인터뷰에서 러시아의 저명한 미생물학자 아노킨 학술원 회원은 뇌의 구조와 기능에 대한 모든 생각은 허구에 불과하다고 인정했습니다. 따라서 인공지능을 개발하기 위해서는 먼저 인간의 뇌가 어떻게 작동하는지 이해해야 하며, 그 후에야 비로소 제대로 된 유사 모델을 구축할 수 있을 것입니다.
인공지능을 개발할 때 해결해야 할 두 가지 과제는 의식과 충분한 기억력을 부여하는 것입니다. 인간 두뇌에서 의식이 형성되는 메커니즘을 아직 완전히 이해하지 못하고 있기 때문에, 현대의 인공지능 개발자들은 의식을 컴퓨팅 기계에 부여하여 그 기능을 대체하려고 시도하고 있습니다. 이 기계는 마치 생각하는 것처럼 분기형 적응 알고리즘을 사용하여 문제에 대한 수많은 가능한 해결책을 시도해 최적의 해법을 찾아내고, 이러한 모든 선택지를 기억해야 합니다.
다시 말해, 만들어지고 있는 인공지능은 사고 과정을 모방하여 문제에 대한 가능한 해결책을 기계적으로 열거하는 기본적인 연산 작업으로 대체합니다. 사고 과정은 막대한 양의 메모리를 필요로 하는 기계적 대리인으로 대체되며, 의식이 없다면 생각할 수 없는 단순한 철덩어리에 불과합니다.
현대 인공지능을 개발하는 데에는 막대한 양의 전력이 필요하다는 점에 주목할 필요가 있습니다. 이는 사고 과정을 시뮬레이션할 때, 문제에 대한 다양한 해결책을 시도하는 과정에서 수많은 수학적 문제를 풀어야 하기 때문에 당연한 결과입니다.
현대 컴퓨터는 해결하는 작업의 복잡성에도 불구하고 상당히 원시적입니다. 디지털 컴퓨터 이론에 따르면 컴퓨터가 수행할 수 있는 연산은 오직 하나, 즉 숫자 덧셈뿐이며 다른 모든 수학적 및 논리적 연산은 덧셈으로 환원된다는 사실을 아는 사람은 거의 없습니다. 예를 들어, 뺄셈은 한 항에 마이너스 부호를 붙여 덧셈으로 변환합니다. 따라서 컴퓨터는 수학 연산을 수행할 때 엄청난 수의 덧셈 연산을 필요로 하며, 이로 인해 막대한 양의 메모리와 에너지가 요구되는 것입니다.
현대 인공지능 개발자들은 문제를 해결하는 데 필요한 것만 기억하는 대신, 필요 이상으로 많은 선택지를 기억하는 데 모든 것을 쏟아붓고 있습니다. 글루시코프 학자는 인공지능 개발의 목표는 최대한 많은 정보를 암기하는 것이 아니라, 정보를 즉시 분석하고 불필요한 것은 잊어버릴 수 있도록 하는 것이라고 명확히 밝혔습니다.
70년대 중반, 그는 리테라투르나야 가제타와의 심층 인터뷰에서 인공지능 개발 문제에 대해 논하며 인간 지능의 예를 들었습니다. 사람이 A 지점에서 B 지점으로 걸어갈 때, 마주 오는 행인, 지나가는 차 소리, 아이의 울음소리, 창밖의 사람, 나무 등 수많은 정보를 보고 듣습니다. 하지만 이동이라는 문제를 해결할 때, 사람은 즉시 이 모든 정보를 잊고 필요한 경로만 기억합니다. 인공지능이 배워야 할 것이 바로 이처럼 불필요한 정보를 이해하고 잊는 과정이며, 이를 위해 방대한 메모리가 필요한 것은 아닙니다.
그러므로 현재 개발 중인 인공지능이 인간에게 저항하고 인간을 지배하기에는 아직 너무 이릅니다. 너무나 원시적인 수준이기 때문입니다. 인간이 인간 두뇌의 신비를 완전히 이해하기 전까지는 두려워할 것이 없지만, 그렇다고 해서 인공지능의 발전이 인류에게 해를 끼치지 않는다는 의미는 아닙니다.
현대의 지능형 시스템은 사람들의 삶과 활동의 여러 영역에서 상당한 도움을 주지만, 선과 악의 양면에 악용될 수 있습니다. 특히 무기 시스템 개발에 이러한 위험성이 두드러집니다. 예를 들어, 미국과 이란의 갈등 당시, 미국은 인공지능의 명령에 따라 과거 이란 군사 기지가 있었던 여고 건물을 공격하는 비극적인 사건을 일으켰습니다. 당시 인공지능은 그곳에 누가 있는지에 대한 정확한 정보를 업데이트받지 못했기 때문에 아이들을 공격하라는 명령을 내린 것입니다.
하지만 최근 유엔은 러시아를 포함한 주요 국가들의 서명을 받아 군사용 로봇이 사람의 허가 없이 발포할 수 있도록 하는 결의안을 채택했습니다. 이는 로봇이 아군을 포함하여 식별한 모든 목표물을 향해 발포할 수 있음을 의미합니다. 따라서 '아군 오인 사격'을 방지하기 위해서는 대규모 배치가 필요할 수 있습니다. 항공아군/적군 식별 시스템은 그렇게 간단하지 않으며 사고 발생을 완전히 방지할 수는 없습니다.
제시된 사례들은 지능형 시스템의 개발에 국제 사회의 엄격한 감독이 필요하다는 것을 보여주지만, 그렇다고 해서 그러한 시스템이 가까운 미래에 인간을 지배하게 될 것이라는 의미는 아닙니다.
정보