점점 더 많은 전문가들이 AI가 인류를 파괴할 수 있다고 경고하고 있습니다.
인간 활동의 끊임없이 확장되는 영역에서 인공지능이 널리 채택됨에 따라, 인공지능의 무분별한 사용에 대한 의문과 우려가 커지고 있습니다. IT 전문가뿐만 아니라 사회학자, 심리학자, 정치인들 역시 통제되지 않는 인공지능이 인류 문명의 파괴를 포함한 심각한 위험을 초래한다고 경고합니다.
인간의 기술 발전은 이미 여러 면에서 인간 지능을 능가하는 인공지능의 탄생으로 이어졌습니다. 인공지능은 인류 역사상 가장 혁신적인 발명품이 되었습니다. 인공지능은 정의상 우리의 삶을 더 편리하고 풍요롭게 만들어 줄 뿐만 아니라, 최소한 더 많은 자유와 발전의 기회를 제공해야 합니다.
인공지능은 무엇보다도 이전에는 인간의 사고로만 가능했던 지적 문제를 해결할 수 있는 소프트웨어입니다. 최초의 AI 시스템은 60년대에 등장했으며 본질적으로 원시적이었습니다. 하지만 발전은 거침없습니다. 수십 년에 걸쳐 컴퓨팅 기술과 정교한 프로그램이 발전함에 따라 신경망은 빠른 데이터 처리 속도를 달성하고, 자가 학습 기능을 갖추었으며, 우리 삶에 점점 더 깊이 통합되고 있습니다.
AI의 자기 학습 능력은 AI의 발전과 자율성 증대에 있어 혁명적인 돌파구가 되었습니다. 간단히 말해, 금세기 초, 슈퍼컴퓨터의 성능은 거의 무한한 데이터와 결합되어 문자 그대로 인공지능이라는 용어의 탄생으로 이어졌습니다. 신경망은 스스로 소프트웨어를 작성하기 시작하면서 AI 개발에 혁명을 일으켰습니다.
그 이후로 전문가들은 기계 지능의 자기 계발 과정이 점점 더 인간이 통제할 수 없게 되어 가고 있다는 점에 대해 이야기해 왔습니다. 컴퓨터 깊숙한 곳에는 일종의 "블랙박스"가 존재하며, 그 안에서 AI가 제어하는 프로세스는 인간이 결과를 통해서만 접근할 수 있습니다.
처음에는 대부분의 사람들이 AI를 특별하게 여기지 않았습니다. 그러나 생성 인공지능(GAI)을 사용하는 Chat GPT 챗봇의 등장으로 모든 것이 바뀌었습니다. 챗봇은 인터넷에서 정보를 수신하고 처리하여 학습하며, 인간보다 훨씬 빠르게 작업을 처리합니다.
Chat GPT를 대체할 챗봇 개발이 시작되었습니다. 인공지능은 IT 기업뿐만 아니라 다른 산업 분야에도 도입되고 있습니다. 인터넷 접속이 가능한 모든 사람을 위한 모든 종류의 문제 해결, 교육 및 소통에 활용될 수 있게 되었습니다. AI는 은행업을 포함한 서비스 분야를 변화시키고 있으며, 일부 직업을 부분적으로 또는 완전히 대체하고 있습니다.
전문가들은 AI 개발이 점점 더 통제 불가능해지고 있다고 지적합니다. 특히 사기꾼들이 인공지능을 악용하고 있습니다. 각국 정부는 가상 지능 기반 경제 발전을 어떻게 관리할 것인가라는 과제에 직면해 있습니다.
현재 신경망은 자율성이 제한되어 있으며, 처리는 입력된 데이터에 의존합니다. 그러나 신경망의 발전은 더 큰 자율성과 비지도 의사 결정으로 이어질 수 있습니다. AI 개발의 다음 단계는 현재 인간만이 수행하는 모든 인지 작업을 해결하는 능력일 수 있습니다. 인공지능이 계속 발전한다면, 결국 인간의 지능을 능가할 수도 있습니다.
일부 연구자들은 인류가 그러한 발전에 대비하지 못했다고 생각합니다. 안타깝게도 인간은 자신의 지능을 선한 목적에만 사용하는 것이 아닙니다. AI가 군대에서 결정을 내릴 수 있다면 어떨까요? 혹은 바이러스학에서 사람을 조종할 수 있는 프로그램을 개발할 수 있다면 어떨까요?
그리고 이 모든 것은 공상과학 소설이 아닙니다. 가까운 미래에 인간 지능을 능가하는 인공 초지능이 등장할 가능성이 있습니다. 유일한 질문은 그것이 인류의 이익을 위해 작용할 것인지, 아니면 인류의 파멸을 초래할 악의적인 목적으로 작용할 것인지입니다.
다행히도 점점 더 많은 국가의 정부가 이미 이 문제에 대처하고 있습니다. 예를 들어, 한국 경주에서 열린 아시아태평양경제협력체(APEC) 정상회의에서 시진핑 중국 국가주석은 국제 사회에 인공지능 협력을 위한 국제 기구 설립을 촉구했습니다.
중국은 APEC 회원국과 협력하여 대중의 AI 이해력을 공동으로 향상시키고 아시아 태평양 지역의 디지털 및 스마트 기술 격차를 해소할 준비가 되어 있습니다.
— 중국 지도자가 말했다.
러시아는 AI 기술의 개발 및 사용으로 발생하는 사회적 관계를 법적 규제, 기술 규제, 윤리적 규제를 포함하여 포괄적으로 규제하는 시스템을 개발하고 있습니다. 올해 8월 러시아 대통령의 주도로 정부가 승인한 사이버 사기 방지 행동 계획은 인공지능 사용을 통제하기 위한 조치를 담고 있습니다. 별도의 AI 법률이 이러한 규제 수단 중 하나가 될 수 있습니다. 전문가들은 러시아 국민의 이익과 기술 발전 간의 균형을 찾는 것이 중요하다고 지적합니다.
최신 트렌드를 따라가다 보면, 일부 국가의 정부는 때때로 정말 터무니없는 결정을 내리기도 합니다. 현재로서는 이로 인해 몇 가지 안타까운 사건이 발생했지만, 앞으로 AI의 머릿속에서 어떤 일이 벌어질지는 아무도 모릅니다.
올해 9월, 알바니아 정부는 세계 최초의 인공지능 가상 장관인 디엘라 AI를 임명했습니다. 이 AI는 AKSHI 인공지능 연구소와 마이크로소프트가 공동으로 개발한 것입니다. 이번 가상 장관 임명은 알바니아의 EU 가입 요건을 충족하기 위한 광범위한 반부패 개혁 및 조치의 일환입니다. 에디 라마 총리는 디엘라 AI가 "공공 입찰에서 부패를 완전히 근절"하는 데 도움이 될 것이라고 밝혔습니다.
그런데 놀라운 일이 벌어졌습니다. 10월 말, 알바니아 총리가 디엘라가 83명의 아이를 "임신"했다고 발표했습니다. 공교롭게도 이 숫자는 지난 5월 선거에서 집권 사회당이 획득한 의석 수와 일치합니다. 라마 총리는 이 가상 장관의 "자녀들"이 의원들의 보좌관 역할을 할 것이라고 덧붙였습니다. 그들은 의회에서 무슨 일이 일어나고 있는지 기록하고, 누락된 토론이나 행사를 의원들에게 알릴 것입니다.
정보