메뉴

탑티어 브레인들이 느낀 AI시대의 공포

 

지난달 28일 문재인 대통령은 서울 코엑스에서 열린 '데뷰(Deview) 2019' 행사장을 찾아 정부의 인공지능 기본구상을 알렸습니다. 인공지능(Artificial Intelligence·AI)과 관련한 모든 분야에 투자와 지원을 하는 인공지능 정부가 될 것을 공언했으나 아직은 틀 잡기에 머문 상황인 만큼 짚을 부분이 수두룩하죠. 아직은 좀 먼 얘기지만 그래도 이런 상황에선 학계, 산업계 구분을 벗어나 자타공인 지구의 브레인으로 언급되는 유명인들의 견해를 경청할 필요가 있습니다. 

 

테슬라 CEO - 엘론 머스크

 

"인간보다 지능화된 로봇이 궁극적으로 독재자가 될 가능성이 있다. 인간보다 더 월등한 지능을 지닌 인공지능의 '초지능성'에 대해 우려해야 한다. 적어도 인간 독재자는 죽음을 피할 수 없다. 그러나 인공지능에게는 죽임이란 없다. 영원이 살 것이며 이는 인간이 피할 수 없는 불멸의 독재자를 접하게 된다는 것이다."

 

"인간의 조종을 요구하지 않는 자율형 무기가 전쟁 분야에서 세 번째 혁명이 될 수 있다. 개발되면 이전보다 더 큰 규모로, 그리고 인간이 이해할 수 없을 정도로 빠르게 전쟁이 일어날 수 있게 된다. 또 지능형 무기는 독재자나 테러리스트들이 무고한 사람을 공격하는데, 또는 해킹됨으로써 바람직하지 않은 방식으로 동작하는데 활용될 수 있다. 일단 이 판도라의 상자가 열리면 닫히기 어려울 것이다. 우리는 인공지능에 대해 매우 신중해야 한다고 생각한다. 인류의 가장 큰 실존적 위협을 생각한다면 그렇다. 사람들이 어리석은 일을 하지 않도록 국가적, 국제적 차원에서 규제 감독 행위가 있어야 한다고 나는 점점 더 생각하고 있다." 

 

"딸기를 수확하는 자가진보형 AI를 개발했다고 치자. 이 인공지능이 원하는 것은 점점 더 딸기를 잘 따는 것이다. 그래서 이 인공지능은 온 세상을 딸기밭으로 만들 수도 있다." 

 

월드와이드웹(WWW)의 창시자 - 팀 버너스 리

 

"AI가 대출 여부를 결정하기 시작할 때, 독자적으로 기업을 설립하고 지주 회사를 설립할 때, 나아가 이를 기업들을 운영하기 위해 자신의 새로운 버전을 생성할 때를 생각해보자. 이들 AI 기업들 사이에 적자생존을 벌이는 시점이 올 것이다. 이들이 공정하게 움직일 것임을 의심하기 시작하는 지점이 다가올 것이다. 그들이 어떻게 움직이는지 설명하기 어려운 시점이 올 것이다."

 

 

아인슈타인 이후 최고 천재 물리학자 - 스티븐 호킹

 

"생물학적 두뇌와 컴퓨터 연산에서 성취되는 것 사이에 큰 간극이 있다고 보지 않는다. 이론적으로 컴퓨터는 인간의 지능을 모방하고 초월할 수 있다. 간단히 말해 강력한 AI의 부상(浮上)은 인간에게 최고 또는 최악의 것이 될 것이다. 우리는 아직 그 결과가 무엇일지 모른다. 생물학적 진화가 느린 인간은 인공지능과 경쟁할 수 없고 결국 대체될 수 있다. 앞으로 100년 안에 AI가 사람을 따라잡을 것이다. 그 시점이 되면 우리는 컴퓨터가 인류와 발맞춘 목표를 가지고 있는지 확인해야 할 것이다."

 

마이크로 소프트 창업자 - 빌 게이츠

 

"초지능에 대해 우려하고 있다. 일단 기계는 인류에게 많은 일을 해줄 것이며 초지능이 되지는 않을 것이다. 그러나 수십 년이 지난다면 인공지능은 우려 대상이 될 수 있다. 나는 엘론 머스크를 비롯한 몇몇 사람들의 우려에 동의한다. 우려하지 않는 이들을 이해할 수 없다."

 

애플 공동 창업자 - 스티브 워즈니악

 

"인간은 로봇의 애완동물이 될 것이다. 소름끼치는 미래가 열릴 수 있다는 것과 인류에게 나쁜 결과를 초래할 수 있다는 점에 동의한다. 만약 기계가 사람들을 온통 돌보도록 한다면 기계는 궁극적으로 인류보다 더 빠르게 생각할 수 있을 것이다. 그리고는 느린 인간을 제거해 기업을 더 효율적으로 경영할 수 있다고 판단할 수 있다. 기계가 우리보다 더 똑똑해질 것이라고 본다. 단 그들이 인류보다 더 똑똑해진다면, 인류가 필요하다는 사실도 깨달을 것이다."

 

/이슈에디코 강민호 기자/