default_top_notch
default_news_top
default_news_ad1
default_nd_ad1

문어의 신경이 자율시스템 문제 해결에 도움을 줄 수 있을까?

기사승인 2019.10.07  17:01:35

공유
default_news_ad2

새롭게 등장하는 인공지능과 같은 자율 시스템들은 혁신적이면서도 한편으로는 인류를 위협한다. 이러한 기술의 발전이 예측 불가능해질 때 문제가 발생하는 것이므로, 예측 불허한 윤리적이지 못한 상황이 발생하지 않도록 미리 방지해야 한다. 2019년 2월 4일 포브스(Forbes) 보도이다.

 

소개

​인간은 지구상의 가장 가차 없고 망각적인 살인자인데, 인간들의 폭력은 다른 어떤 생물 종보다도 훨씬 넓은 범위에 작용한다. 이러한 치명적인 폭력은 다른 종들을 죽일 뿐만 아니라, 우리 자신들도 죽이다시피 인간 사회에 광범위하게 퍼져있다. 이러한 이유는 인간들은 분노와 폭력의 신경회로가 그들의 생명 활동에 암호화되어있고, 폭력은 인간의 모든 행동처럼 인간의 뇌에서 통제되기 때문이다.

​그렇기에 인간의 뇌와 같은 능력을 기계에서 구축하려는 노력이 거세짐에 따라, 폭력의 신경회로가 기계에서 알게 모르게 복제되고 있을 때, 우리가 기계 지능에서 폭력의 스위치를 복제하고 전달하는 것을 허용하고 있다는 것을 이해할 필요가 있다.

​이제 인류나 기계에 개의치 않고, 폭력에서 가장 중요한 요소는 아마 정치학이 아닌 생물학일 것이다. 그러므로, 인간이 분노와 폭력의 신경회로를 가질 때, 이를 기계 지능에 똑같이 복제할 필요가 있는가? 공감과 폭력은 인간의 뇌에서 같은 회로를 가지고 있고, 이를 기계 지능에 같은 수준으로 복제할 때, 빠르게 진화하는 자율 시스템은 인류의 미래에 붉은 깃발을 게양하고 있다.

​반면, 문어가 인공지능의 신뢰할 수 있는 기능을 개발하는데 모델이 될 수 있는 다른 방안이 있다.

자율 시스템의 부상

​여러 나라에서 보이는 것처럼, 스스로 생각하고 행동할 수 있는 자율 시스템은 부상하고 있다. 이러한 시스템들이 떠오르고 있기 때문에, 자율시스템의 적용으로 야기되는 위험은 인류를 파멸시킬 수 있다. 새롭게 등장하는 자율시스템 기술이 변화적이고 파괴적으로 보이며, 완전히 새로운 지능과 인간 생태계를 위한 문제 해결 능력을 사이버 공간, 지리 공간(CGS)에서 가능하게 하는 잠재력을 가지지만, 인간과 유사한 신경회로를 가지고 있고 하드웨어와 소프트웨어가 함께 작동하는 지능형 자율 시스템에 대한 발상으로, 정보를 수집하고, 수집된 정보를 바탕으로 해결책을 찾고, 목표를 달성하기 위해 (인간을 죽이는 행위까지도) 행동으로 실행하는 것은 점점 더 무섭다.

​자율 시스템이 단순한 무인기계 이상의 것이라는 것을 이해하는 것은 중요하다. 변화하는 조건에 적응할 수 있고, 지식이 있으며, 코드에 내재한 제약이 없는 이러한 무인 자율시스템이 성능 향상, 안전 및 보안 강화, 비용 절감과 같은 광범위한 목표를 세울 때, 그러한 (인간의 신경회로에 기반한) 광범위한 목표를 달성하기 위해 취할 수 있는 조치와 결과는 그들을 예측할 수 없게 하며, 폭력을 일으키기 쉽게 만든다. 기계에는 인간을 포함한 다른 종들에 대한 폭력과 심지어는 제거하는 방향으로 돌리는 것이 불합리하지 않을 것이다.

​그렇기 때문에 문제는 자율 시스템이 국가의 과학 및 기술 비전에 있어 중요해지는 동안, 우리가 인간처럼 신경회로를 지닌 지능을 만들어 그들이 스스로 생각하는 것을 허용하고 그들이 우리를 제거하지 않을 것이라고 맹목적으로 믿어야 하는지이다.

진화하는 자율 시스템

​국가 간에, 실용적인 응용을 위한 점점 더 정교해지는 자율 시스템이 광범위하게 개발 중이다. 그들은 높은 수준의 자율성을 보여주며, 인간의 통제 없이 독립적으로 업무를 수행할 수 있다. 오늘날 이러한 진화하는 자율 시스템은 외부로부터의 통제나 인간의 직접적인 개입 없이도 인간과 상호작용을 하고, 기계와 상호작용을 하고, 온라인 콜센터에서 고객과 대화를 할 수 있고, 로봇의 손을 움직여 정확하고 지속적으로 물건을 고르고 조작할 수 있으며, 0.001초 단위로 대량으로 주식을 사고팔 수 있으며, 시장으로 예측할 수 있고, 드론을 날리고 무기를 발사하며, 충돌을 방지하기 위해 방향을 바꾸거나 제동를 걸도록 차를 다룰 수 있고, 개별 인간과 그들의 행동을 구분할 수 있고, 벌금을 부과할 수 있고, 사이버 공격을 하고, 사이버 공격을 예방할 수 있으며, 집을 청소하고, 잔디를 깎고, 잡초를 뽑을 수 있으며, 감시와 보안을 제공할 수 있고, 대출도 할 수 있고, 우주 임무도 시행할 수 있다.

​인공지능의 무기화가 시작되었고, 때에 따라 자치의 힘은 이미 똑똑한 자율 시스템으로 이행하는 방향으로 나아가고 있다. 이것은 자율 시스템이 인간의 직접적인 통제 없이 독립적으로 행동할 수 있는 능력을 부여하고 이전에 가보지 않은 곳도 갈 수 있는, 훈련되지 않은 미개척 조건들도 탐구할 수 있는 능력을 부여한다.

​이것이 눈에 띄는 진전이지만, 우리는 자율 시스템과의 약속에서 위험으로 고개를 돌려야 한다.

​이러한 새로운 현실을 인정하여, 리스크 그룹은 리스크 라운딩에 있어 한스 뭄(Hans Mumm) 박사와 함께 자율 시스템에 대해 매우 필요한 논의에 착수했다.

복잡한 도전과 위험들

​자율 시스템의 응용을 확대하면서 인류 문명은 어떤 도전을 직면하게 될 것인가? 어떤 위험이 있을 것인가? 자율 시스템 능력의 개발을 평가하고 이해하는 것이 중요하지만, 인류 문명의 미래에 가져올 복잡한 도전들과 위험들을 평가하는 것이 더 중요하다.

​자율 시스템의 적용이 증가하는 것을 보면서, 우리는 먼저 이해하고 예측함으로써 관련 위험들을 평가하기 시작할 필요가 있다. 우리는 왜 자율 시스템에 인간의 뇌와 같은 신경회로를 부여하는 것인가? 우리가 인류를 책임질 수 없다면, 우리는 왜 인간과 유사한 신경회로를 가진 또 다른 지적인 종을 만들려고 하고, 왜 그들이 의무를 지고 책임감을 느끼기를 기대하는가?

​자율 시스템의 급속한 연구와 발전이 우리의 생존과 안보에 모호함을 가져온다는 것은 불행한 일이다. 하지만 너무 늦진 않았다. 우리는 인간을 닮은 (폭력적인 경향이 있는) 지능 두뇌 기계를 개발하는 과정을 역전시켜 바로잡을 수 있다.

다음은 무엇인가?

​자율성의 원리가 생동과 의사결정의 자유를 내포하면서도, 우리가 (현재의 설계와 개발에 대한 접근으로) 자율 시스템을 개발하는 방향으로 나아감에 따라, 인류 문명의 파멸은 거의 확실하다. 그러므로 우리 개인들이 왜 우리가 지능형 자율 기계에 인간의 폭력성에 관한 과학을 복제하고 있는지를 이해하고 평가하는 것이 시급하다.

​아마 다른 방법이 있을 것이다. (현재의 연구가 집중하고 있는) 중앙 집중화된 척추동물 인간의 뇌가 아닌, 두족류 문어로 신경망을 정의하고 설계하는 것을 고려해보자. 문어는 훨씬 더 큰 신경 시스템과 더 큰 인지 복잡성으로 진화해왔으며, 아마 분산 시스템을 사용하고 실행하는 지능적인 외계 종 중 가장 근접한 것일 것이다. 이것은 아마 우리가 분산된 경제를 발전시키는 방향으로 나아가면서, 자율시스템을 움직이는 인공지능에 대한 접근법이 인류 문명과 안보의 미래에 있어 더 타당한가에 대한 논의의 중심일 것이다.

​이제 인간 대신에 문어의 신경으로 자율시스템을 개발할 방법을 탐색할 때이다.

 

이건주 인턴기자 sustainability@sjournal.kr

<저작권자 © 지속가능저널 무단전재 및 재배포금지>
default_news_ad5
default_side_ad1
default_nd_ad2

인기기사

default_side_ad2

포토

1 2 3
set_P1
default_side_ad3

섹션별 인기기사 및 최근기사

default_side_ad4
default_nd_ad6
default_news_bottom
default_nd_ad4
default_bottom
#top
default_bottom_notch