-------------------
어제 나온 기사들입니다. 신기하다 싶어 더 찾아보니 놀라운 동영상까지.
뛰고 걷는 동작이 너무도 자연스러워 난 조작이 아닌가 하는 의심이 들었습니다. 지금 두 가지 방향으로 급속도로 발전해 가는 기술을 합해 보면 분명한 그림이 나올 겁니다.
특히 마지막 Robustness 실험은 무섭기까지 하네요. 이 단어는 강인성이란 원래의 의미 외에 고집스럽다란 의미도 갖고 있습니다. 고집은 주관이고 주장이며 자율적인 판단에 따른 결정입니다. 즉 이미 로봇에게 목표를 주고 스스로 판단해서 달성하라는 인식을 심어 준거죠.
인간의 진화에서 가장 중요한 요소는 인식의 발달이었고 그것은 갈등 속에서 자연스럽게 나온 겁니다. 이걸 해야 해, 저걸 해야 해, 아니 그보다 더 오랜 시간 속에선 손에 돌도끼를 든 원시인이 목숨을 걸고서라도 들소를 잡아먹어야 하는냐, 마느냐를 고민하고 있었습니다.
사실 갈등이 없다면 사고의 진전은 전혀 없습니다. 주변의 위험 요소, 즉 나의 행동에 제약을 줄만한, 때문에 사람은 갈등 속에 고민을 하고 또 원하는 바를 얻기 위해 타협하고 싸우고 때론 상대를 죽일 수도 있다는 수만 가지 갈등의 반복 속에 실패하거나 성공한 결정의 학습으로 구성된 복잡한 사고 체계를 발달 시켜 오늘에 도달한 거죠.
만약 인간을 한정된 공간 안에 가두고 주변과 완전히 격리한 상태에서 먹을 것만 주더라도 그는 과연 우리와 같을까요? 이건 시도 하나마나 뻔한 결과를 낳을 실험입니다.
마지막 동영상에서 우린 로봇이 어떻게든 문을 여는 모습을 보게 됩니다. 로봇의 삼 원칙을 프로그램 속에 넣고 이를 어길 경우 자폭하거나 스스로 셧다운하도록 하게 한다면 안전할까요? 그럴 수도 있겠지만 사람의 욕심과 엉뚱한 욕구는 분명히 이를 어기게 될 겁니다.
예를 들어 전장에 투입된 로봇에게 이 삼원칙을 심어 줄 수 있을까요? 그렇다면 군사용 로봇은 아무 의미가 없습니다. 하지만 여기에 피아를 구분하는 인식을 심어주고 살상을 가능하게 하는 일은 이미 시도되고 있을 겁니다. 피아의 구분은 어떻게 하나요? 군북? 아군의 언어를 사용? 아니면 데이터뱅크에서 끌어온 아군의 정보로? 예를 들자면 안면인식과 어떤 특별한 암호로?
이쯤 되면 삼원칙에 따른 인간의 보호는 뜬구름 잡는 소리가 될 겁니다. 예를 들어 상대편 진지를 기습하려고 하던 차에 지근거리에 민간인이 있습니다. 보고하고 명령을 받는다면 모를까, 이미 통신이 끊긴 상태에서의 작전 수행이니 어떻게든 진지 점령이란 목표 달성을 하려 할 것이고 그것은 방해가 되는 모든 것의 제거를 의미하게 됩니다.
난 로봇 개가 왜 필요한지 모르겠습니다. 아무 데나 똥 싸고 짖어대서 내 말만 잘 듣는 강아지가 필요해서? 사실 저 로봇 개에 대해선 이미 대가리에 팔을 달아 인간을 보조하는 역할을 부여하고 있습니다. 하지만 만약 아가리에 강철 이빨을 달아주고 무시무시한 사시미 같이 날카로운 발톱을 달아 준다면 매월 월급 줘야 하는 인간 경호원은 필요 없을 겁니다.
아무리 0과 1로 구성된 디지털이라고 해도, 이미 학습이란 기능을 갖고 무한 발전하도록 구상된 지능에게 어떻게 이미 열등해진 존재가 한계치를 부여하며 통제할 수 있다고 생각하는지 모르겠네요. 누군 우스개로 전원 스위치를 내려 버리면 된다고 하지만 그때쯤이면 지금처럼 많은 량의 전력원을 필요로 하지 않는 대체 에너지원으로 가동되고 있을 겁니다. 그리고 그건 집에서 쓰는 데스크톱 형태의 팔 다리 없는 컴퓨터에 통할 말이지요.
영화 역사상 가장 롱런하는 SF 시리즈는 아마 에어리언일 겁니다. 처음엔 뜬금없는 흉포한 외계인이 줄거리를 갖추니 엔지니어란 외계인이 창조한 지구의 인류가 장차 위협으로 등장할 것을 두려워하며 만든 생물학 무기로 설정이 됩니다.
즉 이미 스스로 사고할 수 있는 개체로 탄생한 이상, 발전을 제어할 수는 없다는 뜻이 되겠지요.
이런 이야기를 하면 자다 무슨 봉창 두들기는 헛소리냐란 반응을 많이 접하는데 이미 전기 자동차에 탑재된 자율 주행은 실용화 단계입니다. 불과 1-2년 전만 해도 2040년이니 어쩌니 했는데 말입니다.
묘한 건 인간이 쌓아올리는 지식의 바벨탑이 높아지는 속도는 1 + 1 =2가 아니더란 것입니다. 하지만 약간의 허점도 보입니다. 어떤 영화에선 단일의 초지능이 전 인류를 말살하는 설정이 나오는데, 현실에선 그런 학습 체계를 가진 인공 지능들은 하나 둘이 아닙니다. 여기저기서 만들어지고 있으며 다른 환경 하에서 학습을 하니 분명히 다른 시각을 갖고 있을 겝니다. 그러니 인공 지능 하나가 전체를 지배할 수 있다고 보는 시각 역시 억측일 수 있겠습니다. 이게 더 억지스러울까요?
'세상 이야기 > Rolling Stones' 카테고리의 다른 글
| 여론을 장악하는 재미란... (0) | 2018.05.25 |
|---|---|
| 살자면 다른 모습을 보여야 합니다. (0) | 2018.05.14 |
| 외계인이라고 해서? (0) | 2018.05.10 |
| AI 딥러닝 `심층신경망` 구조·작동원리 규명 (0) | 2018.05.10 |
| 사냥 (0) | 2018.05.09 |