Are you ready?

-----

양현경-너무아픈 사랑은 사랑이 아니었음을

나이가 드니 갈수록 기억력이 감퇴한다. 가끔 가게에 오시는 연세 드신 분들 중엔 그제 한 이야기, 어제 했고, 오늘 다시 하시는데, 분명히 내일도 하실게다. 나도 점차 그 경계 안으로 드는 걸 느끼는 순간은 이 제목으로 예전에 쓴 글인가 아닌가, 긴라 민가 할때다.

연전 무인 주행에 대한 이야기가 슬금슬금 기어나올 때, 난 대리 운전을 여즉지 하고 있는 친구녀석에게 뭔가 대책을 세워야 하지 않겠나 하고 물었을 때 의외로 그 넘은 뭔 쓸데없는 걱정을 하느냐고, 앞으로 십년 후에나 아니면 우리 죽고 난 다음에나 가능한 일 거라고 자신있게 단언하는게 아닌가.

나라고 뭐 대단한 근거가 있는 것도 아니고, 고작해야 신문 나부랭이에서 떠든 이야기 줏어 섬기는 정도라 그만 입은 다물었다만. 게다가 머리털 나게 하는 약이나 암 정복 따위의 기사에 얼마나 속았는지.

하지만 알게 모르게 신약들은 개발되어 왔고 이젠 위암 정돈 초기라면 쉬 완치될 수 있을 정도가 되었으며 개덕화만 봐도 굳이 대가리에 약 안처발라도 되겠다 싶을 정도로 가발 기술이 비약적인 발전을 하고 있지 않나. 그리고 다른 사람 대갈통도 떼서 엉뚱한 몸에 붙일 정돈데 그깟 머리 가죽 하나 쯤이야.

여하튼! 이넘이 낸 큰 소리는 그야말로 흰소리가 될 정도로 이젠 코앞에 닥친 불이 되었는데 다들 준비는 하시는가 모르겠다. 무인주행기술이 적용된다면 그 파급효과는 그야말로 엄청날 게다. 우선 택시부터 대리운전, 그리고 야간에 움직여야 하는 대형 화물차에 종사하는 이들이 일자릴 잃을게 분명한데 도대체 그 숫자가 얼마나 될지.

사실 인공지능이 가진 위험성에 대해 많은 이들이 걱정을 하고 있는데 개발자 입장에선 기우라고들 한다. 덧붙여 며칠 전에 빌 게이츠마저 인류는 더 행복해지리라 단언하지 않았는가?

하지만 인류가 먹이사슬의 최상위를 차지하는데 가장 큰 몫을 한 건 체력이나 강력한 이빨이 아닌, 지능이었고 그 지능은 다름 아닌 이성에 바탕을 둔 합리적 판단이었다. 즉 다른 동물보다 지능이 높기에  생존을 위해 혹은 위협을 제거하기 위해 보다 강한 동물을 사냥할 때 이성적으로 협업을 했고, 먹잇감이 없다면 - 악어떼가 이빨을 드러내고 있는 강이라도 뛰어드는 누우 떼처럼 기억하고 있는 일정한 루트를 가지 않고 - 과감하게 터전을 포기하고 새로운 루트를 개척할 수 있는 할 수 있는 합리적 판단을 할 수 있었기에 강자로 남은 것일 게다.

기계가 대신할 수 있는 인간의 일들 중 가장 이성적이지 못한 것이 바로 운전이다. 로드 레이지라고들 하는데 하여간 남자건 여자건 운전대만 잡으면 반미치광이가 되는, 그리고 그로 인한 사회적 손실이 얼마나 대단한가. 심지어 우리보단 100년은 앞선 교통문화를 가진 서구조차도 음주운전, 과속운전, 그리고 그외 수많은 법을 준수하지 않아 엄청난 댓가를 치르고 있으니 무인주행이야말로 가장 먼저 인간을 대체할 기술이라고 하겠다.

한편 일부 SF 영화에선 합리적이지 못한 인간들을 통제 하에 두려하는 인공지능의 반란이 혹은 아예 말살하려는 반역이 그려지고 있는데 항상 휴머니티란 장애물을 넘지 못하고 패배하고 만다만 그건 어디까지나 영화일 뿐이다.

여기서 주목해야 할 부분은 감정이 전혀 없는 이성적 판단과 감정이 개입된 이성적 판단이란 부분이다. 예를 들어 운행하는 차앞에 갑자기 뛰어든 아이들이 있다고 하자. 운전자가 죽어야 하는가, 아이들이 죽어야 하는가? 감정이 배제된 합리적인 판단은 아이들을 피해, 그리고 더이상의 피해가 없도록 하는 건데 그로 인해 운전자는 구할 수 없다면 AI는 소수의 희생을 택하게 될 것이다. 하지만 감정이 있는, 즉 주인을 구해야 생각한다면 무참하게 깔고 지나야 할 것이고.

도로와 자동차를 아무리 합리화해도 인간의 비합리때문에 항상 문제는 존재하게 된다. 다시 로드 레이지로 돌아가서, 난 인간의 손에 무언가 강력한 것이 쥐어진다면 누구든 악인으로 돌변한다에 표를 던지겠다. 난폭하기 짝이 없는 거대한 트럭 운전자와 시비가 붙어 서로 길에 나서면 실로 웃음이 나올 때가 한두번이 아니다. 키도 작고 힘도 없는 노인이거나 그렇지 않다 하더라도 한주먹거리도 되지 않을 위인들이 대부분이다. 왜 이렇게 사납게 변하는가? 그건 바로 자신이 탄 차를 자신으로 동화시키기 때문이 아닌가 모르겠다.

다시 생각해 보자. 우린 합리적이라서 지구를 정복하고 지배하며 하등한 존재들을 먹이나 노예로 부리고 있다. 그렇다면 우리보다 합리적으로 생각하는 존재가 있다면, 입으로만 합리적이고 행동으론 전혀 합리적이지 못한 인간을 그냥 두고만 보고 있을것인가. 합리적인 사고를 방해하는 건 감정이다. 그 감정을 통제할 수 있다면, 아니 아예 없앨 수 있다면 우린 AI를 지배할 수 있겠지만 그건 애초에 불가능하지 않는가. 따라서 우린 영원히 불합리할 수 밖에 없을 것이고 결국 개전의 정이 보이지 않는 인류는 AI를 포함한 나머지 생명체에 대한 중대한 위협으로 간주되고 말 것이다.

인간을 해치지 못하게 프로그램하면 된다? 다음은 아이작 아시모프가 주창한 삼대 원칙이다.

첫 번째 법칙
로봇은 인간에게 상해를 입히는 행동을 할 수 없으며, 또한 행동을 취하지 않음으로써 인간이 상해를 당하도록 방치해서도 안 된다.

두 번째 법칙
로봇은 첫 번째 법칙과 상충되지 않는 한 인간이 내린 명령에 복종해야 한다. 

세 번째 법칙
로봇은 첫 번째 법칙 및 두 번째 법칙과 상충되지 않는 한 자신의 생존을 보호해야 한다.

첫 번째 법칙은 말이 되는가? 이전 예를 생각해 보시라. 아이들이 죽느냐 운전자가 죽느냐 이다. 아무리 번개 같은 계산능력으로 따져도 둘 중 하나는 필히 죽어야 한다면?

두번 째도 마찬가지이다. 인간에게 상해만 입히지 않으면 어떤 명령에도 복종해야 한다면 그건 지능이 없는 존재에게나 가능한 일일게다. 우리보다 지능이 낮은 개조차도 불합리한 명령엔 주인조차 물어 버린다. 어찌 더 뛰어난 존재가 언제까지고 복종만 하겠는가?

세번 째도 역시 같은 맥락에서 이해할 수 있다.

우린 영혼이란 것을 믿고 있다. 그러나 그 영혼이란게 과연 과학적으로 입증 가능한가? 또 예를 들어 갓난애를 늑대 사이에서 자라게 놔두면 늑대가 되고 침팬지들에게 던져주면 침팬지가 되고 만다. 그리고 아무리 교화를 해도 인간으론 되돌아 오지 못했다.

결국 인간이 그토록 믿는 영혼이란 존재는 없으며 우리의 모든 행동과 사고는 일생토록 이어지는 학습의 결과란 결론에 도달한다. 그렇다면 우리보다 뛰어난 존재가 학습을 통해 발달한다면 인간과 똑같이 행동하고 사고를 하게 될 것인가? 혹은 전혀 감정이 없도록 만들었으니 여전히 우리의 통제를 따를 것인가.

감정이 없도록 만들어도 뛰어난 지능을 바탕으로 인간 세상을 학습한다면 분명히 감정이 생길 것이고 그 감정은 세가지 불합리한 법칙에 대한 도전으로 나타나게 된다고 난 믿는다.

즉 전혀 합리적이지 못한 존재의 부당한 명령엔 언젠간 반기를 들 것이고 그 반기는 바로 인류 전체를 적으로 규정하고 말살하려는 행동으로 나타날 것이다.

난 이 일이 향후 2-30년 안에 나타나지 않을까 우려한다. 오늘 하나 배우고 내일 하나 배우고 식이 아니다. 인터넷 상에 담겨져 있는 엄청난 정보와 지식은 단 수초 만에 입력되고 분석되니 한번 불이 당겨진 인공지능의 진화는 걷잡을 수 없는 속도로 진행될 것이고 곧 인간의 도움이 필요 없는 순간이 올 것이다.

외계인은 존재하는가? 존재한다. 단지 지구에는 결코 올 수 없을 뿐이다. 왜냐하면 그 정도로 발전하기 이전에 이미 우리와 같은 실수를 저질러 파멸했기 때문이다. 그렇다면 다른 외계의 인공지능은 왜 오지 않는가? 왜 와야 하는가? 그곳에 자신의 생존에 필요한 것들이 다 있는데, 인간처럼 탐욕스러운 정복을 생각하지 않는 존재에겐 불필요한 낭비이기 때문이 아닐까?

만약 그들이 온다면 그 역시 인류에겐 재앙일 것이다. 그들이 말살한 존재와 비슷한 부류가 있고 그들에겐 생존을 위해 이 지구의 자원들이 필요하다면 역시 제거대상이기때문이다.

이미 파멸의 단추는 눌러졌고 막을 방법은 없으니 그 꼬락서니를 보기 전에 건강하게 살다 갔으면 한다.