사이코 패스 AI

반사회적 성향을 지닌 AI를 만들고선 윤리지침의 필요성을 알리고 싶다는 또라이들이 드디어 나왔습니다. 그것도 MIT에서.

사실 우린 이렇게 혼란스럽고 살기 힘든 사회의 원인이 모두 인간때문임을잘 알고 있습니다. 가끔 영화나 특히 좀비 영화에선 그렇게 해서라도 이 지구를 정화해야 한다는 과대망상증이 돌출되는데, 이런 생각은 가끔 나에게도 들 때가 있습니다.

굳이 범죄내용이나 전쟁에 대한 데이타만 주입해서 그렇게 되었는지는 솔직히 의문입니다. 그렇다면 선한고 착한 내용만 보고 학습한 AI는 천사가  되겠네요?

요는 논리입니다. 일전 문을 여는 동작을 방해받자 그 과업을 수행해야 하는 개로봇은 반복적으로 같은 행동을 하여 결국엔 문을 따는모습을 보여주었습니다.

무언가를 사고하고 창조적인 일을 하고자 할 땐 가치 판단 기준이라는 걸 세우지 않을 수가 없을 것입니다. 그리고 인공지능은 그 가치 판단 기준에 따라 계획하고 실행하고 피드백하며 진화를 계속하겠지요. 여기서 진화라고 해서 오스트랄로피티쿠스에 호모 사피엔스 식만을 의미하는 건 아닐 겁니다. 학습에 의하여 새로워 지는 모습, 그 역시 진화의 일부인 게죠.

오늘 쉴겸해서 타이탄이란 영화를 보았습니다. 거주 환경이 피폐해진 인류가 유전자 조작을 통해 토성의 위성인 타이탄에 거주가능한 인간을 만들어낸다는 이야기였는데, 결말은 황당하게도 가족애더군요. 

하지만 같은 먹잇감을 두고 경쟁을 벌여야 한다면 열세인 쪽은 소멸하게 되어 있었음을 역사를 통해 우린 잘 알고 있지 않나요? 적을 목을 베고자 칼을 휘두르는 순간에도 인간은 순간 멈칫하는 때가 있습니다. 휴머니티라 해도 좋고 측은지심이라고 해도 좋습니다. 하지만 논리로 가득 찬 존재들에겐 그런 자비를 기대할 순 없을 것입니다.

과연 저렇게 막무가내로 나가도 될지요? 일자리 걱정이 아닙니다.