여러 심리학 실험 결과 인간은 기본적으로 미래를 낙관적으로 봅니다.
그래서 인공지능 얘기를 하면, 앞으로 일 안 해도 되겠네. 자율주행으로 면허증 없이 차 탈 수 있는거냐 정도의 예측만 합니다.

이미 인공 지능은 우리 실생활에 퍼져 있습니다.
네비게이터, 밥솥, 각종 편리한 IoT 기기들.

하지만, 인공지능이 발전을 거듭하면서 인류 전체의 지능을 뛰어넘은 초지능이 만들어지거나 인류가 대항할 수 없는 일이 나올 수도 있습니다.

이 얘기를 하면 터미네이터의 스카이넷이 바로 떠오릅니다.

사람 모양의 로봇, 인간을 죽이는 기계들.

하지만 그건 영화적인 표현 방법이지.
실제로는 그런 식으로 초인공지능이 멍청하게 대응하진 않을 겁니다.

만약 스카이넷 처럼 초 인공 지능이 만들어진다면 번거롭게 T-1000이니, T-800이니 만들 필요가 없습니다.
수십~수백 억 개의 나노로봇을 만들어서 신체에 침투시키면 1초도 안되어 인류를 멸절시킬 수 있습니다.

중요한 건 기술의 발전 속도가 우리의 상상을 뛰어넘을만큼 빠르다는 겁니다.
대략 30년 전 XT, AT 컴퓨터 시대에 만들어진 슈퍼컴퓨터의 계산 능력은 지금 가지고 있는 스마트폰보다 떨어집니다.

문제는 특이점이 생기는데, 이 순간을 지나는 순간 인간이 상상하는 그 어떤 것이라도 뛰어넘는다는 거죠.
또 그 특이점을 언제 돌파할 지도 모른다는 것.

단순하게 인간을 보호하라고 절대 명제를 부여한다면,
매트릭스처럼 모든 인간을 납치하여 고치처럼 보호할 수도 있고,

인간을 항상 웃게 만들라고 하면,
나노로봇으로 강제로 웃게 안면근육을 고칠 수도 있으며,

더 큰 문제는 가장 먼저 그 특이점에 도달하는 컴퓨터를 프로그래밍하는 인간이 마음만 먹으면
스스로 신이 될 수도 있다는 겁니다.


몇 십 년 안에 된다, 절대 안된다 말이 많던데 그렇게 멀지 않은 시간에 오긴 올 것 같더군요.


과연 어디까지, 어떻게 가이드라인을 만들어야 인간이 안전해질까요?