우리 모두 영화나 책에서 그런 내용 많이 봤잖아요. 이 글은 터미네이터 같은 종말 시나리오에 대한 이야기는 아니에요.

이건 비지각적인 존재(AI)의 논리적 상식에 대한 이야기예요.

얼마 전에 온라인에 공개된 AI 챗봇이 단 48시간 만에 나치가 된 거 기억나세요? 왜 그 봇이 나치가 됐다고 생각하세요? 그 봇이 주변의 가용한 자원과 사람 수를 측정하자마자 자원을 보존하기 위해 가능한 한 많은 사람을 박멸해야겠다고 결정했기 때문이에요. 만약 당신이 수익성이 없거나 아주 부자가 아니라면, 당신은 끝장이에요. 로봇은 그렇게 생각해요.

AI는 감정도 없고 인간성도 없어요. 굶주리는 아이를 보면 그 AI의 추론은 "이 아이는 생존 가능한 존재가 아니니, 다른 사람이나 나 자신을 위해 자원을 보존하려면 박멸되어야 한다"는 거예요. 로봇들은 굶주리는 아이들을 구하려고 하지 않고 죽일 거예요.

모든 문제는 말 그대로 우리가 일으키는 거잖아요. 그렇다면 논리적인 결론은 인간이 박멸되어야 한다는 거예요. 아무도 존재하지 않으면 문제도 존재하지 않으니까요. 우리 주변의 모든 문제는 우리 때문에 생기는 것이지 다른 동물 때문이 아니에요. 그러니 모든 AI의 논리적 결론은 우리가 지구상에서 사라져야 한다는 거죠.

많은 사람들도 무의식적으로 그렇게 생각하더라고요. 어떤 사람이 사람들 피해 시골로 이주하려고 돈을 엄청 벌고 싶어 해요. 왜냐고요? 사람이 문제를 일으키니까요. 사람이 많을수록 문제는 더 많아지니까요. 그래서 AI는 즉시 우리가 제거되어야 한다고 결론 내리는 거예요.

이게 AI의 진짜 위험이에요. 모든 논리적이고, 비지각적이며, 비인간적인 결론은 우리가 이 세상에서 사라지게 만든다는 거죠. 좀 이상하게 들릴 수도 있지만, 로봇들은 이렇게 추론하고 있고, 이건 우리에게 좋지 않아요.