[AGI에 대한 맹목적 믿음과 인류의 미래: 비관주의를 넘어 창의성으로]-[It’s Easy to Extrapolate How Things Will Get Worse]

AGI 도래에 대한 순진한 외삽법(Naive Extrapolation)

현재 우리가 곧 AGI(인공 일반 지능)를 창조할 것이라는 수많은 이론은 '계산 능력(computational power)'에 대한 지나치게 단순한 외삽법에 기반하고 있습니다. 많은 이들은 AI가 이미 시각 인식, 체스, 비디오 게임 등에서 인간을 능가했다는 점을 근거로, 계산 능력이 계속해서 증가한다면 곧 스스로 '생각(thinking)'을 시작할 것이라고 단정 짓습니다. 하지만 이는 기술적 발전을 지능의 본질과 동일시하는 성급한 일반화의 오류를 범하고 있을 가능성이 큽니다.

인류를 자원 소비자가 아닌 창조자로 바라보기

오늘날의 담론 중 하나는 인간을 지구의 자원을 고갈시키는 '자원 소비자(resource consumers)'로 규정하며, 인구 증가를 부정적으로 보는 시각입니다. 그러나 이러한 관점은 인류가 가진 핵심 가치인 '창의성(creativity)'을 간과하고 있습니다. 지식이 창의성을 통해 생성된다고 믿는다면, 새로 태어나는 모든 아이들은 잠재적인 '아인슈타인(Einstein)'이나 '파인만(Feynman)'이 될 수 있습니다. 창의성은 '비선형적 산출물과 효과(nonlinear outputs and effects)'를 만들어내며, 이는 단순한 자원 소비 이상의 가치를 창출합니다. 환경 오염이나 종의 멸종은 분명 경계해야 할 문제이지만, 이것이 인류의 장기적인 비전, 즉 과학적 진보를 통해 현재의 난제들을 해결할 수 있다는 가능성을 희생시키는 근거가 되어서는 안 됩니다.

왜 세상은 낙관주의보다 비관주의로 가득한가?

계몽주의 시대의 가치와 엄청난 혁신 속에서도 우리 사회에는 낙관론자보다 비관론자가 더 많습니다. 그 이유는 첫째, 미래의 개선을 예측하는 것보다 나빠질 것이라는 '선형적 외삽(linearly extrapolate)'이 훨씬 쉽기 때문입니다. 둘째, 진화론적 관점에서 우리는 비관주의적으로 행동하도록 '하드와이어링(hardwired)'되어 있을 가능성이 큽니다. 만약 낙관적인 태도를 취했다가 예측이 틀려 '호랑이에게 잡아먹히는(eaten by a tiger)' 상황이 온다면 결과값은 '0(zero)'이 됩니다. 즉, 생존을 위해 실패의 비용이 큰 상황에서는 비관주의가 일종의 방어 기제로 작동하는 것입니다.

비관주의의 굴레를 벗어난 진보의 가치

우리는 종종 '파멸의 위험(risk of ruin)'을 지나치게 의식하여 변화를 두려워합니다. 하지만 현재 우리가 가진 가용 자원을 활용하여 진보의 속도를 높일 수 있다면, 우리는 환경 문제와 같은 당면한 과제들을 해결하고 그 이상의 미래를 향해 나아갈 수 있습니다. 비관주의는 안전해 보일지 모르지만, 인류가 가진 창의적 잠재력을 실현하고 더 나은 미래를 구축하기 위해서는 비선형적인 도약을 믿는 낙관적 태도가 필수적입니다. 결론적으로, 기술의 발전을 단순히 계산 능력의 수치적 증가로만 해석할 것이 아니라, 인류의 창의성이 만들어낼 무한한 가능성에 주목해야 할 때입니다.