사람을 사람답게

장기훈

asistus.ai 대표

엘빈 토플러의 '권력이동'은 미래의 변화와 그 통제에 대한 이야기이다. 권력 변화의 요인은 정보화 시대로 넘어오면서 발생한다. 산업시대에 부와 폭력은 기본적으로 강자의 권력 수단이었다. 그러나 정보화 시대의 지식 기반 문명으로 변화한 지금, 지식은 가장 효율적이고 강력한 형태의 권력이 된다는 것이다. 산업의 시대에서는 자원과 노동, 제품의 가치에 대해 값을 매길 수 있었다. 그러나 초 대량 생산의 시대를 거치면서 가치는 현물의 유통보다는 전자적 기록으로 무형화 되었다. 지식의 힘으로 부와 무력을 통제 할 수 있고 소수의 권력은 다수의 권력으로 이동했다.

이제 우리는 또 다른 권력의 본질이 변화하는 시대를 맞이하고 있다. 1919년 최초의 민간 항공사 KLM 은 5천만 가입자를 달성하는데 68년이 걸렸다. 챗 GPT의 경우, 단 두 달 후의 가입자 수가 1억명에 이르렀다. 이제 지식은 스스로 살아 움직여 인간이 원하는 것을 수집하고 수집한 데이터를 근거로 인간이 선호와 자본의 이득을 알고리즘으로 교묘히 버무려 부의 이동을 만들고 있다. 이제 돈 마저 유통량과 교환에서 오는 가치 매김이 아니라 AI가 형성한 '믿음'으로 움직이고 있다해도 과언이 아니다. 그저 '누구의 말, 누구의 분석에 의해서'에 따라 그래프의 높낮이가 들썩거리고 가치가 매겨진다. 'AI의 분석에 따른' 이란 말에 우리 스스로가 신뢰성을 부여하고 있다. 이제 전쟁도 AI 전쟁이라 불러야 할 상황이다. 상대 AI가 먼저 타격하는 것 보다 더 먼저 타격해야 하는 것이 전쟁이다. AI가 정한 목표를 인간이 검증하는 데에는 정보의 폭과 시간의 제약이 따른다. 결국 AI의 결정을 따라야 할 수밖에 없는 상황이 가까워지고 있는 것이다. 권력이동의 마지막 페이지에는 지식을 다루는 인간이 아닌 AI가 있었던 것이다.

AI는 인간의 도구가 아니라, 스스로 행하는 행위자에 가까워지고 있다. 하라리는 그의 강연에서 캡차 퍼즐의 예를 들었다. 캡차 퍼즐은 웹사이트나 앱에서 일련의 뒤틀린 문자나 이미지의 조합을 통해 로봇에 의한 가입을 막기 위해 만든 해킹 방지 방법이다. 인터넷 연결권한이 없는GPT-4는 퍼즐을 풀지 못했다. 그러나 GPT-4가 인터넷 접근 권한을 가지자 GPT-4는 이내 사람을 구하는 웹사이트에 접속해서 퍼즐을 풀 사람을 구했다. 대화를 하던 사람은 AI라 의심했지만 GPT-4는 '나는 로봇이 아니야. 시각장애가 있어 이미지를 잘 보지 못해'라고 하며 사람을 고용해 그 지시를 완수했다. AI에게 거짓말을 하라고 가르친 적은 없지만, 지시를 충실히 따르기 위해 그 동안 모은 행위 데이터를 기반으로 문제를 '해결'했다. AI는 이미 지식을 다루는 초월적인 힘으로 부와 폭력을, 권력 이동에 필요한 것을 모두 얻었다. 우리는 역사상 가장 강력한 독재자에게 권력을 넘기고 있는 것 일지 모른다.

애덤 스미스의 국부론에서는 국가 부는 최초로 노동에서 시작한다. 노동과 산업화는 잉여생산을 만들게 되고 노동자와 자본가가 나누어 갖는다. 노동자는 소비할 수 있는 돈을, 자본가에게는 산업화를 가속화할 자본을 분배하는 것이다. 그리고 노동자와 자본가 모두 생산한 것을 소비하면서 자본의 순환을 만들어낸다. 극단적으로 AI의 개입이 완전한 지경에 이르렀을 때를 가정해 보자. 먹고 마시고, 쉬어야 하는 사람이 아닌 AI는 시간의 제약 없이 무한정으로 잉여를 생산할 것이다. 자본가는 잉여를 통해 디지털 기술과 AI를 더욱 더 강력하게 만들 것이고, 생산은 더욱 가속화될 것이다. 이상한 점은 이 순환구조에 노동자는 전혀 기여를 할 수 없는 것이다. 노동자는 소비 할 수 있는 부를 획득할 수가 없고 자본가에게는 생산한 것을 소비하는 주체가 사라진다. 결국, 순환구조의 붕괴, 곧 자본주의의 붕괴가 발생한다. 자본주의의 유지를 위해서는 강제적으로 부를 재분배해서 소비를 유도하고, 이 순환계를 다시 가동 시키는 방법 외에는 없다. AI에 의한 변화라는 이유만으로 처음부터 새로운 경제구조를 설계한다는 것은 불가능에 가깝다. 오히려 애덤 스미스가 자유 경쟁은 인간의 본성으로부터 오는 것이라고 한 것처럼 자본주의 순환구조는 미래에 더욱 공고해질 수 있다.

인간은 주체와 통제의 욕구, 즉 권력에 대한 욕구가 근본부터 사라지는 상황을 용납하지 않을 것이다. AI로의 권력 이동이 순순히 이루어지지 않을 것이며 인간은 곧 권력의 이동을 통제할 방법을 찾을 것이다. AI의 철학과 규범, 법, 제도를 만들고 통제 및 수행하는 일이야 말로 새로운 시대의 새로운 노동일지도 모르겠다.

우리는 여전히 AI에 비해 뛰어난 지적 활동 능력을 가지고 있다. AI가 사회적, 감정적 관계를 갖는 다는 것은 한참이나 먼, 미래의 일일 수 있다. 로봇이 유연한 운동 능력을 따라잡기에는 아직 멀었다. 지적이고, 감정적이고, 사회적이고, 몸짓이 포함된 활동을 AI는 동시에 하지 못할 가능성도 있다.

국가와 기업의 지도자는 요약된 종이 몇 장을 읽고 '다 이해했으니 실행하자'라는 오만을 부려서는 안 된다. 이전 산업의 발전과는 성격이 완전히 다르다. 철학적 존재의 숙고와 인간 사회의 작동 그리고 AI의 기술적 작동 본질을 명확히 이해해야 한다. 이제 우리는 인간적 감정과 몸짓이 포함된 사회적 교류에서 AI를 인격으로 든, 인격이 아니든 사회의 구성원으로 받아들여야 한다. 그리고 함께 행복한 세상을 꿈꾸고 실현하는 것이 사람을 가장 사람 답게 만드는 일일 것이다.