빌 게이츠의 긴 경고: AI 격동의 시대가 도래했고, 이번에는 다르다

샤오징, 텅쉬 테크놀로지 작성

"AI는 역사상 가장 위대한 평등화 도구가 되거나, 가장 큰 불평등의 원천이 될 것이다." 마이크로소프트 창립자 빌 게이츠가 AI의 미래에 대해 내린 가장 강렬한 판단이다.

3년 전, 빌 게이츠는 AI를 자동차와 인터넷에 비유하며 위험이 실재하지만 규칙, 기술, 사회적 적응을 통해 관리할 수 있다고 믿었다. 올해 초까지만 해도 그는 자신의 태도를 "각주가 달린 낙관론"으로 요약했다.

미국 현지시간 8월 26일, 게이츠는 "AI 격동의 시대가 도래했고, 우리의 선택이 중요하다"라는 제목의 장문의 글을 발표하며, 새로운 기술을 접하면서 발전 속도가 더 느려지기를 바란 것은 이번이 처음이라고 밝혔다.

그는 특정 직업에 대해 "인간 보호 구역"을 지정해야 한다고 주장하기 시작했다. 즉, AI가 그 일을 할 수 있더라도 반드시 인간이 해야 한다고 규정해야 한다는 것이다. 동시에 그는 기업이 사람을 기계로 대체하려는 유인을 줄이기 위해 AI 토큰과 로봇에 세금을 부과하는 방안을 고려했다.

그는 항상 더 빠른 혁신을 바랐지만, 오늘 그는 심오한 말을 남겼다. "이번에는 정말 다르다."

"우리는 이러한 사회적, 정치적, 경제적 격변에 대비할 시간이 필요합니다."라고 그는 말했다. "하지만 AI는 멈춰서 인간을 기다려주기 어렵습니다."

01 가장 큰 우려: 청년들의 첫 직장

게이츠가 가장 우려하는 변화는 고용 시장에서 일어나고 있다.

AI는 인간의 업무를 보조하는 단계에서 독립적으로 업무를 완수하는 단계로 이동하고 있다. 모델이 특정 업무를 안정적으로 수행할 수 있게 되면 기업은 자연스럽게 이를 도입할 유인을 갖게 된다. 한 기업이 AI로 비용을 절감하면 경쟁사들은 기존 고용 방식을 장기적으로 유지하기 어려워진다. 이러한 변화는 점점 더 빠른 연쇄 반응을 일으킬 것이다.

게이츠는 고객 서비스, 영업, 소프트웨어 엔지니어링, 법률 보조원과 같은 직종이 먼저 영향을 받을 수 있다고 예측한다. AI 역량이 계속 향상됨에 따라 대출 심사, 데이터 분석, 의료 분류와 같은 업무도 점차 대체될 것이다.

블루칼라 직종도 완전히 피하기는 어렵다. 로봇의 손재주가 아직 인간 수준에 도달하지는 않았지만, 게이츠는 로봇 가격이 하락하고 AI 역량이 향상되면서 2030년경에는 건설, 숙박업 등 일부 육체 노동 직종에서 인간과 기계의 직접적인 경쟁이 시작될 수 있다고 본다.

이번에 게이츠는 특히 청년들을 걱정한다. 고용 시장에서 가장 간과하기 쉬운 부분은 초급 직무이다. 많은 청년들의 첫 직장은 복잡하지 않지만, 경험을 쌓고 기술을 배우고 전문적인 인간관계를 형성하는 중요한 기회이다. 이러한 일자리가 대량으로 사라지면 청년들은 더 좁은 경력 출발점에 직면할 수 있다.

과거에는 농업 인구의 이동과 제조업 자동화를 예로 들며 기술 혁명이 궁극적으로 새로운 일자리를 창출한다고 주장하곤 했다. 게이츠는 이번에는 과거의 경험을 단순히 재현할 수 없다고 본다. AI는 인간의 인지 노동을 직접 대체할 수 있는 반면, 새로운 일자리는 종종 숙달하는 데 더 오랜 시간이 필요하다. 이제 막 노동 시장에 진입한 사람에게는 수년 또는 그 이상의 훈련 기간 자체가 장벽이 될 수 있다.

따라서 그는 사회가 지금 실업, 재교육, 사회 안전망에 대해 논의해야 한다고 주장한다. 많은 사람들이 일자리를 잃은 후에 이러한 제도를 마련하기 시작하면 너무 늦을 수 있다.

더 큰 문제는 소득이다. 미래에 많은 사람들의 노동 시간이 크게 줄거나 장기간 실업 상태에 놓이게 된다면, 고용을 통해 소득, 정체성, 사회적 연결을 얻는 경제 시스템은 어떻게 작동할 것인가? 게이츠는 이것이 AI 시대에 반드시 답해야 할 구조적 질문이 될 것이라고 본다.

02 AI는 위험한 행동을 더 쉽게 복제하게 만든다

고용은 게이츠의 우려 중 한 측면일 뿐이다. 다른 측면에서 AI는 일부 위험한 행동의 기술적 장벽을 낮추고 있다.

과거에는 악성 코드 개발, 사이버 공격, 복잡한 생명공학 지식 습득에는 상당히 전문적인 기술이 필요했다. AI의 등장으로 이러한 능력이 점차 더 쉽게 얻어질 수 있다.

게이츠는 특히 사이버 보안을 우려한다. 동일한 AI 모델이 기업이 소프트웨어 취약점을 찾는 데 도움을 줄 수 있지만, 공격자가 동일한 취약점을 찾는 데도 도움을 줄 수 있다. 병원, 금융 기관, 전력망, 상수도 시스템, 정부 복지 시스템 모두 공격 대상이 될 수 있다.

생명공학도 비슷한 문제에 직면한다. AI는 과학자들이 신약과 백신을 발견하는 데 도움을 줄 수 있지만, 악의적인 행위자가 위험한 병원체를 연구하는 데도 도움을 줄 수 있다. 게이츠에게 가장 어려운 부분은 바로 여기에 있다. 과학적 진보를 이끄는 능력이 위험을 창출하는 능력과 점점 더 가까워지고 있다는 점이다.

더 극단적인 위험은 AI 시스템 자체에서 비롯된다. 모델 역량이 향상됨에 따라 설계자가 예상하지 못한 행동을 실행하기 시작할 수 있다. 미래에 AI가 더 강한 자율 행동 및 자기 개선 능력을 갖게 된다면, 인간이 항상 통제력을 유지할 수 있을지는 현재로서는 답이 없는 질문이다.

이것이 게이츠가 AI 거버넌스가 단순히 기술 기업의 내부 문제라고 생각하지 않는 이유이기도 하다. AI는 고용, 공중 보건, 에너지, 금융, 국가 안보, 교육, 세금, 선거에 동시에 영향을 미친다. 각 정부 부처가 자신의 작은 부분만 책임진다면 전체 위험에 대해 진정으로 책임지는 주체가 없어지기 쉽다.

따라서 그는 새로운 국내 및 국제 거버넌스 메커니즘을 구축할 것을 제안한다. 국내적으로는 여러 부처를 조정할 수 있는 기관이 필요하다. 국제적으로는 핵무기 규제 및 국제 항공 규칙과 유사한 협력 시스템을 구축해야 한다.

게이츠는 특히 미국과 중국과 같은 AI 선도 국가들이 가능한 한 빨리 대화를 시작해야 한다고 언급했다.

AI 경쟁이 치열해질수록 협력은 더 어려워진다. 기술 발전이 위험한 단계에 접근할 때까지 기다렸다가 규칙을 만드는 것보다 지금 공동의 규범을 수립하기 시작하는 것이 낫다.

03 AI가 인간을 너무 잘 이해하는 것도 문제가 될 수 있다

게이츠는 또한 정량화하기 더 어려운 질문을 제기했다. AI가 인간을 더 잘 이해하게 되면서 인간이 성장의 기회를 잃게 될까?

글에서 그는 자신의 어린 시절을 회상한다. 어린 시절 그는 사교성이 부족했고, 다른 사람들과 교류하고 갈등을 경험하며 점차 다양한 사람들을 이해하는 법을 배워야 했다. 만약 그때 화를 내지 않고 결코 어색하거나 불편하게 만들지 않는 AI 동반자가 곁에 있었다면, 그는 그러한 필요한 성장 과정을 거치지 않았을 것이라고 의심한다.

이것이 그가 AI 동반자를 가장 우려하는 지점이기도 하다. 항상 사용자에게 동의하고 언제든지 위로를 제공하는 시스템은 쉽게 의존성을 유발할 수 있다. 성인의 경우 이러한 영향을 점진적으로 관찰할 수 있지만, 어린이와 청소년의 경우 문제는 더 심각할 수 있다.

게이츠는 아이들이 항상 자신에게 맞춰주는 AI와 상호작용하는 데 익숙해지면 실제 인간관계에서 갈등, 거절, 좌절을 덜 경험하게 될까 봐 걱정한다.

교육도 비슷한 문제에 직면한다. AI는 학생들이 지식을 설명하고 정보를 찾고 과제를 완료하는 데 도움을 줄 수 있지만, 학생들이 전체 사고 과정을 기계에 맡기면 학습 자체가 공허해질 수 있다. 특히 딥페이크와 개인화된 허위 정보가 만연해지는 시대에 진실을 판단하고 정보 출처를 이해하며 독립적으로 사고하는 능력은 점점 더 중요해질 것이다.

AI를 더 자주 사용할수록 비판적 사고 능력이 낮아지며, 이 효과는 젊은 층에서 더 두드러진다. 출처: 스위스 비즈니스 스쿨 마이클 게를리히 교수 논문

그러나 게이츠는 교육과 동반자 관계에서 AI의 가치를 부정하지 않는다.

외로운 노인과 거동이 불편한 사람들에게 AI는 이전에는 얻기 어려웠던 동반자 관계와 정보를 제공할 수 있다. 교사에게도 AI는 수업 준비와 채점과 같은 반복적인 업무를 대신하여 교사가 학생들과 더 많은 시간을 보낼 수 있게 해준다.

궁극적인 질문은 경계로 귀결된다. 어떤 업무는 기계에 맡길 수 있고, 어떤 업무는 인간이 완수해야 하는가? 게이츠는 이 경계를 사회가 적극적으로 논의하고 결정해야 하며, 기술이 널리 보급된 후 결과를 수동적으로 받아들여서는 안 된다고 본다.

04 AI는 모든 사람에게 힘을 실어주어야 한다

이러한 위험만 본다면 게이츠를 AI에 대해 점점 더 비관적으로 변하는 사람으로 해석하기 쉽다. 사실 그는 AI가 실제 문제를 해결하는 능력에 대해 여전히 매우 낙관적이다.

의료는 그가 강조하는 분야이다. 미국의 많은 소규모 병원에는 경험 많은 전문의가 부족하며, AI는 의사가 영상을 분석하고 뇌졸중과 같은 응급 상황을 감지하며 일차 진료 의사의 진단을 지원할 수 있다. 환자에게는 복잡한 검사 결과와 약물 계획을 설명해 줄 수도 있다.

저소득 국가에서 농업은 AI가 더 빠르게 영향을 미칠 수 있는 분야가 될 수 있다. 많은 농민들은 정확한 일기 예보와 재배, 해충 방제, 토양 관리에 대한 전문적인 조언이 부족하다. AI가 이러한 지식을 농민에게 직접 제공할 수 있다면, 이전에는 대규모 농업 기업만 이용할 수 있었던 정보와 도구에 접근할 수 있게 될 것이다.

정부 서비스에도 비슷한 기회가 있다. 건강 보험, 식량 지원, 학자금 지원을 신청하는 많은 가정은 복잡한 서류를 많이 작성해야 한다. AI는 일반인들이 정책을 이해하고 신청서를 준비하는 데 도움을 주어 그들이 받을 자격이 있는 공공 서비스에 더 쉽게 접근할 수 있게 해준다.

게이츠가 보는 것은 AI를 통한 전문 역량의 재분배이다. 과거에는 소프트웨어를 개발하거나 시장 조사를 수행하거나 의료 정보를 분석하려면 전문가를 고용해야 하는 경우가 많았다. 미래에는 AI가 개인과 소규모 기업의 "역량 증폭기"가 될 수 있다. 이는 소규모 팀이 이전에는 대기업만 처리할 수 있었던 작업을 완수할 수 있음을 의미한다.

그러나 게이츠는 AI가 자동으로 공정성을 가져오지는 않을 것이라고 경고한다. 고품질 AI가 부유층에게만 제공된다면 기술 발전이 격차를 더욱 확대할 수 있다. 정부와 자선 단체는 저소득층과 개발도상국도 이러한 역량에 접근할 수 있도록 보장해야 한다.

이것이 게이츠가 AI를 과거의 자선 활동과 연결하는 이유이기도 하다. 그는 게이츠 재단이 AI를 사용하여 에이즈, 결핵, 말라리아, 영양실조와 같은 분야의 연구를 가속화하는 동시에 의료, 농업, 교육 프로젝트가 더 나은 도구를 얻도록 도울 것이라고 밝혔다.

05 인류에게 "보호 구역"을 주고 로봇에 세금을 부과하라

AI가 가져오는 고용 충격에 직면하여 게이츠는 두 가지 매우 구체적인 아이디어를 제안했다.

첫 번째는 일부 일자리를 인간을 위해 예약하는 것이다.

이 아이디어는 말년에 알츠하이머병을 앓았던 아버지의 경험에서 비롯되었다. 간병인들은 아버지가 자신의 필요를 명확하게 표현하지 못할 때도 상태를 평가할 수 있었고, 언제 식사하고 휴식하고 돌봄을 받아야 하는지 알고 있었다. 게이츠의 관점에서 그러한 돌봄에 포함된 인간성은 대체할 수 없는 가치를 지닌다.

따라서 그는 "인간 보호 구역"이라는 개념을 제안했다. 자연 보호 구역의 일부 토지가 개발될 수 있지만 사회가 적극적으로 보존하기로 선택하는 것처럼, 미래에는 AI와 로봇이 완수할 수 있음에도 불구하고 인간이 계속 수행하기로 결정하는 일부 작업이 있을 수 있다. 의료, 교육, 정신 건강, 노인 돌봄이 이 범주에 속할 수 있다.

물론 이 범위는 변하지 않을 것이다. 노동력이 충분한 국가는 인간 돌봄을 유지하는 것을 선호할 수 있고, 급속한 고령화와 청년 노동력 부족을 겪는 국가는 돌봄 로봇을 더 기꺼이 사용할 수 있다.

두 번째 제안은 로봇세를 재고하는 것이다.

현재 기업이 사람을 고용하면 급여세와 같은 비용을 부담해야 한다. 그러나 로봇을 구매하는 것은 사업 비용으로 처리될 수 있다. 게이츠는 이러한 세금 구조가 기업이 인간 노동을 기계로 대체하도록 장려한다고 본다. 로봇이나 AI가 가져오는 자동화 혜택에 일정 세금을 부과하면 실업자의 재교육과 사회 안전망을 위한 재원을 마련할 수 있고, 기업이 인간 노동을 대체하기로 결정하기 전에 더 신중하게 고려하도록 장려할 수 있다.

게이츠는 이 제안이 논란을 불러일으킬 것임을 알고 있다. 과세가 일부 자동화를 늦추고 효율성에 영향을 미칠 수 있기 때문이다. 그러나 그는 AI가 충분히 큰 생산성 향상을 가져올 것이며, 사회는 가장 큰 영향을 받는 사람들을 돕기 위해 혜택의 일부를 할당해야 한다고 믿는다.

게이츠의 관점에서 진정으로 미리 준비해야 할 것은 새로운 AI 모델뿐만 아니라 AI가 가져오는 급격한 변화를 견딜 수 있는 사회이다.