테슬라 오토파일럿 책임자였다가 지금은 오픈AI로 다시 돌아간 AI계에서 네임드 컴퓨터 과학자 안드레이 카파시가
오랜만에 블로그에 글을 올렸네요. (지금은 알수 없는 이유로 지워졌네요)
AI번역으로 대체합니다.
---------------------------------------
대규모 언어 모델(LLM)의 발전으로 촉발된 AGI와 그 타임라인, 그리고 그 모습에 대해 최근 많은 이야기가 오가고 있습니다. 그 중 일부는 희망적이고 낙관적이지만, 대부분은 두려움과 암울함을 담고 있습니다. 안타깝게도 많은 부분이 매우 추상적이어서 사람들이 서로 빙빙 돌면서 이야기하게 됩니다. 그래서 저는 항상 구체적인 비유와 역사적 선례를 통해 이 주제를 좀 더 근거 있게 탐구하는 데 도움이 될 수 있는 방법을 찾고 있습니다. 특히, 인공지능이 어떤 모습일 것 같냐는 질문을 받으면 저는 개인적으로 자율주행을 꼽고 싶습니다. 이 글에서는 그 이유를 설명하고자 합니다. 먼저 AGI에 대한 일반적인 정의부터 살펴보겠습니다:
AGI: 경제적으로 가치 있는 대부분의 작업에서 인간의 능력을 뛰어넘는 자율 시스템.
이 정의에는 두 가지 구체적인 요건이 있습니다. 첫째, 완전한 자율성을 가진 시스템, 즉 사람의 감독을 거의 또는 전혀 받지 않고 스스로 운영되는 시스템이어야 합니다. 둘째, 경제적으로 가치 있는 대부분의 업무에서 자율적으로 운영되어야 합니다. 이 부분을 구체적으로 설명하기 위해 저는 개인적으로 미국 노동통계국의 직업 지수를 참고하고 싶습니다. 이 두 가지 특성을 모두 갖춘 시스템을 우리는 AGI라고 부를 수 있습니다.
이 글에서 제안하고 싶은 것은 최근의 운전 자동화 능력의 발전이 자동화 증가에 따른 사회적 역학관계, 더 나아가 AGI의 일반적인 모습과 느낌에 대한 매우 좋은 초기 사례 연구라는 것입니다. 이는 이 분야의 몇 가지 특징 때문이라고 생각하는데, 이는 단순히 "대단한 일"이라고만 말할 수 없습니다: 자율 주행은 사회에서 매우 접근하기 쉽고 눈에 잘 띄며(길거리에서 운전자가 없는 자동차!), 규모 면에서 경제의 큰 부분을 차지하고 있고, 현재 많은 인력을 고용하고 있으며(예: Uber/Lyft 드라이버), 운전은 자동화하기 충분히 어려운 문제이지만 우리는 (경제의 다른 많은 부문보다 앞서) 이를 자동화했고, 사회는 이를 알아차리고 대응하고 있다는 점입니다. 물론 다른 산업 분야에서도 획기적인 자동화가 이루어지고 있지만, 제가 개인적으로 잘 알지 못하거나 위의 몇 가지 특성에 미치지 못합니다.
부분 자동화
AI의 "충분히 어려운" 문제인 운전 자동화는 어느 날 갑자기 등장한 것이 아니라, 수많은 "도구 AI"를 중간 단계로 삼아 점진적으로 운전 작업을 자동화해 온 결과입니다. 차량 자율 주행의 경우, 현재 많은 자동차가 인간과 협력하여 A 지점에서 B 지점으로 이동하는 '레벨 2' 운전자 보조 기능(완전 자율 주행은 아니지만 운전의 낮은 수준의 세부 사항을 처리하는 AI)을 갖추고 제조되고 있습니다. 때로는 전체 조작을 자동화하기도 합니다(예: 차량이 자동으로 주차하는 경우). 사람이 주로 이 활동의 감독자 역할을 하지만, 원칙적으로 언제든지 인계받아 운전 작업을 수행하거나 높은 수준의 명령(예: 차선 변경 요청)을 내릴 수 있습니다. 일부 경우(예: 차선 유지 및 빠른 의사 결정)에서는 AI가 인간의 능력을 능가하지만, 드문 경우에서는 여전히 인간의 능력에 미치지 못할 수 있습니다.
이는 다른 산업에서 특히 최근 대규모 언어 모델(LLM)로 인해 기능이 개방되면서 배포되기 시작한 많은 도구 AI와 유사합니다. 예를 들어, 프로그래머로서 코드 블록을 자동 완성하기 위해 GitHub Copilot을 사용하거나 더 큰 함수를 작성하기 위해 GPT-4를 사용할 때, 저수준의 세부 사항은 자동화에 맡기지만 필요한 경우 정확히 같은 방식으로 '개입'할 수도 있습니다. 즉, 코파일럿과 GPT-4는 레벨 2 프로그래밍입니다. 업계 전반에 걸쳐 많은 레벨 2 자동화가 있지만, 모든 자동화가 반드시 LLM을 기반으로 하는 것은 아닙니다. TurboTax부터 아마존 물류창고의 로봇, 번역, 작문, 예술, 법률, 마케팅 등의 다양한 '도구 AI'에 이르기까지.
완전 자동화
이러한 시스템은 어느 순간 신뢰성의 한계를 넘어 오늘날의 웨이모와 같은 모습을 갖추게 됩니다. 완전한 자율성의 영역에 들어선 것입니다. 오늘날 샌프란시스코에서는 앱을 열고 Uber 대신 Waymo를 호출할 수 있습니다. 무인 자동차가 차를 세우고 유료 고객인 여러분을 목적지까지 데려다 줄 것입니다. 정말 놀랍습니다. 운전할 필요도 없고, 주의를 기울일 필요도 없으며, 편안히 기대어 낮잠을 잘 수 있고, 시스템이 A에서 B까지 이동시켜 줍니다. 제가 만난 다른 많은 사람들과 마찬가지로 저도 개인적으로 Uber보다 Waymo를 선호하며, 거의 도시 내 교통 수단으로만 이용하고 있습니다. 편차가 적고 재현 가능한 경험을 훨씬 더 많이 얻을 수 있고, 운전이 매끄럽고, 음악을 재생할 수 있으며, 운전자가 내 말을 듣고 무슨 생각을 하는지 신경 쓸 필요 없이 친구와 채팅할 수 있습니다.
이러한 시스템은 어느 순간 신뢰성의 한계를 넘어 오늘날의 웨이모와 같은 모습을 갖추게 됩니다. 완전한 자율성의 영역에 들어선 것입니다. 오늘날 샌프란시스코에서는 앱을 열고 Uber 대신 Waymo를 호출할 수 있습니다. 무인 자동차가 차를 세우고 유료 고객인 여러분을 목적지까지 데려다 줄 것입니다. 정말 놀랍습니다. 운전할 필요도 없고, 주의를 기울일 필요도 없으며, 편안히 기대어 낮잠을 잘 수 있고, 시스템이 A에서 B까지 이동시켜 줍니다. 제가 만난 다른 많은 사람들과 마찬가지로 저도 개인적으로 Uber보다 Waymo를 선호하며, 거의 도시 내 교통 수단으로만 이용하고 있습니다. 편차가 적고 재현 가능한 경험을 훨씬 더 많이 얻을 수 있고, 운전이 매끄럽고, 음악을 재생할 수 있으며, 운전자가 내 말을 듣고 무슨 생각을 하는지 신경 쓸 필요 없이 친구와 채팅할 수 있습니다.
완전 자동화의 혼합 경제
하지만 자율주행 기술이 존재함에도 불구하고 여전히 많은 사람들이 우버를 호출하고 있습니다. 왜 그럴까요? 우선, 많은 사람들이 Waymo를 호출할 수 있다는 사실조차 모릅니다. 설령 알고 있다고 해도 아직은 자동화된 시스템을 완전히 신뢰하지 못하고 사람이 운전하는 것을 선호하는 사람들이 많습니다. 그러나 설령 그렇다고 하더라도, 많은 사람들은 대화와 농담을 즐기고 다른 사람들을 알아가는 등 인간 운전자를 선호할 수도 있습니다. 단순히 선호도만 고려할 것이 아니라, 현재 앱의 대기 시간 증가로 볼 때 Waymo는 공급에 제약이 있습니다. 수요를 충족시킬 만큼 차량이 충분하지 않습니다. 그 이유 중 하나는 웨이모가 위험과 여론을 관리하고 모니터링하는 데 매우 주의를 기울이고 있기 때문일 수 있습니다. 또 다른 이유는 웨이모가 규제 당국으로부터 길거리에 배치할 수 있는 차량 대수에 대한 할당량을 받은(?) 것으로 추정됩니다.
또 다른 속도 제한 요인은 웨이모가 모든 우버를 한 번에 교체할 수 없다는 점입니다. 인프라를 구축하고, 자동차를 만들고, 운영을 확장해야 합니다. 저는 경제의 다른 부문에서 모든 종류의 자동화가 동일하게 보일 것이라고 가정합니다. 일부 사람/기업은 즉시 사용하겠지만, 많은 사람들은 1) 자동화에 대해 알지 못하거나 2) 알더라도 신뢰하지 않거나 3) 알더라도 여전히 인간을 고용하고 함께 일하는 것을 선호할 것이기 때문입니다. 하지만 무엇보다도 수요가 공급보다 많기 때문에 AGI는 개발자들의 자제, 규제, 그리고 GPU 데이터센터 증설과 같은 단순하고 직접적인 리소스 부족 등 정확히 같은 이유로 제약을 받게 될 것입니다.
완전 자동화의 글로벌화
리소스 제약에 대해 이미 언급했듯이, 이 기술의 완전한 글로벌화는 여전히 매우 비싸고, 작업 집약적이며, 속도에 제한이 있습니다. 현재 Waymo는 샌프란시스코와 피닉스에서만 운전을 할 수 있지만, 접근 방식 자체가 상당히 일반적이고 확장 가능하기 때문에 곧 LA, 오스틴 등으로 확장할 수 있습니다. 또한 폭설 속 주행과 같은 다른 환경적 요인으로 인해 여전히 제약을 받을 수 있습니다. 그리고 드물지만 사람의 구조가 필요한 경우도 있을 수 있습니다. 기능 확장은 "공짜로" 제공되지 않습니다. 예를 들어, 웨이모는 새로운 도시에 진입하기 위해 자원을 투입해야 합니다. 거리를 매핑하고, 고유한 상황이나 해당 지역의 규칙이나 규제에 맞게 인식과 계획/통제 시스템을 조정해야 합니다. 업무에 비유하자면, 많은 직업이 일부 환경이나 조건에서만 완전한 자율성을 가질 수 있으며, 적용 범위를 확장하려면 많은 노력과 시간이 필요합니다. 두 경우 모두 접근 방식 자체는 일반적이고 확장 가능하며 그 영역은 확장될 수 있지만 시간이 걸릴것입니다.
사회의 반응
자율 주행의 지속적인 사회 도입에 대해 제가 흥미롭게 생각하는 또 다른 측면은 불과 몇 년 전만 해도 '과연 될까', '안 될까', '가능하긴 할까'에 대한 수많은 논평과 FUD(Fear, Uncertainty, and Doubt)가 도처에 있었다는 점입니다. 그리고 이제 자율 주행이 실제로 실현되었습니다. 연구용 프로토타입이 아니라 제품으로서 완전 자동화된 교통수단으로 돈을 주고 살 수 있게 된 것입니다. 현재 운영 범위에서 업계는 완전한 자율성에 도달했습니다. 하지만 전반적으로는 아무도 신경 쓰지 않는 것 같습니다. 저와 대화하는 대부분의 사람들(심지어 기술 분야에서도!)은 이런 일이 일어났다는 사실조차 모릅니다. 웨이모가 샌프란시스코의 거리를 달릴 때 많은 사람들이 웨이모를 이상하게 바라보는 것을 볼 수 있습니다. 처음에는 놀라서 쳐다봅니다. 그런 다음 그들은 자신의 삶을 계속하는 것처럼 보입니다. 다른 산업 분야에서도 완전 자율 주행이 도입되면 세상이 완전히 바뀌는 것은 아닐지도 모릅니다. 대다수의 사람들은 처음에는 이를 인식하지 못할 수도 있습니다. 깨닫게 되면 부정에서 수용에 이르기까지 다양한 방식으로 쳐다보다가 어깨를 으쓱할 수도 있습니다. 어떤 사람들은 정말 화가 나서 웨이모에 콘을 꽂아 항의하는 등 그에 상응하는 행동을 하기도 합니다. 물론 아직은 이러한 양상이 완전히 실현될 단계는 아니지만, 실현되면 대체로 예측할 수 있을 것으로 예상합니다.
경제적 영향
일자리를 살펴봅시다. 확실히 웨이모는 눈에 띄게 자동차 운전자의 일자리를 없앴습니다. 하지만 신경망의 학습 데이터를 수집하는 데 도움을 주는 인간 라벨러, 문제가 발생한 차량에 원격으로 연결하는 지원 에이전트, 차량과 지도를 구축하고 유지하는 사람들 등 이전에는 없었지만 눈에 잘 띄지 않는 수많은 다른 일자리도 창출했습니다. 이렇게 고도로 계측된 첨단 자동차를 조립하기 위해 다양한 센서와 관련 인프라로 구성된 완전히 새로운 산업이 탄생했습니다. 일반적인 직업과 마찬가지로 많은 직업이 변화하고 일부 직업은 사라지겠지만 새로운 직업도 많이 등장할 것입니다. 직접적인 삭제보다는 업무의 리팩토링에 가깝지만, 그 삭제가 가장 눈에 띄는 부분이라고 해도 과언이 아닙니다. 시간이 지나면서 전체 숫자가 감소하지 않을 것이라고 주장하기는 어렵지만, 이는 상황을 순진하게 바라보는 사람이 생각하는 것보다 훨씬 느리게 일어납니다.
경쟁 환경
마지막으로 고려하고 싶은 측면은 경쟁 환경입니다. 몇 년 전만 해도 수많은 자율주행차 회사가 있었습니다. 오늘날에는 이 문제의 난이도(AI와 컴퓨팅의 현재 기술 수준을 고려할 때 자동화가 드디어 겨우 가능하다고 생각합니다.)를 인식하여 생태계가 상당히 통합되었고, Waymo는 자율주행의 미래를 보여주는 첫 번째 기능 완성형 시연에 도달했습니다. 하지만 크루즈, 죽스, 그리고 제가 개인적으로 가장 좋아하는 테슬라를 포함해 많은 회사가 이 분야에 뛰어들고 있습니다.
이 분야와 관련된 저의 특별한 이력을 감안하여 간략히 말씀드리겠습니다. 제가 보기에 자율주행 산업의 궁극적인 목표는 전 세계적으로 완전한 자율성을 달성하는 것입니다.Waymo는 먼저 자율성을 확보한 후 전 세계로 확장하는 전략을 택했고, Tesla는 먼저 전 세계로 진출한 후 자율성을 확장하는 전략을 택했습니다.현재 저는 두 회사의 제품을 모두 만족스럽게 사용하고 있으며, 개인적으로는 기술적인 측면을 먼저 응원합니다.하지만 한 회사 [테슬라?]는 주로 소프트웨어 작업이 많이 남아 있는 반면 다른 회사 [웨이모?] 는 주로 하드웨어 작업이 많이 남아 있습니다. 저는 어느 쪽이 더 빨리 발전할지 개인적인로 내기를 하고 있습니다. 마찬가지로 경제의 다른 많은 분야도 빠른 성장과 확장의 시기를 겪을 수 있지만(~2015년 자율주행 시대를 생각해보십시오), 이 비유가 맞다면 나중에 소수의 기업이 경쟁을 벌이는 형태로 통합될 것입니다. 그리고 그 와중에도 도구형 AI(예: 오늘날의 레벨 2 ADAS 기능)와 일부 개방형 플랫폼(예: Comma [천재 해커 George Hotz 가 만든 자율주행 개발회사])이 활발하게 사용될 것입니다.
AGI
이것이 제가 생각하는 AGI의 대략적인 모습입니다. 이제 다양한 속도로 일어나고 예측하기 어려운 모든 종류의 상호작용과 2차 효과가 있는 경제 전반에 걸쳐 이 그림을 머릿속에 복사하여 붙여넣기만 하면 됩니다. 완벽하게 맞아 떨어지지는 않겠지만, 염두에 두고 참고할 수 있는 유용한 모델이 될 것으로 기대합니다.일종의 메메틱 스펙트럼에서 볼 때, 이는 사이버 공간으로 우리의 통제를 벗어나 치명적인 병원균이나 은하계를 회색 점액질로 만드는 나노봇을 제조하는 재귀적으로 자기 개선하는 초지능과는 거리가 멀어 보입니다.그리고 이는 현재 우리 경제에서 사회를 변화시키는 주요 자동화 기술 개발에 박차를 가하고 있는 자율 주행과 훨씬 더 비슷해 보입니다. 자율주행은 점진적으로 진행되고, 사회는 관찰자이자 참여자이며, 규제와 교육받은 인력, 정보, 물질, 에너지 등 다양한 방식으로 확장 속도가 제한되어 있습니다. 세상은 폭발하는 것이 아니라 적응하고 변화하고 리팩터링합니다. 특히 자율주행의 경우, 교통수단의 자동화로 인해 훨씬 더 안전해지고, 도시는 스모그와 혼잡이 훨씬 줄어들며, 도로변에 주차장과 주차된 차량이 사라져 사람들을 위한 공간이 더 많이 확보될 것입니다. 저는 개인적으로 인공지능이 가져올 모든 변화가 매우 기대됩니다.