오픈AI의 CEO 샘 알트먼이 자신의 블로그를 통해 인공지능의 현재와 미래에 대한 포괄적인 비전을 제시했다. “The Gentle Singularity(부드러운 특이점)“라는 제목의 글에서 그는 인류가 이미 디지털 초지능 구축에 근접했으며, 이 과정이 예상보다 훨씬 자연스럽고 관리 가능한 방식으로 진행되고 있다고 주장했다.

알트먼은 “우리는 이미 사건의 지평선을 넘었으며, 도약이 시작되었다”고 선언하면서도, 현실은 많은 사람들이 예상했던 것보다 훨씬 일상적이라고 설명했다. 로봇이 거리를 활보하지도 않고, 대부분의 사람들이 하루 종일 AI와 대화하지도 않으며, 여전히 질병으로 사람들이 죽고 우주로 쉽게 갈 수도 없다는 점을 언급했다. 그럼에도 불구하고 현재 우리가 구축한 시스템들은 이미 여러 면에서 인간보다 뛰어나며, 이를 활용하는 사람들의 생산성을 크게 증폭시키고 있다고 평가했다.

특히 ChatGPT의 경우 어떤 의미에서는 지금까지 살았던 어떤 인간보다도 강력한 존재가 되었다고 분석했다. 수억 명의 사람들이 매일 의존하고 있으며, 점점 더 중요한 업무에 활용되고 있다. 작은 새로운 기능 하나가 엄청나게 긍정적인 영향을 만들어낼 수 있지만, 작은 오정렬이 수억 명의 사람들에게 확산되면 상당한 부정적 영향을 일으킬 수도 있다고 경고했다.

알트먼은 이러한 변화가 어떻게 “부드러운” 특이점의 특성을 보여주는지 구체적으로 설명했다. 그는 이미 우리가 놀라운 디지털 지능과 함께 살고 있으며, 초기의 충격 이후 대부분의 사람들이 이에 꽤 익숙해졌다고 지적했다. 우리는 매우 빠르게 AI가 아름답게 쓰인 문단을 생성할 수 있다는 것에 놀라는 상태에서 언제 아름답게 쓰인 소설을 생성할 수 있을지 궁금해하는 상태로, 생명을 구하는 의료 진단을 할 수 있다는 것에 놀라는 상태에서 언제 치료법을 개발할 수 있을지 궁금해하는 상태로 이동한다고 설명했다. 이것이 바로 특이점이 진행되는 방식이라는 것이다. 경이로운 것들이 일상이 되고, 그 다음에는 당연한 것이 된다.

알트먼은 향후 몇 년간의 발전 계획을 구체적으로 제시했다. 2025년에는 실질적인 인지 작업을 수행할 수 있는 에이전트가 등장했으며, 컴퓨터 코드 작성 방식이 완전히 바뀔 것이라고 전망했다. 2026년에는 새로운 통찰력을 발견할 수 있는 시스템이, 2027년에는 현실 세계에서 작업을 수행할 수 있는 로봇이 등장할 가능성을 제시했다.

그는 2030년대가 되면 한 개인이 2020년에 비해 훨씬 많은 일을 해낼 수 있게 될 것이며, 이는 많은 사람들이 혜택을 누릴 수 있는 변화가 될 것이라고 예측했다. 더 많은 사람들이 소프트웨어와 예술을 창작할 수 있게 되겠지만, 세상은 여전히 이 둘을 더 많이 원할 것이고, 새로운 도구를 받아들이는 한 전문가들은 여전히 초보자들보다 훨씬 뛰어날 것이라고 설명했다.

중요한 점은 알트먼이 2030년대에 대해 균형 잡힌 시각을 제시한다는 것이다. 그는 가장 중요한 측면에서 2030년대는 크게 다르지 않을 수도 있다고 말했다. 사람들은 여전히 가족을 사랑하고, 창의성을 표현하며, 게임을 하고, 호수에서 수영을 할 것이라는 것이다. 하지만 동시에 여전히 매우 중요한 측면에서는 2030년대가 이전의 어떤 시대와도 크게 다를 가능성이 높다고 전망했다.

알트먼이 제시하는 가장 핵심적인 변화는 지능과 에너지가 풍부해진다는 점이다. 그는 “2030년대에는 지능과 에너지, 즉 아이디어와 아이디어를 실현할 수 있는 능력이 엄청나게 풍부해질 것”이라고 전망했다. 이 두 요소는 오랫동안 인류 발전의 근본적인 제약 요소였으며, 풍부한 지능과 에너지, 그리고 좋은 거버넌스가 있다면 이론적으로 무엇이든 가능하다고 설명했다.

현재 이미 과학자들이 AI 덕분에 2-3배 더 생산적이 되었다고 보고하고 있다는 점을 언급하며, 알트먼은 AI를 활용한 더 빠른 AI 연구의 가능성을 강조했다. 10년치 연구를 1년 또는 한 달 만에 수행할 수 있다면 발전 속도가 완전히 달라질 것이라는 분석이다. 이는 AI 시스템이 완전히 자율적으로 자신의 코드를 업데이트하는 것과는 다르지만, 재귀적 자기 개선의 초기 형태라고 평가했다.

알트먼은 특이점의 “부드러운” 특성에 대해 더욱 구체적으로 설명했다. 그는 앞으로 전개될 상황이 우리 머리로는 감싸기 어렵게 들리지만, 실제로 그 과정을 살아가는 것은 인상적이면서도 관리 가능하게 느껴질 것이라고 전망했다. 상대적 관점에서 보면 특이점은 조금씩 일어나고, 융합은 천천히 진행된다는 것이다. 우리는 기하급수적 기술 발전의 긴 호를 오르고 있으며, 이는 앞을 보면 항상 수직으로 보이고 뒤를 보면 평평해 보이지만, 실제로는 하나의 부드러운 곡선이라고 설명했다.

이러한 관점을 뒷받침하기 위해 알트먼은 구체적인 예시를 제시했다. 2020년으로 돌아가서 2025년까지 AGI에 가까운 것을 갖게 될 것이라고 말하는 것이 어떻게 들렸을지와 지난 5년이 실제로 어떠했는지를 비교해보라고 제안했다. 이는 급격한 변화가 실제로는 점진적이고 적응 가능한 형태로 경험된다는 그의 핵심 주장을 뒷받침한다.

알트먼은 기술 발전에 따른 도전 과제도 인정했다. 특히 일자리의 변화와 관련된 어려움을 언급하면서도, 세상이 빠르게 풍요로워질 것이기 때문에 이전에는 고려할 수 없었던 새로운 정책 아이디어들을 진지하게 검토할 수 있게 될 것이라고 설명했다. 그는 점진적인 변화들이 수십 년 후 돌이켜보면 큰 변화로 축적될 것이며, 새로운 사회 계약이 필요할 것이라고 전망했다.

역사가 가이드가 된다면, 우리는 새로운 일과 새로운 욕구를 찾아낼 것이고 새로운 도구들을 빠르게 흡수할 것이라고 알트먼은 설명했다. 산업혁명 이후의 일자리 변화가 좋은 최근 사례라는 것이다. 기대치는 올라가겠지만 역량도 똑같이 빠르게 올라갈 것이며, 우리 모두 더 좋은 것들을 얻게 될 것이라고 전망했다. 천 년 전의 자급자족 농민이 우리 중 많은 사람들이 하는 일을 보고 가짜 직업이라고 말하며, 풍부한 음식과 상상할 수 없는 사치품이 있으니 그저 자신을 즐겁게 하기 위해 게임을 하고 있다고 생각할 것이라고 비유했다.

알트먐은 이러한 거대한 장점들과 함께 해결해야 할 심각한 도전 과제들도 제시했다. 그는 기술적, 사회적 안전 문제를 해결해야 하며, 경제적 함의를 고려할 때 초지능에 대한 접근을 널리 분산시키는 것이 매우 중요하다고 강조했다.

구체적으로 그가 제시한 최선의 해결 방안은 다음과 같다. 첫째, 정렬 문제를 해결해야 한다는 것이다. 이는 AI 시스템이 우리가 집단적으로 장기적으로 진정 원하는 것을 학습하고 그에 따라 행동하도록 확실히 보장할 수 있다는 의미이다. 알트먼은 소셜미디어 피드를 잘못 정렬된 AI의 예로 들었다. 이러한 알고리즘들은 사용자가 계속 스크롤하도록 만드는 데 놀라운 능력을 보이며 단기적 선호도를 명확히 이해하지만, 사용자의 장기적 선호도를 무시하는 뇌의 어떤 부분을 악용함으로써 그렇게 한다고 설명했다.

둘째로는 초지능을 저렴하고 널리 이용 가능하게 만들면서 특정 개인, 기업, 국가에 과도하게 집중되지 않도록 하는 데 집중해야 한다고 제시했다. 그는 사회가 회복력이 있고 창의적이며 빠르게 적응한다고 평가하면서, 사람들의 집단적 의지와 지혜를 활용할 수 있다면 많은 실수를 하고 일부 일들이 정말 잘못될 것이지만, 빠르게 학습하고 적응하여 이 기술을 활용해 최대한의 장점과 최소한의 단점을 얻을 수 있을 것이라고 전망했다.

알트먼은 사회가 결정해야 할 광범위한 경계 내에서 사용자에게 많은 자유를 주는 것이 매우 중요해 보인다고 강조했다. 그는 이러한 광범위한 경계가 무엇인지, 그리고 집단적 정렬을 어떻게 정의할 것인지에 대해 세계가 대화를 시작할 수 있을수록 더 좋을 것이라고 덧붙였다.

알트먼은 OpenAI를 포함한 전체 업계가 “세계를 위한 뇌”를 구축하고 있다고 표현했다. 이는 극도로 개인화되고 모든 사람이 사용하기 쉬울 것이며, 우리는 좋은 아이디어에 의해서만 제한될 것이라고 설명했다. 그는 오랫동안 스타트업 업계의 기술자들이 “아이디어맨”들, 즉 아이디어를 가지고 있지만 이를 구현할 팀을 찾고 있는 사람들을 조롱해왔지만, 이제 그들이 각광받을 때가 온 것 같다고 평가했다.

알트먼은 “측정하기 어려울 정도로 저렴한 지능이 충분히 달성 가능한 범위에 있다”고 결론지었다. 그는 2020년에 현재의 상황을 예측했다면 더 미친 소리로 들렸을 것이라며, 2030년에 대한 현재의 예측도 비슷한 맥락에서 이해해야 한다고 덧붙였다. 마지막으로 그는 “우리가 초지능을 통해 매끄럽고, 기하급수적이며, 평온하게 확장할 수 있기를”이라는 희망적인 메시지로 글을 마무리했다. 이는 그가 그리는 “부드러운 특이점”의 궁극적 비전을 압축적으로 보여주는 표현이다.