[OpenAI] 샘 알트만의 '회고'

 

다음 내용은 OpenAI를 이끌고 있는 샘 알트만의 블로그 글(Reflections)을 번역한 내용입니다.

함께 생각해 볼만한 내용이라 생각해서 번역/공유합니다.

 

Reflections - Sam Altman

Reflections

 

---

회고(Reflections)

ChatGPT의 두 번째 생일이 한 달여 전이었고,
이제 우리는 복잡한 추론이 가능한 다음 패러다임의 모델들로 전환했습니다.
새해가 되면 사람들은 반성적인 기분이 들게 되는데,
저는 지금까지의 과정과 그 과정에서 배운 것들에 대한 개인적인 생각을 공유하고 싶습니다.

 

AGI에 더 가까워지면서, 우리 회사의 진행 상황을 돌아볼 중요한 시기라고 느낍니다.

아직도 이해해야 할 것이 많고, 모르는 것도 많으며, 아직 초기 단계입니다.

하지만 우리가 시작했을 때보다는 훨씬 더 많이 알게 되었습니다.

 

우리는 약 9년 전에 OpenAI를 시작했습니다.

AGI가 가능하고, 인류 역사상 가장 영향력 있는 기술이 될 수 있다고 믿었기 때문입니다.

우리는 이를 어떻게 구축하고 광범위하게 유익하게 만들 수 있는지 알아내고 싶었습니다.

우리는 역사에 우리의 발자취를 남기려 노력하는 것에 대해 흥분했습니다.

우리의 야망은 매우 컸고,

이 작업이 사회에 똑같이 특별한 방식으로 도움이 될 수 있다는 우리의 믿음도 컸습니다.

 

당시에는 거의 아무도 관심을 갖지 않았고,

관심을 가진 사람들도 대부분 우리가 성공할 가능성이 없다고 생각했기 때문이었습니다.

 

2022년, OpenAI는 임시로 "Chat With GPT-3.5"라고 불리는 것을 연구하는 조용한 연구소였습니다.

(우리는 연구는 잘하지만 이름 짓기는 잘 못합니다.)

우리는 사람들이 API의 플레이그라운드 기능을 사용하는 것을 지켜보았고,

개발자들이 모델과 대화하는 것을 정말 즐기고 있다는 것을 알았습니다.

우리는 그 경험을 중심으로 데모를 만드는 것이 사람들에게 미래에 대한 중요한 무언가를 보여주고

우리의 모델을 더 좋고 안전하게 만드는 데 도움이 될 것이라고 생각했습니다.

 

다행히도 우리는 이것을 ChatGPT라고 부르기로 했고, 2022년 11월 30일에 출시했습니다.

 

우리는 언젠가 티핑 포인트에 도달하고 AI 혁명이 시작될 것이라는 것을 추상적으로나마 항상 알고 있었습니다.

하지만 그 순간이 언제일지는 몰랐습니다. 놀랍게도, 그것이 바로 이것이었습니다.

 

ChatGPT의 출시는 우리 회사, 우리 산업, 그리고 전 세계적으로

우리가 한 번도 본 적 없는 성장 곡선을 시작했습니다.

우리는 마침내 AI로부터 우리가 항상 희망했던 엄청난 상승효과의 일부를 보고 있으며,

곧 얼마나 더 많은 것이 올지 알 수 있습니다.

---

 

쉽지 않았습니다. 길이 순탄하지 않았고 올바른 선택이 명확하지 않았습니다.

 

지난 2년 동안, 우리는 이 새로운 기술을 중심으로 거의 처음부터 전체 회사를 만들어야 했습니다.

이것을 실행하는 것 외에는 사람들을 훈련시킬 방법이 없으며,

기술 카테고리가 완전히 새로울 때는 그것이 정확히 어떻게 이루어져야 하는지

말해줄 수 있는 사람이 전혀 없습니다.

 

이렇게 적은 훈련으로 매우 높은 속도로 회사를 세우는 것은 지저분한 과정입니다.

종종 두 걸음 전진하고 한 걸음 후퇴하며(때로는 한 걸음 전진하고 두 걸음 후퇴하기도 합니다).

실수는 진행하면서 수정되지만, 독창적인 작업을 할 때는 실제로 어떤 안내서나 이정표도 없습니다.

미지의 바다에서 속도를 내는 것은 믿을 수 없는 경험이지만,

모든 참여자들에게 엄청난 스트레스가 됩니다. 갈등과 오해가 넘쳐납니다.

 

이 몇 년은 지금까지 제 인생에서 가장 보람 있고, 재미있고, 최고이며, 흥미롭고, 지치게 하고,

스트레스가 많은 - 특히 마지막 2년은 - 불쾌한 시간이었습니다.

압도적인 감정은 감사함입니다.

언젠가 저는 우리 목장에서 은퇴하여 식물이 자라는 것을 보면서,

약간 지루하게, 제가 어린 시절부터 꿈꿔왔던 일을 할 수 있었다는 것이 얼마나 멋졌는지 생각할 것입니다.

저는 오후 1시까지 일곱 가지 일이 잘못되는 어느 금요일에도 그것을 기억하려고 노력합니다.

 

---

 

 

1년여 전, 어느 특별한 금요일에,

그날 가장 크게 잘못된 일은 제가 화상 통화에서 갑자기 해고되었고,

통화가 끝난 직후 이사회가 그것에 대한 블로그 포스트를 발표했다는 것이었습니다.

저는 라스베이거스의 호텔 방에 있었습니다.

그것은 설명하기 거의 불가능한 정도로 잘못된 꿈처럼 느껴졌습니다.

 

아무런 경고 없이 공개적으로 해고된 것은

정말 미친 몇 시간을, 그리고 꽤 미친 며칠을 시작하게 했습니다.

"전쟁의 안개"가 가장 이상한 부분이었습니다.

우리 중 누구도 무슨 일이 일어났는지, 왜 그랬는지에 대한 만족스러운 답변을 얻을 수 없었습니다.

전체 사건은, 제 의견으로는, 선의를 가진 사람들에 의한 큰 거버넌스 실패였고, 저도 포함됩니다.

돌이켜보면, 저는 확실히 다르게 했어야 했던 일들이 있었고,

저는 1년 전보다 오늘 더 나은, 더 사려 깊은 리더가 되었기를 바랍니다.

 

저는 또한 복잡한 도전들을 관리하는 데 있어 다양한 관점과 폭넓은 경험을 가진 이사회의 중요성을 배웠습니다.

좋은 거버넌스는 많은 신뢰와 신뢰성을 필요로 합니다.

저는 많은 사람들이 함께 협력하여 OpenAI를 위한

더 강력한 거버넌스 시스템을 구축하여 AGI가 전 인류에게 혜택을 주도록 보장하는

우리의 사명을 추구할 수 있게 해 준 방식에 감사드립니다.

 

제가 가장 크게 깨달은 점은 제가 얼마나 감사해야 하는지,

그리고 얼마나 많은 사람들에게 감사를 표해야 하는지입니다.

OpenAI에서 일하고 이 꿈을 추구하기 위해 그들의 시간과 노력을 투자하기로 선택한 모든 사람들에게,

위기의 순간을 극복하는데 도움을 준 친구들에게,

우리를 지지하고 그들의 성공을 가능하게 하는 것을 신뢰해 준 우리의 파트너들과 고객들에게,

그리고 제 삶에서 그들이 얼마나 관심을 가졌는지 보여준 사람들에게. [1]

 

우리 모두는 더 응집력 있고 긍정적인 방식으로 일로 돌아왔고

저는 그 이후의 우리의 집중에 매우 자랑스럽습니다.

우리는 쉽게 우리의 최고의 연구 중 일부를 수행했습니다.

우리는 약 1억 명의 주간 활성 사용자에서 3억 명 이상으로 성장했습니다.

무엇보다도, 우리는 사람들이 진정으로 사랑하고 실제 문제를 해결하는 것처럼 보이는 기술을

계속해서 세상에 내놓았습니다.

 

---

 

9년 전, 우리는 정말로 우리가 결국 무엇이 될지 전혀 알지 못했습니다;

지금도 우리는 겨우 약간 알 뿐입니다.

AI 개발은 많은 전환점이 있었고 우리는 미래에도 더 많은 전환점이 있을 것으로 예상합니다.

 

일부 전환점은 즐거웠고; 일부는 힘들었습니다.

꾸준한 연구 기적들이 일어나는 것을 보는 것은 재미있었고,

많은 부정론자들이 진정한 신봉자가 되었습니다.

우리는 또한 일부 동료들이 분리되어 경쟁자가 되는 것을 보았습니다.

팀은 규모가 커짐에 따라 전환되는 경향이 있고, OpenAI는 정말 빠르게 규모가 커집니다.

저는 이 중 일부는 피할 수 없다고 생각합니다 -

스타트업은 보통 각각의 새로운 주요 규모 수준에서 많은 이직률을 보이며,

OpenAI에서는 숫자가 몇 달마다 몇 배씩 증가합니다.

지난 2년은 일반 회사의 10년과 같았습니다.

어떤 회사든 그렇게 빠르게 성장하고 발전할 때, 자연스럽게 이해관계가 달라집니다.

그리고 중요한 산업에서 어떤 회사가 선두에 있을 때, 많은 사람들이 여러 가지 이유로 그것을 공격합니다.

특히 그들이 그것과 경쟁하려고 할 때 그렇습니다.

 

우리의 비전은 변하지 않을 것입니다; 우리의 전술은 계속 발전할 것입니다.

예를 들어, 우리가 시작했을 때 우리는 제품 회사를 만들어야 할 것이라는 것을 전혀 알지 못했습니다;

우리는 단지 훌륭한 연구만 하면 된다고 생각했습니다.

우리는 또한 이렇게 엄청난 양의 자본이 필요할 것이라는 것도 전혀 알지 못했습니다.

우리가 몇 년 전에는 이해하지 못했던 새로운 것들을 지금 만들어야 하고,

지금은 거의 상상조차 할 수 없는 새로운 것들이 미래에 있을 것입니다.

 

우리는 지금까지의 연구와 배포에 대한 우리의 실적을 자랑스럽게 생각하며,

안전과 이익 공유에 대한 우리의 사고를 계속 발전시키기 위해 노력하고 있습니다.

우리는 AI 시스템을 안전하게 만드는 가장 좋은 방법이 세상에 점진적이고 점차적으로 공개하고,

사회가 기술에 적응하고 공동 진화할 시간을 주며,

경험으로부터 배우고,

계속해서 기술을 더 안전하게 만드는 것이라고 계속 믿습니다.

우리는 안전과 정렬 연구의 세계적 리더가 되는 것의 중요성과,

실제 세계 응용으로부터의 피드백으로 그 연구를 안내하는 것의 중요성을 믿습니다

 

우리는 이제 전통적으로 이해해 온 방식대로 AGI를 구축하는 방법을 알고 있다고 확신합니다.

우리는 2025년에 첫 번째 AI 에이전트들이 "인력에 합류"하여 기업들의 산출을 실질적으로 변화시키는 것을 볼 수 있을 것이라고 믿습니다.

우리는 계속해서 훌륭한 도구를 사람들의 손에 반복적으로 제공하는 것이 훌륭하고 광범위하게 분포된 결과로 이어진다고 믿습니다.

 

우리는 이제 그 이상을 목표로 하기 시작하고 있습니다. 진정한 의미의 초지능을 향해서 말입니다.

우리는 현재의 제품들을 사랑하지만, 우리는 영광스러운 미래를 위해 여기 있습니다.

초지능으로, 우리는 다른 무엇이든 할 수 있습니다.

초지능적 도구들은 우리가 스스로 할 수 있는 것을 훨씬 넘어서서 과학적 발견과 혁신을 대규모로 가속화할 수 있으며,

이는 차례로 풍요와 번영을 대규모로 증가시킬 수 있습니다.

 

이것은 지금 공상과학처럼 들리고, 이야기하기에도 다소 미친 것처럼 들립니다.

괜찮습니다 - 우리는 전에도 그런 상황에 있었고 다시 그런 상황에 있어도 괜찮습니다.

우리는 앞으로 몇 년 안에 모든 사람이 우리가 보는 것을 보게 될 것이라고 꽤 확신하며,

광범위한 혜택과 권한 부여를 최대화하면서도 매우 신중하게 행동해야 할 필요성이 얼마나 중요한지를 알게 될 것입니다.

우리 작업의 가능성을 고려할 때, OpenAI는 일반적인 회사가 될 수 없습니다.

 

이 작업에서 역할을 할 수 있다는 것이 얼마나 행운이며 겸손하게 만드는 일인지 모릅니다.

 

(Josh Tyrangiel이 어느 정도 이것을 촉발해준 것에 감사합니다.

우리가 더 많은 시간을 가졌더라면 좋았을 것입니다.)

---

 

[1] 그 며칠 동안 OpenAI와 저 개인적으로 도움을 주기 위해 믿을 수 없고 거대한 양의 일을 한 사람들이 많았지만,

두 사람이 다른 모든 사람들 중에서 두드러졌습니다.

Ron Conway와 Brian Chesky는 의무의 범위를 너무나 크게 넘어섰기 때문에 제가 어떻게 설명해야 할지 조차 모르겠습니다.

저는 물론 Ron의 능력과 끈기에 대한 이야기를 수년간 들어왔고 지난 몇 년 동안 Brian과 많은 시간을 보내며 엄청난 도움과 조언을 받았습니다.

하지만 사람들이 실제로 무엇을 할 수 있는지 보려면 그들과 함께 전장에 있는 것만큼 좋은 것은 없습니다.

저는 그들의 도움이 없었다면 OpenAI가 무너졌을 것이라고 합리적으로 확신합니다; 그들은 일이 끝날 때까지 밤낮으로 일했습니다.

그들은 믿을 수 없을 정도로 열심히 일했지만, 침착함을 유지했고 명확한 전략적 사고와 훌륭한 조언을 계속 제공했습니다.

그들은 제가 여러 실수를 하는 것을 막았고 그들 자신은 실수를 하지 않았습니다.

그들은 필요한 모든 것을 위해 그들의 방대한 네트워크를 사용했고 많은 복잡한 상황을 헤쳐나갈 수 있었습니다.

그리고 저는 제가 모르는 많은 일들을 그들이 했다고 확신합니다.

하지만 제가 가장 기억할 것은 그들의 배려, 동정심, 그리고 지원입니다.

저는 창업자와 회사를 지원하는 것이 어떤 것인지 알고 있다고 생각했고, 어느 정도는 알고 있었습니다.

하지만 저는 이 사람들이 한 것과 같은 것을 전에 본 적도 없고, 들은 적도 없습니다.

이제 저는 그들이 왜 전설적인 지위를 가지고 있는지 더 완전히 이해하게 되었습니다.

그들은 다르고 둘 다 진정으로 독특한 평판을 완전히 받을 만합니다.

하지만 그들은 산을 움직이고 도움을 주는 그들의 놀라운 능력과, 필요한 시기의 흔들림 없는 헌신에서 비슷합니다.

우리 업계에는 그들과 같은 사람들이 더 있습니다;

이것은 우리 업계의 놀랍도록 특별한 점이며 사람들이 인식하는 것보다 이 모든 것이 작동하는 데 훨씬 더 많은 기여를 합니다.

저는 앞으로 이것을 갚아나가기를 기대합니다.

더 개인적인 측면에서, 그 주말과 항상 지원해준 Ollie에게 특별히 감사드립니다;

그는 모든 면에서 믿을 수 없을 정도로 훌륭하며 누구도 더 나은 파트너를 요구할 수 없을 것입니다.

 

요약

1. AI 발전과 OpenAI의 여정
- OpenAI는 9년 전 AGI(인공일반지능) 개발을 목표로 시작됨
- ChatGPT 출시(2022년 11월)가 AI 혁명의 티핑포인트가 됨
- 주간 활성 사용자가 1억에서 3억으로 증가하는 급격한 성장 경험

2. 조직의 도전과 성장
- 새로운 기술 카테고리에서 회사를 빠르게 성장시키는 과정의 어려움
- 높은 이직률과 조직 변화를 겪으며 진화
- 제품 회사로의 전환과 대규모 자본 필요성 등 예상치 못한 변화 경험

3. 해고 사건과 거버넌스
- 2023년 갑작스러운 해고와 재복귀 과정
- 이사회의 다양한 관점과 경험의 중요성
- 학습 위기 상황에서 Ron Conway와 Brian Chesky의 결정적인 도움

4. 미래 비전
- 2025년까지 AI 에이전트의 본격적인 workforce 참여 예상
- 초지능(superintelligence) 개발을 향한 새로운 목표 설정
- 광범위한 혜택과 권한 부여를 최대화하면서 신중한 접근 강조

5. 핵심 가치와 원칙
- 점진적이고 단계적인 기술 공개를 통한 안전성 확보
- 사회가 기술과 함께 진화할 시간을 주는 것의 중요성
- OpenAI가 일반 회사가 아닌 특별한 사명을 가진 조직으로 남아야 할 필요성

 

 

AGI와 초지능에 대한 언급이 있어서 주목할 만한 글입니다.

그들은 어디까지 보고 있을까요?