https://www.facebook.com/seungjoon.choi/posts/10228547413365863

AGI를 향한 접근 - "실시간 A/B 테스트가 아니라 과학적 방법론을 쓰자"

데미스 하사비스의 GTC 2023 강연은 역시 DQN, 알파고, 알파폴드 및 그 활용 등으로 이어지는 궤적을 되돌아 보면서 어떤 사명, 어떤 일관성(Making Search Tractable 등)을 가지고 연구를 펼쳐오고 있는지를 말하는 세션이었습니다. 마지막 부분이 특히 인상에 남습니다. 요즘의 가속하는 상황에 관한 제언이네요.

"실시간 A/B 테스트가 아니라 과학적 방법론을 쓰자"란 이야길 합니다. 즉, 샘 올트만이 말하는 "AGI를 위한 계획과 그 너머"( https://openai.com/blog/planning-for-agi-and-beyond )와는 다른 접근이라는 것이죠. (번역: http://bit.ly/3KBx2UX )

샘 올트만은 이렇게 말했습니다. "첫째, 더욱 강력한 시스템을 지속적으로 개발하면서 이를 배포하고 실제 환경에서 운영 경험을 쌓는 것입니다. 이것이 AGI를 신중하게 도입할 수 있는 가장 좋은 방법이라고 생각합니다. AGI가 있는 세상으로의 점진적인 전환이 갑작스러운 전환보다 낫기 때문입니다. 강력한 AI가 세상의 발전 속도를 훨씬 더 빠르게 만들 것으로 기대하며, 점진적으로 적응하는 것이 더 낫다고 생각합니다."

그렇다면 데미스 하사비스는 어떻게 이야기 했을까요?

데미스 하사비스가 이야기한 이번 강연의 마지막 부분을 DeepL + GPT-4를 활용해 번역해 봤습니다.

----

이제 AGI에 접근함에 따라 커뮤니티가 어떻게 발전할 것인지에 대해 좀 더 자세히 살펴보겠습니다. 어쩌면 그리 멀지 않은 미래일지도 모르겠습니다. 그리고 인류 역사에서 매우 중요한 순간이 될 것이라고 생각하는 이 시점을 어떻게 대처해야 할까요.

저희 분야에 대한 제 조언은 바로 기술 산업이 오랫동안 가지고 있던 '빠르게 움직이며 깨뜨리자'라는 마인드를 가지지 말아야 한다는 것입니다. 이러한 생각은 엄청난 성공을 거두고 많은 발전을 이루어 낸 것은 사실입니다. 그렇다고 꼭 느리게 움직여야 한다는 것은 아닙니다. 빠르게 움직여야 하지만, 동시에 우리가 무엇을 하는지에 대해 신중하게 고려해야 합니다.

특히 매우 강력한 기술을 다룰 때, 그 결과가 세상에 매우 해로울 수 있기 때문에 무엇인가를 망가뜨리지 않는 것이 중요하다고 생각합니다. 따라서 우리는 일반 인공 지능(AGI)에 접근하면서 더욱 강력한 시스템을 구축할 때 이러한 점을 인식해야 할 것입니다. 그리고 생각해보면, 우리가 "빠르게 움직이고 무엇인가를 깨뜨리자"라고 할 때 무엇을 의미하는지 생각해봅시다. 기본적으로 우리는 실제 세계에서 더 많은 실시간 A/B 테스트 시스템을 의미하는 것입니다.

그냥 사진 앱이나 게임 같은 재미를 위한 것이라면, 그런 접근 방식이 괜찮을 수도 있습니다. 하지만 AI와 같은 매우 강력하며 양면성이 있는 기술과 같은 것들을 다룰 때는, 파손이 상당히 중요하거나 심각할 수 있는 기술이기 때문에, 그런 결과를 누가 감당해야 하는지에 대한 고려가 필요합니다. 실시간 A/B 테스트가 잘 작동하지 않으면, 그 결과를 사회가 감당해야 하는 것은 AI와 같은 기술을 이용한 앞으로의 발전에 있어서 실현 가능한 접근 방식이 아닙니다. 이미 그러한 결과들이 나타나기 시작한 것 같습니다.

소셜 미디어의 역사를 되돌아보면, 소셜 미디어가 확산되고 사회에 큰 영향력을 행사하면서 어떤 일이 일어났는지 알 수 있으며, 지금 우리가 보고 있는 의도하지 않은 결과들이 있습니다. 그렇다면 대신 무엇을 옹호할 수 있을까요? 사실 이러한 종류의 발전을 처리하는 데 이미 효과가 있다는 것을 알고 있는 또 다른 접근 방식이 있으며, 이는 인류가 생각해낸 가장 중요한 원칙인 과학적 방법입니다. 그리고 이것은 물론 현대 문명과 계몽주의로 이어졌습니다.

그리고 이것이 우리가 AGI의 시점에 접근하면서 의지해야 할 것이라고 생각합니다. 우리는 신중한 검토와 선견지명이 필요합니다. 그래서 이상적으로는 뒤돌아보는 것보다 앞서 볼 수 있는 선견지명이 더 필요하다고 생각합니다.

그리고 이것을 하기 위해서는, 무슨 일이 일어나고 있는지, 시스템이 무엇을 하고 있는지에 대한 가설을 생성하고, 엄격한 실험 조건과 정확한 조건 하에서 이를 철저히 테스트해야 한다고 생각합니다. 아마도 시뮬레이션 같은 것을 사용해서 테스트가 어떤 결과를 가져올지 제한할 수 있을 것입니다. 그리고 이 모든 것은 물론, 실증적인 데이터를 바탕으로 빠르게 업데이트하며, 독립적인 동료 평가를 통해 무슨 일이 일어나고 있는지, 그리고 그 데이터를 확인해야 합니다.

그리고 이 모든 목적은 우리가 구축하고 있는 시스템에 대한 더 나은 이해를 얻고, 그들이 할 수 있는 것과 한계가 무엇인지를, 이상적으로는 대규모로 배포하기 전에 파악하려는 것입니다. 그래서 AGI에 접근하면서, 이와 같은 중요한 기술을 존중하고, 주의를 기울여야 한다고 주장하고 싶습니다. 그래서 빠르게 움직이며 무언가를 부수는 대신, 대담하고 책임감 있게 행동해야 한다고 말하고 싶습니다.

대담함은 매우 중요합니다. 이러한 기술에 대해 용감해져야 하며, 실제 세계에서 테스트해야 하되, 책임감 있게 행동해야 합니다. 인공지능 기술에서 나올 수 있는 많은 이점들이 있습니다. 특히 우리가 방금 이야기한 것처럼 의학, 약물 개발, 그리고 재생 에너지, 소재 및 지속 가능성, 기후와 같은 분야에서 많은 도움이 됩니다.

인공지능이 우리를 도울 수 있는 놀라운 긍정적인 것들이 정말 많습니다. 그러나 우리가 하는 일과 그 방법에 대한 책임도 생각해야 합니다. 결론적으로, 우리가 이것을 잘 해결한다면, 인공 일반 지능(AGI)은 우주를 이해하고 그 안에서 우리의 위치를 이해하는데 도움이 되는 궁극적인 보편적 도구로 생각할 수 있습니다.

들어주셔서 감사합니다.