"AI 연구진, AGI 달성 논란- 진실은 어디에?"

"AI 연구진, AGI 달성 논란- 진실은 어디에?" https://www.esgre100.com/news/articleView.html?idxno=649

(더이에스지뉴스= 최봉혁 수석에디터) 오픈AI가 추론 모델 'o1'을 통해 이미 인공일반지능(AGI)을 달성했다는 내부 주장이 나왔다. 

사람들은 AGI가 등장했는지를 거의 알아차리지 못할 것이라며 이를 지지하는 입장이 있는가 하면, 아직 o1은 아직 허점투성이라는 지적도 등장했다.

바히트 카제미 오픈AI 기술 스태프는 7일(현지시간) X(트위터)를 통해 "내 생각에 우리는 이미 AGI를 달성했고, o1을 통해 더욱 분명해졌다"라는 글을 게시했다.

개인적인 의견이지만, 오픈AI 관계자 입에서 AGI를 달성했다는 말이 등장한 것은 처음이다.

그는 "우리는 '모든 작업에서든 모든 인간보다 더 나은 것'을 달성하지는 못했지만, '대부분 작업에서 대부분의 인간보다 더 나은 것'은 달성했다"라는 것을 이유로 들었다.

이어 "어떤 사람들은 대형언어모델(LLM)이 '레시피'를 따라 한다고 주장하지만, 아무도 LLM이 무엇을 하고 있는지는 알지 못한다"라고 지적했다. 

또 만약 그렇다고 해도 실제 과학적인 과정 역시 레시피를 따르는 것에 불과하다고 설명했다. 

훌륭한 과학자는 직관에 따라 더 나은 가설을 세울 수 있지만, 직관 자체는 많은 시행착오를 통해 만들어졌다는 것이다. 

이처럼 과거의 사례를 통하지 않고 창조되는 것은 없으며, 인간도 결국 LLM처럼 기존 지식을 바탕으로 확장한다는 것을 강조한 것이다.

오픈AI가 추론 모델 'o1'을 통해 이미 인공일반지능(AGI)을 달성했다는 내부 주장이 나왔다. 

사람들은 AGI가 등장했는지를 거의 알아차리지 못할 것이라며 이를 지지하는 입장이 있는가 하면, 아직 o1은 아직 허점투성이라는 지적도 등장했다.

바히트 카제미 오픈AI 기술 스태프는 7일(현지시간) X(트위터)를 통해 "내 생각에 우리는 이미 AGI를 달성했고, o1을 통해 더욱 분명해졌다"라는 글을 게시했다.

개인적인 의견이지만, 오픈AI 관계자 입에서 AGI를 달성했다는 말이 등장한 것은 처음이다.

그는 "우리는 '모든 작업에서든 모든 인간보다 더 나은 것'을 달성하지는 못했지만, '대부분 작업에서 대부분의 인간보다 더 나은 것'은 달성했다"라는 것을 이유로 들었다.

이어 "어떤 사람들은 대형언어모델(LLM)이 '레시피'를 따라 한다고 주장하지만, 아무도 LLM이 무엇을 하고 있는지는 알지 못한다"라고 지적했다. 

또 만약 그렇다고 해도 실제 과학적인 과정 역시 레시피를 따르는 것에 불과하다고 설명했다. 

훌륭한 과학자는 직관에 따라 더 나은 가설을 세울 수 있지만, 직관 자체는 많은 시행착오를 통해 만들어졌다는 것이다. 

이처럼 과거의 사례를 통하지 않고 창조되는 것은 없으며, 인간도 결국 LLM처럼 기존 지식을 바탕으로 확장한다는 것을 강조한 것이다.

이 글은 순식간에 20만건의 조회와 1000여건의 좋아요를 기록하며 격렬한 논쟁을 유발하고 있다. 

AGI의 기준을 어디로 보느냐에 따라 이에 대한 의견은 달라질 수 있다. 

챗GPT가 각종 벤치마크에서 인간보다 우수한 성적을 거뒀다는 것은 이미 지난해부터잘 알려졌다. 하지만 AGI를 달성했다는 말은 나오지 않았다. 

이는 LLM이 방대한 지식을 갖추기는 했지만, 어린아이라도 쉽게 구분할 수 있는 상황 판단이 부족하기 때문이었다.

연구원은 추론을 통해 그 기능이 나아졌다는 것을 강조하는 것이다. 그리고 언어모델로 달성할 수 있는 성능 향상이 거의 한계에 달했다는 것을 의미하기도 한다.

이는 최근 샘 알트먼 오픈AI CEO가 '초지능(super intelligence)'을 강조하는 것과 무관하지 않다. 그는 지난 4일 뉴욕타임스 '딜북 서밋' 컨퍼런스에서 "AGI는 초지능보다 낮은 단계에 있으며, 비교적 빠른 시기에 도달할 수 있을 것"이라고 말했다. 

또 진짜 문제는 초지능이라며, 오픈AI의 사명을 AGI 달성에서 초지능으로 높이려는 듯한 모습을 보여줬다. 초지능은 '모든 분야에서 모든 인간을 뛰어넘는 지능'을 의미한다.

비슷한 입장을 가진 사람은 일론 머스크 CEO다. 그도 지난 4월 "AGI를 가장 똑똑한 인간보다 더 똑똑한 것으로 정의한다면 아마도 내년이나 2년 이내에 가능할 것"이라고 밝힌 바 있다.

또 AGI는 어느 순간 등장하는 것이 아니라 여러 기술의 축적으로 점진적으로 달성하며, 대부분 사람은 AGI가 등장했는지도 알아차리지 못할 것이라는 주장도 등장했다.

저명한 AI 연구자인 에단 몰릭 펜실베이니아대학교 와튼스쿨 교수도 이날 X를 통해 "대부분 지적 작업에서 인간보다 뛰어나지만 자율적이거나 자기 지시적이지 않은 AGI와 같은 시스템을 일반적인 사람들은 알아차리기 힘들 것"이라며 o1을 예로 들었다.

또 "대부분 사람들은 인간 지능의 한계에 부딪히는 작업이 많지 않기 때문에 그것을 알아차리지 못할 것"이라고 설명했다.

몰릭 교수는 지난 5월 AGI에 대해 "신과 같은 지능과 인간보다 모든 작업을 더 잘 수행할 수 있는 기계 사이의 어떤 것으로 광범위하게 정의됐다"라고 밝힌 바 있다.

반대 입장도 만만치 않다. 특히 이날 타임은 오픈AI가 5일 o1 풀 버전 출시를 홍보하기 위해 공개한 영상에서 기본적인 오류가 발생했다며 아직 AGI로 가는 길은 멀었다고 지적했다.

영상은 나무로 만든 새집 사진을 업로드하면 o1이 비슷한 새집을 만드는 방법을 알려주는 내용이다.

하지만 출력물을 자세히 살펴보면 거의 쓸모없는 답변이라는 분석이다. 

o1은 작업에 필요한 페인트나 접착제의 양을 엉뚱하게 인치 단위로 측정하고, 새집 사이즈도 일부분만 제공하며, '정확한 치수'를 공개하겠다고 밝히지만 숫자는 밝히지 않았다는 것이다. 

즉, 새집에 대한 지식은 있을지 모르지만, 새집이 진짜 무엇인지는 모른다는 말이다.

이런 문제로 인해 얀 르쿤 메타 수석과학자는 "LLM이 현실 세계를 파악하는 능력은 고양이만도 못하다"라고 지적한다. 

현실 세계에 대한 LLM의 한계를 보완하기 위한 것이 최근 떠오르는 '세계 모델(LWM)'이다.

https://www.esgre100.com/news/articleView.html?idxno=649

"AI 연구진, AGI 달성 논란: 진실은 어디에?" - 더이에스지(theesg)뉴스