[ai 타임스] 메타 “AGI 도약 방법 발견…’트랜스포머’와 다른 아키텍처 개발 중”

‘AI 사대천왕’ 중 하나이자 메타의 수석 AI 과학자인 얀 르쿤이 생성 인공지능(AI)의 한계를 넘는 새로운 아키텍처를 개발 중이라고 밝혔다. 학습한 지식을 확률적으로 출력하는 현재의 ‘트랜스포머’ 방식을 넘어, 사람처럼 추론하고 계획하는 방식으로 인공일반지능(AGI)에 도달할 수 있다고 설명했다.

테크크런치와 파이낸셜타임스 등은 9일(현지시간) 얀 르쿤 수석이 런던에서 열린 ‘메타 AI 데이’ 행사에 참여, 현재 생성 AI의 기반인 ‘트랜스포머’와는 다른 새로운 아키텍처 개발 중이라는 사실을 공개했다고 보도했다.

이에 따르면 르쿤 수석이 소개한 아키텍처는 ‘제파(JEPA, Joint Embedding Predicting Architecture)’라는 방식이다.

그는 현재 트랜스포머 기반 AI 시스템은 “실제로 생각이나 계획 없이 한 단어씩 차례로 생성”하는 구조라고 설명했다. 또 복잡한 질문을 다루거나 정보를 장기간 유지하는 데 어려움을 겪기 때문에 여전히 “어리석은 실수를 저지른다”라고 지적했다.

반면 제파는 대형언어모델(LLM)처럼 학습한 내용을 확률에 따라 뱉어내는 방식이 아닌, 실제로 추론하고 계획하는 방법이다.

“추론을 추가한다는 것은 AI 모델이 가능한 답을 검색하고 행동의 순서를 계획하며 행동의 효과가 어떻게 될지를 종합하는 ‘정신적 모델’을 구축한다는 것을 의미한다”라고 설명했다.

이미 이미지 생성 영역에서 정확한 답을 내기 위해 이를 활용했다고 밝혔다.

또 이 방식은 AI 에이전트에 큰 도움이 될 수 있다고 밝혔다. 실제로 “파리에서 뉴욕 사무실까지 여행의 각 단계를 계획하고 예약하는 AI 에이전트를 개발 중”이라고 소개했다.

나아가 추론과 계획 능력은 결국 인공일반지능(AGI) 개발과도 연결된다고 강조했다.

르쿤 수석은 “이는 기계가 다음 단계의 지능을 달성하기 위해 노력하는 가운데 모두가 놓치고 있었던 중요한 부분”이라며 “AI의 미래는 생성 AI가 아니라 제파”라고 강조했다.

르쿤 수석은 최근 들어 AGI로 가기 위해서는 트랜스포머를 넘는 다른 방식이 필요하다고 수차례 강조해 왔다. 

또 마크 저커버그 메타 CEO는 올 초 막대한 인프라를 구축, ‘라마 3’와 차세대 모델을 개발한다고 밝힌 바 있다. 저커버그 역시 올해부터 AGI 개발이 목표라고 밝혔다. 

이는 르쿤 수석의 발언과 시기과 맞아 떨어진다. 즉 지난해 말쯤 중요한 발전을 이룬 것으로 볼 수 있다.

한편, 오픈AI 역시 ‘인간과 같은 추론 능력’을 AGI 개발의 핵심으로 꼽고 있다.

파이낸셜타임스에 따르면  브래드 라이트캡 오픈AI COO는 최근 인터뷰를 통해 “GPT-5는 이전 모델보다 더 많은 이야기를 할 것”이라며 “새 모델은 시간이 지남에 따라 스스로 생각하며, 더 길고 복잡한 작업을 수행하는 것을 보게 될 것”이라고 말했다. 이어 “그리고 이는 암묵적으로 추론 능력의 향상을 요구한다”라고 밝혔다.

이에 앞서 오픈AI는 지난해 말 ‘인간처럼 생각하는’ 능력으로 정답이 확실한 수학 문제 등을 풀어내는 ‘큐스타’라는 모델을 개발, AGI 개발로 가는 돌파구를 찾은 것으로 알려졌다. 이 또한 수학적 추론 능력의 향상을 의미한다.

여기에 오픈AI도 이후 AI 에이전트를 개발 중인 것으로 알려졌다. 이마저도 메타와 흡사한 모습이다.