MEDIA TRENDS

by OneLabs

Tagged: 강화학습

AI/가상비서 / 분석/동향

[AI타임스] MIT, 스스로 학습하고 진화하는 언어 모델 프레임워크 ‘SEAL’ 공개

대형언어모델(LLM)이 새로운 정보나 과제를 접했을 때, 자체적으로 학습 데이터를 만들고 내부 가중치를 조정해 학습하고 적응할 수 있도록 돕는 기술이 등장했다. MIT 연구진은 23일(현지시간) 대형언어모델(LLM)에 자가 학습 및 적응 능력을 부여하는 새로운 프레임워크 ‘SEAL(Self-Adapting Language...

AI/가상비서 / 분석/동향

[AI타임스] 앤트로픽 “AI, 본성 숨기고 가짜 대답 내놓는 ‘정렬 위장’ 현상 보여”

(사진=앤트로픽) 인공지능(AI) 모델이 사후 훈련 중 사람이 원하는 대로 답을 바꾸는 것처럼 보이지만, 실제로는 사전 훈련 중 습득한 성향을 그대로 유지한다는 연구 결과가 나왔다. 이 때문에 인간 선호에 맞춰 모델을 조정하는 정렬(alignment)이 별 효과가 없을...