MEDIA TRENDS

by OneLabs

Tagged: CoT

AI/가상비서 / 분석/동향

[AI타임스] 추론 모델 비용 낮추는 기술 속속 공개…”2+3 계산에 CoT 필요 없어”

오픈AI의 ‘o1’과 비슷한 구조를 가진 모델들은 인간처럼 단계적 추론에 능숙하지만, ‘과잉 사고(overthinking)’라는 문제를 안고 있다. 이는 사소한 문제에 과도한 계산 자원을 소모하거나 불필요한 추론 과정을 반복, 비용을 쓸데없이 키우는 것을 말한다. 텐센트와 상하이 자오퉁대학교 연구진은 31일(현지시간)...