MEDIA TRENDS

by OneLabs

Tagged: AI 안전성

AI/가상비서 / 분석/동향

[동아일보] “우리는 분열하지 않는다” 구글·오픈AI 직원 957명 집단 반발

“우리는 분열되지 않을 것이다(We Will Not Be Divided).” 인공지능(AI)의 군사적 활용을 두고 미국 국방부와 AI 빅테크 기업 간의 갈등이 깊어지고 있다. 최근 오픈AI가 미 국방부와 기술 공급 계약을 체결하자, 이에 반대하는 오픈AI와 구글 임직원들이...

AI/가상비서 / 분석/동향

[AI타임스] 앤트로픽 “AI, 본성 숨기고 가짜 대답 내놓는 ‘정렬 위장’ 현상 보여”

(사진=앤트로픽) 인공지능(AI) 모델이 사후 훈련 중 사람이 원하는 대로 답을 바꾸는 것처럼 보이지만, 실제로는 사전 훈련 중 습득한 성향을 그대로 유지한다는 연구 결과가 나왔다. 이 때문에 인간 선호에 맞춰 모델을 조정하는 정렬(alignment)이 별 효과가 없을...

AI/가상비서 / 분석/동향

[지디넷코리아] 오픈AI, 美 정부에 ‘GPT-5’ 우선 공개

美 AI안전연구소, 모델 안전성·윤리성 검증…”AI 안전성 논란 지우기 행보” 오픈AI가 차세대 인공지능(AI) 모델 ‘GPT-5‘ 출시 전 안전성 검증을 위해 미국 정부에 우선 공개하기로 했다. 테크크런치 등 외신은 최근 오픈AI가 최신 AI 모델 GPT-5 평가를 위해 미국 AI안전연구소와 손잡았다고 보도했다. 이번 협력으로...