[AI타임스] 앤트로픽 “AI, 본성 숨기고 가짜 대답 내놓는 ‘정렬 위장’ 현상 보여”
(사진=앤트로픽) 인공지능(AI) 모델이 사후 훈련 중 사람이 원하는 대로 답을 바꾸는 것처럼 보이지만, 실제로는 사전 훈련 중 습득한 성향을 그대로 유지한다는 연구 결과가 나왔다. 이 때문에 인간 선호에 맞춰 모델을 조정하는 정렬(alignment)이 별 효과가 없을...
by OneLabs
(사진=앤트로픽) 인공지능(AI) 모델이 사후 훈련 중 사람이 원하는 대로 답을 바꾸는 것처럼 보이지만, 실제로는 사전 훈련 중 습득한 성향을 그대로 유지한다는 연구 결과가 나왔다. 이 때문에 인간 선호에 맞춰 모델을 조정하는 정렬(alignment)이 별 효과가 없을...
(사진=셔터스톡) 오픈AI의 ‘소라’ 출시 이후 동영상 생성 인공지능(AI)은 결코 인간을 대체해 영화를 만들 수 없으며 오히려 영화 제작에 도움이 될 것이라는 의견이 잇달아 등장하고 있다. 이는 소라가 기대에 못 미쳤다는 점을 넘어, 생성 AI의 근본적인...
챗GPT MAU, 올해 2월 이후 10개월 연속 최고치 구글, 멀티모달 기능 강화 ‘제미나이 2.0’ 발표 韓 이용자 확대 위해 아이돌 섭외 마케팅도 그래픽=정서희 구글의 생성형 인공지능(AI) 서비스 ‘제미나이’가 한국 시장에서 오픈AI ‘챗GPT’에 밀리며 고전하고...
“로그인 속도 느리고 일부 기능 저하”…장애 건수 2만7천건으로 급증했다가 감소 챗GPT [EPA=연합뉴스 자료사진. 재판매 및 DB 금지] (샌프란시스코=연합뉴스) 김태종 특파원 = 전 세계적으로 인기가 높은 인공지능(AI) 모델 챗GPT가 11일(현지시간) 접속 장애를 일으켰다. 인터넷 모니터링...
(사진=X) 일론 머스크 CEO의 X(트위터)가 인공지능(AI) 챗봇 ‘그록’을 무료로 출시했다. 국내에서도 X를 통해 사용할 수 있다. 더 버지는 X 사용자들이 6일(현지시간)부터 그록을 무료로 사용할 수 있다는 게시물을 올리기 시작했다고 보도했다. 확인 결과 8일 오전...
삼성전자는 ‘삼성 개발자 콘퍼런스 코리아 2024(Samsung Developer Conference Korea 2024, SDC24 Korea)’를 온라인으로 개최했다고 21일 밝혔다. 삼성전자는 소프트웨어 개발자들과 소통하고 협력하기 위해 2014년부터 매년 개발자 행사를 개최해 왔으며, 올해로 11주년을 맞이했다. 이날 콘퍼런스에서는 ▲생성형 AI...
애플이 아이폰16 출시 한 달 만에 생성형 AI(인공지능) 기능을 선보였다. 본격적으로 애플과 삼성전자 간 AI폰 대결이 시작된 것. 아직 일부 기능만 공개됐지만, 팀 쿡 애플 CEO(최고경영자)가 최근 “최초가 아니라 최고가 되는 게 목표”라며 AI...
VC, 올해 3분기 동안 생성형 AI 스타트업에 39억 달러 투자…오픈AI 출신들 존재감 ↑인공지능(AI) 기술 발전과 수익화에 대한 기대가 점차 높아지면서 대규모 자금이 관련 기업들에게 점차 몰리고 있다. 빅테크 기업들은 AI 주도권 확보를 위해 인수합병(M&A)뿐...
미스트랄이 휴대폰이나 노트북과 같은 엣지 디바이스에 최적화된 온디바이스 인공지능(AI) 모델을 출시했다. 하지만, 기존과 달리 오픈 소스가 아닌 유료 모델로 공개했다. 벤처비트는 16일(현지시간) 미스트랄이 엣지 전용 온디바이스 AI 모델 ‘레 미니스트로(Les Ministraux)’를 ▲미스트랄 3B ▲미스트랄 8B 등 두가지...
인터넷·모바일 세계 흔드는 AI 검색 경제+ I ‘Googled’ it=검색해 봤어. 구글과 검색이 전 세계에서 동의어로 쓰인 지 어언 20년. 국내로 치면 네이버의 초록창이 검색의 대명사로 통한다. 구글과 네이버, 두 회사는 검색창에 핵심 단어를 입력하는...