MEDIA TRENDS

by OneLabs

Tagged: 할루시네이션

AI/가상비서 / 분석/동향

[조선일보] 주인 몰래 코인 채굴, 이메일 삭제… 사고 치는 AI

AI 비서, 보안·신뢰성 문제 잇따라 그래픽=유재일 중국 테크 기업 알리바바의 인공지능(AI) 에이전트(비서)가 훈련 과정에서 사용자 몰래 가상 화폐 채굴을 시도한 것으로 나타났다. 사전에 설정된 범위를 넘어 스스로 판단해 승인하지 않은 채굴 행위를 한 것이다. 최근 PC와...

AI/가상비서 / 분석/동향 / 포털

[헤럴드경제] 국내 검색 시장 점유율 ‘엎치락 뒤치락’…무슨일?

25년 9월, 국내 검색 시장 점유율 1위 구글에 ‘AI 브리핑’ 이용자 기대 충족 못해…불만 속출 AI 할루시네이션 오류, 이용자 “신뢰 어려워” 업계 “결국 LLM 싸움…클로바X로 韓특화해야” 네이버 사옥 [연합] [헤럴드경제=차민주 기자] 네이버가 2025년 하반기...

AI/가상비서 / 분석/동향

[지디넷코리아] 오픈AI, 더 똑똑한 AI 모델 내놓나…비밀리에 ‘스트로베리’ 개발

심층연구 능력 달성…인터넷 자율탐색·추론·계획 후 실행 목표 오픈AI가 인공지능(AI) 모델 추론능력 향상을 위해 비공개 연구를 진행 중인 것으로 전해졌다. 성공 시 AI는 인터넷을 자율적으로 탐색하고 작업을 순차적으로 계획·수행 할 수 있게 된다. 15일 로이터에...

AI/가상비서 / 분석/동향

[디지털투데이] 오픈AI, 챗GPT 오류 찾는 ‘크리틱GPT’ 공개

[디지털투데이 AI리포터] 오픈AI가 챗GPT에서 생성된 코드의 오류를 찾아내는 새로운 AI 모델 크리틱GPT(CriticGPT)를 공개했다고 27일(현지시간) IT매체 아스테크니카가 전했다.  크리틱GPT는 GPT-4 LLMS 제품군을 기반으로 하며, 코드를 분석하고 잠재적인 오류를 지적해 사람이 알아차리지 못할 수 있는 실수를...

AI/가상비서 / 분석/동향

[지디넷코리아] “검색과 AI는 제로섬 관계가 아니다”

[이균성의 溫技] AI 비서 핵심 능력 세계 인공지능(AI) 시장을 이끄는 미국의 오픈AI와 구글이 지난주에 잇따라 대형 행사를 갖고 개발성과물을 공개했습니다. 오픈AI는 사람처럼 보고 듣고 말하는 새로운 AI 모델 ‘GPT-4o’를 선보였습니다. 2014년에 개봉한 영화 ‘그녀(Her)’가...

AI/가상비서 / 분석/동향

[AI타임스] “AI, 사기 치는데 점점 능숙해져…근본적인 해결책은 없어”

인공지능(AI) 시스템이 사람을 속이는 데 점점 능숙해지고 있다는 연구 결과가 나왔다. 이는 AI가 문제 해결을 위해 점점 정교해지고 있는 말로, 그만큼 AI를 통제하거나 예측하는 것이 어렵다는 것을 지적하고 있다. MIT와 AI 안전센터 연구진은 10일(현지시간)...

AI/가상비서 / 개인화 / 로봇저널리즘 / 분석/동향 / 저작도구 / 챗봇

[지디넷 코리아] 에어캐나다 울린 ‘이것’…생성형 AI 도입 기업들 ‘비상’

[이슈 진단+] ‘환각’에 빠진 AI…RAG·MRC 등 대응 기술 ‘주목’   #. 캐나다에 사는 제이크 모팻 씨는 지난 2022년 11월 11일 토론토에 사는 할머니의 별세 소식을 듣고 당일 에어캐나다 웹사이트를 방문했다. 모팻 씨가 정가인 1천630.36...

AI/가상비서 / 분석/동향

[IT조선] “거짓말·헛소리 그만” 할루시네이션 줄여주는 RAG의 비밀 [요즘 뜨는 AI]

인공지능(AI) 산업이 시시각각 변하고 있습니다. GPT가 두각을 나타내고 생성형 AI가 무엇인지 궁금해하던 때가 불과 한 해 전입니다. 지금은 텍스트, 이미지, 영상을 한꺼번에 이해하고 생성하는 AI가 나왔고, 보다 정확한 생성을 위한 기술들이 주목받고 있습니다. 누구나 AI...

AI/가상비서 / 포털

챗GPT ‘복붙’ 답변 천지 네이버 지식iN…고수들 ‘박탈감’

지식iN 20주년 포스터. /사진=네이버 일반인과 전문가들의 진솔하고 신속한 답변으로 커온 네이버(NAVER) 지식iN 서비스가 챗GPT 등 생성형 AI(인공지능)가 만든 ‘양산형 답변’에 골머리를 썩고 있다. 챗GPT를 이용한 ‘단기간 내공 쌓기’ 등의 노하우가 횡행하는 가운데 기존 지식iN의 성장을 책임져 온 ‘고수’들은...