[AI타임스] 인간 속이는 AI 모델 나올까…앤트로픽, AI 안전 기술 우회하는 LLM 연구 발표
트리거 문구에 반응하는 ‘슬리퍼 에이전트’ (사진=셔터스톡) ‘기만적인 행동’을 학습한 대형언어모델(LLM)은 이를 제거하는 것이 거의 불가능하다는 연구 결과가 나왔다. 테크크런치는 14일(현지시간) 앤트로픽의 연구진이 LLM이 사람처럼 속이는 기술을 배울 수 있는지 연구했으며, 결과적으로 매우 효과적으로 기만행위를...
by OneLabs
트리거 문구에 반응하는 ‘슬리퍼 에이전트’ (사진=셔터스톡) ‘기만적인 행동’을 학습한 대형언어모델(LLM)은 이를 제거하는 것이 거의 불가능하다는 연구 결과가 나왔다. 테크크런치는 14일(현지시간) 앤트로픽의 연구진이 LLM이 사람처럼 속이는 기술을 배울 수 있는지 연구했으며, 결과적으로 매우 효과적으로 기만행위를...
LoFi 음악 반복하는 유튜브 콘텐츠 흥행…뮤버트 이용하면 10분만에 뚝딱 생성 AI 음악, 현재는 저작권 문제 없지만 규제 변할 수 있어 유튜브 lofi girl 채널 화면 인공지능(AI) 도구가 더 대중화되고 접근성이 좋아지면서 새로운 수익 모델도 만들어내고 있다. 그중 하나가 AI로 음악을...
[CES 2024] 현장서 본 AI 미디어 혁명… 정철환 CES 취재팀장 CES(Consumer Electronics Show)는 전통적으로 IT와 모바일, 가전 등 일반 소비자 대상 제품이 중심이 되는 행사다. 그러나 올해는 인공지능(AI)이 행사 전체를 꿰뚫는 화두가 되면서, 미디어 산업의 미래를 엿볼 수 있는 흔치 않은 기회가...
접근성 챗GPT보다 높아…이메일 수정에 특화 업스테이지가 인공지능(AI) 글쓰기 비서 ‘라이트업’을 9일 출시했다. 라이트업은 사용자 웹 페이지를 따라다니면서 이메일 내용이나 오타를 잡아주고, 문맥에 맞게 글을 고쳐준다. 기능을 직접 체험해 봤다. 라이트업은 업스테이지의 경량언어모델(sLM) ‘솔라’를 장착했다....
홍콩 유르토피아, CES 전시장서 공개 챗GPT를 탑재한 전기 자전거가 세계 최대 IT·가전 전시회 ‘CES2024’에서 처음 선보였다고 IT매체 엔가젯이 10일(현지시간) 보도했다. 홍콩에 본사를 둔 유르토피아(Urtopia)는 CES2024에서 플래그십 전기자전거 ‘퓨전’(Fusion)를 선보였다. 이 자전거는 음성으로 명령을 내릴 수 있는 ‘자비스’(Jarvis) 기술을 탑재했다....
[CES 2024] 설계 복잡성·전력 소모 등 해결 전망…연말부터 中 지리차에 공급 [라스베이거스(미국)=권봉석 기자] 인텔이 9일 오후(한국시간 10일 아침) 라스베이거스 베네시안 엑스포에서 오토모티브 행사를 진행하고 자동차용 프로세서 시장 진출을 선언했다. 이날 잭 위스트 인텔 오토모티브...
오픈AI, 공식 출시…수익배분 방식은 3월 중 공개 오픈AI가 챗봇을 사고 팔 수 있는 ‘GPT스토어’를 출시했다. 개발자와 플랫폼 간 수익 배분 방식은 3월 중 공개할 예정이다. 10일(현지시간) 오픈AI는 인공지능(AI) 챗봇을 만들어 사고파는 GPT스토어를 출시했다고 공식...
이미지에 섬세한 텍스트를 다수 삽입한 ‘미드저니 V6’ 결과물 (사진=X, Orcton) 최고 인기를 누리는 이미지 생성 인공지능(AI) 미드저니가 비디오 생성 분야에 뛰어들었다. 퀄리티 높은 미드저니의 가세로 비디오 생성 분야 경쟁이 더 치열해질 전망이다....
AI 왜곡·조작 우려에 국내외 딥페이크 규제 강화 추세 생성형 AI 검색 서비스 ‘선거 관련’ 질문 제한하기도 2024년 한국 총선과 미국 대선 등 인공지능(AI) 시대의 선거를 앞두고 생성형 인공지능 서비스와 각국의 당국이 대응을 강화하고 있다. 중앙선거관리위원회는 선거일 90일...
“직접 써봐도 될까요?” “뭔가 만진 것 같은 느낌이 들어요!” 세계 최대 가전·정보기술(IT) 전시회 ‘소비자가전쇼(CES) 2024’ 개막을 이틀 앞둔 7일(현지시간) 미국 라스베이거스 만달레이베이 컨벤션센터. CES 참가 주요 스타트업의 제품·서비스를 미리 소개하는 ‘CES 언베일드'(unveiled) 행사는 세계 각국에서 온 취재진으로 가득...