[AI 타임스] 미스트랄, GPT-4의 ‘MoE’ 방식 도입한 ‘믹스트랄 8x7B’ 공개
“모델 쪼개기로 작지만 강력한 성능 강점” (사진=셔터스톡) 프랑스의 간판 스타트업 미스트랄 AI가 ‘GPT-4’와 유사한 아키텍처를 가진 미니 모델을 공개했다. 작지만 강력한 성능을 갖춘 ‘소형 GPT-4’라는 설명이다. 벤처비트는 8일(현지시간) 미스트랄 AI가 ‘믹스트랄 8x7B(Mixtral 8x7B)’ 모델을...
by OneLabs
“모델 쪼개기로 작지만 강력한 성능 강점” (사진=셔터스톡) 프랑스의 간판 스타트업 미스트랄 AI가 ‘GPT-4’와 유사한 아키텍처를 가진 미니 모델을 공개했다. 작지만 강력한 성능을 갖춘 ‘소형 GPT-4’라는 설명이다. 벤처비트는 8일(현지시간) 미스트랄 AI가 ‘믹스트랄 8x7B(Mixtral 8x7B)’ 모델을...
MS공동 창업자 故 폴 앨런 설립 사전학습 데이터 ‘돌마’도 공개 “맘껏 베껴라.” 앨런 인공지능연구소(AI2)의 과감한 개방성은 엔드투엔드(End-to-End) 개방형 언어모델 ‘올모’의 사전 학습용 데이터부터 인공지능(AI) 모델 테스트 데이터까지 남김없이 공개하는 자신감에서 엿보인다. 홈페이지에서 올모의 목표를...
[디지털투데이 황치규 기자]메타가 코드 생성에 최적화된 거대 언어 모델(LLM)도 오픈소스로 풀었다. 메타는 24일(현지시간) 오픈소스로 제공하는 자사 라마(Llama)2를 기반으로 코드 생성 및 디버깅에 특화된 모델인 코드 라마(Code Llama)를 공개했다. 코드 라마는 라마2와 마찬가지로 커뮤니티 라이선스에...
거대 반도체 업체들이 ‘탈(脫) ARM 동맹’을 본격화한다. 스마트폰부터 자동차에 이르기까지 반도체 사용이 폭발적으로 늘면서 ‘ARM 종속’ 우려가 커지고 있어서다. ARM은 반도체 설계 전문기업이다. 현재 반도체 업계에서 ARM의 대안으로 떠오른 기술은 ‘리스크파이브(RISC-V)’다. 오픈소스 기반인 RISC-V는...
레드햇이 지난달 자사의 레드햇엔터프라이즈리눅스(RHEL)에 대한 소스코드 정책을 변경한 뒤 오픈소스 소프트웨어 진영이 거세게 반발하고 있다. 일부는 레드햇의 GPL 위반까지 거론하며 비판했다. 레드햇은 장기적으로 오픈소스 진영의 이익을 위한 결정이었다며 방어중이다. 1일 아스테크니카는 최근 2주일 간...
기술 세계에서는 모두가 결국 기생 생물이다. 드루팔을 만든 드리스 보이타르트가 몇 년 전에 말했듯이 사람은 모두 만드는 사람(maker)보다는 취하는 사람(taker)에 가깝다. 보이타르트는 오픈소스 커뮤니티의 일반적인 관행을 두고 “취하는 사람은 자신이 이익을 취한 오픈소스 프로젝트에...
최근 구글 내부 보고서 유출 챗GPT를 만든 오픈AI, 바드를 만든 구글 사이 AI 기술 경쟁이 치열한 가운데, AI 개발에서 ‘제3의 진영’이 부각되고 있다. 전 세계 수많은 개발자가 AI 튜닝(개조)을 할 수 있는...
‘오픈소스’ 문 닫는 테크기업들 레딧, API 접근 때 유료화 도입 머스크 트위터도 DB 접근 금지 구글 기술 쓴 오픈AI가 첫 유발 “기술 경쟁 심화·주도권 싸움 탓” 생성형 인공지능(AI) 업계가 급성장하며 ‘오픈소스’가 ‘닫히고’ 있다. 무료로...
‘오픈소스’ 문 닫는 테크기업들 레딧, API 접근 때 유료화 도입 머스크 트위터도 DB 접근 금지 구글 기술 쓴 오픈AI가 첫 유발 “기술 경쟁 심화·주도권 싸움 탓” 생성형 인공지능(AI) 업계가 급성장하며 ‘오픈소스’가 ‘닫히고’ 있다. 무료로...
오픈AI GPT·구글 람다와 달리 오픈소스 형태…”개발자 참여형 모델” 스태빌리티에이아이(AI)가 AI 언어모델 ‘스테이블LM’을 오픈소스로 공개했다. 개발자들은 깃허브와 허깅페이스에서 이 모델을 알파버전으로 이용할 수 있다. 테크크런치 등 외신은 19일(현지시간) 스태빌리티AI가 코딩과 텍스트를 생성하는 언어모델 ‘스테이블LM’을 출시했다고...