생성형AI 도입을 검토하는 기업들을 위해 파수가 프라이빗과 퍼블릭 LLM 모두를 이용할 수 있는 기업형 LLM을 소개했다. 파수는 3일 서울 여의도 페어몬트 앰베서더에서 '파수 FDI 2024' 행사를 열고 자사 기업형 LLM인 'ELLM'을 소개했다.그동안 기업들은 자사 보안 수준에 따라 프라이빗과 퍼블릭 LLM 중 하나를 도입해 왔다. 보안이 중요한 조직은 사내에 구축한 프라이빗 LLM을 도입해왔으나 학습량이 제한적이라는 숙제가 있었다. 반면, 챗GPT 등 퍼블럭 LLM은 사내 정보 유출의 우

최강의 거대 언어 모델을 둘러싼 AI 회사들 간 경쟁이 고조되고 있는 가운데 시장의 관심은 이제 오픈AI와 메타가 내놓을 차세대 LLM으로 쏠리는 양상이다.올초 구글과 앤트로픽은 오픈AI 주력 LLM 버전인 GPT-4를 겨냥한 신형 LLM인 제미나이와 클로드3를 선보였고 이중 앤트로픽 클로드3는 여러 벤치마크들에서 GPT-4를 능가하는 결과를 보여줘 관심을 끌었다.이런 가운데 오픈AI는 GPT-5를, 오픈소스 LLM 열기를 주도하는 메타는 라마3를 조만간 선보일 것으로 보여 LLM 판세에 어떤 영

■ 오픈AI-메타, 차세대 LLM 곧 출시...추론 역량 중무장 예고최강의 거대 언어 모델을 둘러싼 AI 회사들 간 경쟁이 고조되고 있는 가운데 시장의 관심은 이제 오픈AI와 메타가 내놓을 차세대 LLM으로 쏠리는 양상이다.올초 구글과 앤트로픽은 오픈AI 주력 LLM 버전인 GPT-4를 겨냥한 신형 LLM인 제미나이와 클로드3를 선보였고 이중 앤트로픽 클로드3는 여러 벤치마크들에서 GPT-4를 능가하는 결과를 보여줘 관심을 끌었다.이런 가운데 오픈AI는 GPT-5를, 오픈소스 LLM 열기를 주도하는 메타는 라마3를 조만간

기업 시장에 최적화된 거대언어모델, 이른바 엔터프라이즈 LLM 시장을 향한 관련 업체들 간 경쟁이 고조되고 있는 가운데, 판세를 자우할 변수로 RAG이 부상하는 모습이다. RAG는 LLM에 내부 데이터를 연결해 쓸 수 있도록 지원하는 기술로, 이를 차별화 포인트로 내건 회사들이 늘고 있다.오라클은 기업들이 엔터프라이즈 LLM 시장 공략을 위해 RAG 지원 역량 기반으로 LLM을 활용해 자체 데이터를 보다 효과적으로 활용하

업스테이지는 자체 개발한 노코드 LLM 종합 평가 플랫폼 ‘이벨버스’를 무료로 공개한다고 3일 밝혔다. 이벨버스는 오픈소스 형태로 깃허브에 공개돼 누구나 쉽게 활용할 수 있다.회사 측에 따르면 통상 LLM 성능 평가에는 특정 데이터셋을 기준으로 응답 정확도를 기록한 ‘벤치마크’ 지표를 활용한다. 모델 추론, 상식, 언어 이해 능력 등 6가지 부문을 측정하는 허깅페이스 ‘H6’ 지표를 포함, 대화 능력 지표 ‘MT-bench’, 감성 평가 지표 ‘EQ-bench’, 및 지시

업스테이지는 자사가 개발한 노코드 LLM 종합 평가 플랫폼 ‘이벨버스’를 무료로 공개한다고 3일 밝혔다. 오픈소스 형태로 깃허브에 공개돼 누구나 쉽게 활용할 수 있다.통상 LLM 성능 평가에는 특정 데이터셋을 기준으로 응답 정확도를 기록한 ‘벤치마크’ 지표를 활용한다. 모델의 추론, 상식, 언어 이해 능력 등 6가지 부문을 측정하는 허깅페이스 ‘H6’ 지표를 포함, 대화 능력 지표 ‘MT-bench’, 감성 평가 지표 ‘EQ-bench’, 및 지시 이행 능력 지표 ‘IFEval’ 등이 주요

세계 최대 퍼블릭 클라우드 서비스를 운영하는 아마존이 올해 코드명 올림푸스로 불리는 자체 LLM으로 생성형 AI 대권 레이스에 본격 가세한다는 소식이다.AWS는 자체 개발한 LLM 타이탄을 제공하고 있지만 생성형 AI 경쟁에서 타이탄이 갖는 중량감은 아직은 크지 않다. 이런 가운데 아마존은 올림푸스를 통해 자체 LLM 역량을 강화하려는 모습이다.더버지에 따르면 아마존 인공일반지응 팀은 올해 중반까지 올림푸스를 선보일 예정으로 로 전략적 동맹 관계인 앤트로픽 클로드3를 능가하는 것을

인공지능 기업 스켈터랩스 추후 출시되는 어떤 최신 LLM과도 호환 가능하도록 ‘벨라 큐나’의 LLM 연동 구조 시스템을 대폭 강화했다고 16일 밝혔다. 이번 고도화를 통해 벨라 큐나는 단순히 최신 기술을 적용하는 것을 넘어 어떤 LLM이든 유연하게 통합해 최적화된 챗봇 서비스를 제공할 수 있는 기반을 마련했다. 벨라 큐나의 유연한 LLM 호환성 구조를 통해 기존 범용 LLM을 포함한 추후 출시되는 다양한 최신 LLM을 원활하게 통합할 수 있게된 것이다. 이로써 기업은 특정 LLM만을 활용하는 것이 아닌 기

데이터 및 AI 기업 데이터브릭스가 오픈소스 거대언어모델 'DBRX'를 공개했다고 28일 일본 IT미디어가 전했다.이는 오픈소스 프로젝트 메가블록스를 기반으로 한 전문가 혼합 모델로 기존 오픈소스 LLM 모델보다 훈련 속도와 연산 효율이 2배 이상 빠른 것으로 알려졌다.데이터브릭스에 따르면 DBRX는 1320억개의 파라미터로 표준 업계 벤치마크에서 메타의 라마2의 2배 크기라고 한다. 또 언어 이해, 프로그래밍, 수학, 논리 벤치마크 등에서 뛰

생성형 AI 애플리케이션을 구축하는 팀이 프로토타입에서 프로덕션으로 전환함에 따라 LLM의 성능을 평가하는 것이 성공의 핵심이 되고 있다. LLM을 평가하는 최신 기술과 RAG와 같은 복합 AI 시스템은 일반적으로 자동화된 평가와 인간 평가의 하이브리드 전략을 사용한다. 사람의 선호도 판단을 위해 LLM을 최적화하면 성능이 향상될 수 있지만, 사람의 평가는 여전히 프로세스에서 가장 많은 시간과 리소스가 소용되는 부분이다. 개발팀이 자신있게 LLM 애플리케이션을 평가하고 출시할 수 있도록 라벨박스는 구글 클라우드와 파트너