AI 인프라 소프트웨어 대표 기업 오케스트로그룹은 AI 인프라에 대한 고객의 관심이 GPU 확보에서 추론 성능과 운영 효율로 이동하고 있음을 확인했다고 밝혔다.오케스트로가 최근 개최한 테크 컨퍼런스 ‘OPUS 2026’에서는 기업과 공공기관의 AI 인프라 구축·운영 과제를 중심으로 상담과 기술 논의가 이어졌다. 특히 GPU 자원 배분과 응답 지연 개선, 복잡한 추론 환경의 효과적인 운영 방안에 대한 문의가 집중되면서 기존 자원을 활용해 추론 성능과 운영 안정성을 높이려는 수요가 증가하고 있는 것으로 풀이된
정부 '독자 AI 파운데이션 모델' 프로젝트 2차 평가 일환으로 진행된 대국민 평가는 4개 AI를 비교하고, 대화·요약·창작·안전성 등에 대해 사전에 마련된 예시 질문과 평가가 직접 만든 질문을 혼용하는 방식으로 진행됐다.평가 가이드라인에는 참가자들을 대상으로 4개 평가 영역별 예시 질문들이 제시됐으며 각 영역에서 최소 1개씩 활용하도록 안내됐다. 이와 별도로 평가자가 직접 만든 질문도 1~2개 추가할 수 있도록 했다.12일 디지털투데이가 국민평가단에 제공된 가이드라인 등을 확인한 결과 이번 국민평가는
매개변수 10조개에 육박하는 초거대 모델 개발에 이어 경량급 모델을 둘러싼 테크 기업 간 경쟁이 고조되고 있다. AI에 들어가는 비용이 증가하면서 기본적인 작업에는 가성비가 뛰어난 오픈소스 모델을 투입하는 기업들이 늘고 있는데, 이 과정에서 개인용 PC에서 돌릴 수 있는 로컬 모델이 갖는 존재감이 커지는 커지는 모양새다.로컬 모델을 겨냥한 중량급 기업들의 행보도 빨라지고 있다. 중국에선 딥시크가, 미국에선 메타가 최근 PC에 설치해 쓸 수 있으면서도 나름 성능이 뛰어난 모델을 선보여 눈길을