테스트를 넘어 생성형 AI를 실전에 투입하는 기업들이 늘면서 AI 모델이 사용자 질의에 반응하도록 하는 프로세스인 AI 추론을 향한 관련 업계의 행보가 급물살을 타고 있다.반도체 업체들부터 엔터프라이즈 소프트웨어 회사들까지 앞다퉈 추론 AI 지원에 속도를 내고 있다. 다양한 회사들이 AI 추론에 초점을 맞춘 제품 출시나 업데이트를 쏟아내고 있다. 이에 따라 모델 학습에 이어 추론이 테크 판에서 중량감 있는 성장엔진이 될 수 있을지 주목된다.사이버 보안 및 클라우드 기업 아카마이 테크놀로지스는 코어 데이터
한국레노버가 엔비디아 GB10 그레이스 블랙웰 슈퍼칩을 탑재한 컴팩트한 AI 워크스테이션 ‘씽크스테이션 PGX’를 출시했다.AI 연구자, 개발자, 데이터 과학자, 엔지니어 등을 위한 씽크스테이션 PGX는 최대 1페타플롭 AI 연산 성능을 제공하며 최대 2000억 개 파라미터를 가진 대규모 생성형 AI 모델을 처리할 수 있다. 128GB 통합 시스템 메모리를 탑재해 사용자는 최신 추론 AI 모델을 실험하고, 미세 조정 및 추론 작업을 원활하게 수행할 수 있다.두 대의 시스템을 연결하면 최대 4050억
넷앱이 AI 추론 워크로드에 최적화된 스토리지 레이어인 넷앱 AFX’를 공개했다. 회사 측에 따르면 그동안 많은 기업들이 AI 도입에 나섰지만 대부분 실패로 돌아갔고, 여기에는 기존 인프라가 AI에 적합하지 않다는 점도 영향을 미쳤다.GPU 중심 AI 추론 작업을 원활히 수행하려면 지속적으로 데이터를 공급할 수 있는 구조가 필요하다.이를 위해 AFX는 컴퓨트와 스토리지를 분리한 분산형 아키텍처를 채택해 확장성과 유연성을 확보했다는게 넷앱 설명이다.AFX는 최대 128개 컴퓨트 노드를 지원하며
경량 모델 AI 스타트업 모티프테크놀로지스가 자체 개발한 거대 언어 모델인 ‘Motif 12.7B’를 허깅페이스에 오픈소스로 공개했다고 5일 밝혔다.회사 측에 따르면 127억개 매개변수를 기반으로 하는 이 모델은 모티프테크놀로지스가 모델 구축부터 데이터 학습까지 전 과정을 직접 수행한 결과물이다.모티프테크놀로지스는 독자적으로 개발·고안한 ‘그룹 단위 차등 어텐션’과 ‘뮤온 옵티마이저(Muon O
데이터센터 전문기업 파두가 대만 에이데이터, 기가컴퓨팅과 차세대 엔터프라이즈 SSD 협력을 추진한다고 15일 밝혔다. 3사는 파두의 컨트롤러 기술과 에이데이터의 SSD 전문성, 기가컴퓨팅의 서버 엔지니어링 역량을 결합한다. 에이데이터의 엔터프라이즈 브랜드 트러스타를 중심으로 AI 시대 성능과 에너지 효율성을 재정의하는 솔루션을 제공한다.시장조사기관 트렌드포스에 따르면 2030년까지 AI 추론 데이터량은
SK하이닉스는 13~16일 미국 캘리포니아주 새너제이에서 진행된 '2025 OCP 글로벌 서밋' 행사에 참가해 차세대 낸드 스토리지 제품 전략을 공개했다고 27일 밝혔다.회사는 AI 추론 시장 성장에 따라 낸드 스토리지 제품 수요가 확대되고 있다고 판단, 'AIN Family' 라인업을 구축한다는 방침이다. AIN Family는 성능, 용량, 대역폭 등 세 가지 측면에서 각각 최적화된 낸드 솔루션 제품들로 구성됐다. 데이터 처리 속도 향상
AI 맞춤형 반도체 전문기업 세미파이브는 17일 금융위원회에 증권신고서를 제출했다고 밝혔다. 총 540만주를 공모하며 희망 공모가는 2만1000원에서 2만4000원이다. 공모 예정 금액은 1134억원에서 최대 1296억원으로 예상 시가총액은 7080억원에서 8092억원이다. 11월 수요예측과 청약을 거쳐 연내 코스닥 시장에 입성할 계획이다. 상장 주관사는 삼성증권과 UBS증권이다.2019년 설립된 세미파이브는 AI 추론 및 HPC 설계에 특화된 SoC 플랫폼 기업이다. 리벨리온,
중국 핀테크 기업 앤트그룹이 새로운 유형의 인공지능 모델을 위한 추론 프레임워크를 오픈소스로 공개했다.15일 홍콩 사우스차이나모닝포스트에 따르면, 앤트그룹은 디퓨전 언어 모델을 위한 프레임워크 '디인퍼'를 개발했다. 디퓨전 모델은 기존 챗GPT처럼 순차적으로 텍스트를 생성하는 오토리그레시브 모델과 달리, 병렬 처리 방식으로 더 빠른 연산이 가능하다. 앤트그룹은 디인퍼가 UC버클리 연구진이 개발한 vLLM보다 3배, 엔비디아의 패스트-dLLM(F
주요키워드
인기기사
청주시 의사회, 지역 학대피해 아동쉼터에 지원금 기탁
김만식 기자 = 청주시는 7일 청주시의사회가 학대 피해 아동쉼터 아동을 위해 써달라며 100만원 상당의 후원금을 시에 기탁했다고
김천시육상단, 건강한 하루의 시작! 시민 러닝교실 개최
김천시는 11월 2일 일요일 오전 7시 30분, 김천종합스포츠타운 보조경기장에서 시청 직장운동경기부 육상단과 함께 ‘시민 재능기부 체육교실’을 열었다.이날 행사에서는 오는 11월 9일 열리는 ‘2025 김천전국마라톤대회’를 앞두고 마라톤 참가자 40여 명이 직장운동경기부 선수들과 함께 달리며, 올바른 러닝 자세와 페이스 조절 요령, 부상 방지를 위한 스트레칭 등 실질적인 훈련법을 배우는 시간을 가졌다.김태홍 김천시육상연맹회장은 “달리기는 단순한 운동이 아니라 삶의 에너지를 주는 힘이다.”라며 “오늘 함께 달린
세가 '소닉 럼블' 론칭
세가퍼블리싱코리아는 6일 '소닉 럼블'을 구글 플레이와 애플 앱스토어 등을 통해 선보였다.이 작품은 멀티 플레이 대전을 통해 3개 스테이지를 돌
120억 투입하고도 흥행 참패…남도미식박람회, 대책 마련 '시급'
120억원을 투입했지만 사실상 흥행 참패로 이어졌던 2025남도국제미식산업박람회의 문제가 이어지지 않도록 대책마련이 시급하다는 지적이다.
조옥현 전남도의원은 5일 열린 관광체육국 행정사무감사에서 "상인과 시민 피해에 대한 실질적 대책과 재발방지책을 즉시 마련해야 한다"고 강조했다.
조 의원은 "방문객 집계부터 정산, 가격, 홍보까지 처음부터 다시 점검해
안산산업역사박물관, 문화 공연 ‘뮤지엄 백스테이지’ 개최
경기 안산시는 오는 8일 오후 7시부터 안산산업역사박물관 뒤편 힐링쉼터 야외무대에서 시민을 위한 문화 공연 ‘뮤지엄 백스테이지’를 개최한다고 6일 밝혔다.안산산업역사박물관은 개관 이후 ▲ 뮤지엄 백스테이지 ▲ 옥상낮콘 ▲ 버스앞 버스킹 공연 등 다채로운 문화행사를 선보이며 산업도시 안산 속 문화예술의 활력을 불어넣고 있다.이번 공연은 안산산업역사박물관이 시민에게 더욱 친숙한 문화공간으로 다가가기 위해 기획된 자리다.안산산업역사박물관 뒤편에 새롭게 조성된 ‘힐링쉼터’에서 시민에게 잠시나마 일상에서 벗어나 휴식하며 예술 무대를 즐길 수
최신기사
'제1회 부산 남구 청년 창업 아이디어 경진대회' 본선 개최
부산 남구는 지난 11월 8일 남구청 대회의실에서 '제1회 부산 남구 청년 창업 아이디어 경진대회' 본선을 성황리에 개최했다고 밝혔다.지난 9월 전국 청년을 대상으로 창업아이디어 경진대회 참가자를 모집해 총 61팀이 예선 심사를 거쳤으며, 그 중 부산 2팀, 수도권 4팀, 기타 2팀이 본선에 진출했다.예비 창업자와 초기 창업자들로 구성된 참가자들은 다소 긴장된 모습 속에서도 자신감 넘치는 태도로 심사위원들에게 창업 아이디어를 발표했다.이날 발표와 함께 시상식도 진행돼 최우수상 1팀, 우수상 1팀, 장려상 2팀에
서울시 "명태균, 오세훈과 연결고리 입증 못 해"
오세훈 서울시장과 '정치 브로커' 명태균 씨가 지난 8일 민중기 특별검사팀에서 8시간 대질신문을 받은 일과 관련, 서울시는 " '울었다'는 얘기나 아파트 등에 대...
수원시, 11월 11일 화성행궁광장서 '노인일자리 채용 한마당' 연다
수원특례시는 11월 11일 오후 1시부터 4시까지 화성행궁광장에서 '제18회 노인일자리 채용 한마당'을 연다.수원시 노인민간취업지원협의체가 주최하고, 수원시니어클럽이 주관하는 노인일자리 채용 한마당은 수원시에 거주하는 60세 이상 어르신을 위한 일자리박람회다.경비, 미화, 조리·주방보조 등 분야에서 16개 이상 업체가 참여한다. 채용 목표 인원은 50명이다.구인 업체가 서류심사, 현장 면접을 거쳐 직접 채용하거나 수원시니어클럽·대한노인회 4개 구 지회가
경기도 유아, 아가 손끝으로 예술을 느끼고 표현하는 감성놀이형 예술체험
장욱진 작가의 대표작 속 동물을 모티브로 한 프로타쥬 체험 전시 경기도교육청북부유아체험교육원이 11월...