SOKURY!소쿠리닷컴

키워드 [ 추론용 ] 총 2 개 ... 1 / 1 페이지

라이트비츠, GPU 성능 높이는 KV 캐시 엔진 출시

라이트비츠 랩스가 AI 추론용 소프트웨어 엔진 '인페라'를 정식 출시했다고 실리콘앵글이 9일 보도했다.회사 측에 따르면 인페라는 GPU에 연결된 제한된 고대역폭 메모리 밖으로 KV 캐시 데이터를 확장해 추론 성능과 비용 효율을 높이는데 초점이 맞춰져 있다.긴 컨텍스트 윈도를 쓰거나 동시 세션이 많은 대형언어모델 운영 환경을 겨냥하고 있다.인페라는 필요한 데이터를 미리 예측해 GPU 가까이에 배치하는 예측형 프리패치 기반으로 KV 캐시를 GPU 고대역폭 메모리와 D램, NVMe 스토리지 전반에 걸

tags :#라이트비츠 #GPU #성능 #높이는 #KV #캐시 #엔진

브로드컴 CEO "추론용 AI 수요 계속 늘 것"…AI 감속론에도 2028년 매출 목표 유지

디지털투데이 57분전

브로드컴이 앤트로픽의 AI 개발 속도 조절 주장에도 장기 AI 반도체 매출 목표를 유지하겠다는 입장을 밝혔다.14일 경제매체 CNBC에 따르면 혹 탄 브로드컴 최고경영자는 AI 모델 개발 속도 둔화 가능성이 회사 실적 전망을 흔들지는 않는다고 선을 그었다.이번 발언은 주말 사이 다리오 아모데이 앤트로픽 CEO가 고성능 AI 모델 개발 속도를 완화해야 한다는 취지의 글을 내놓은 뒤 나왔다. 이 글은 샘 알트먼과 일론 머스크의 지지를 받았고, 시장에서는 AI 인프라 기업의 연산 수요 전망

tags :#브로드컴 #CEO #추론용 #AI #수요 #계속 #감속론에도 #2028년 #매출 #목표

주요키워드

#실종

#사람

#순수한

#비교해

#합동으로

#배울

#지방자치단체

#열린다

#주렁주렁

#영향

#어떻게

#대표발의

#주인공으로

#법원

#공개

#110��

#인증 1등급

#연결해

#2시간

#1000℃까지

#시장

#근로장려금

#울릉

#포함

#이용을

#역할

#창원시

#포항시가

#업무협약

#국군

#응급처치‧

#인사

#부부

#사람․친환경․연계체계

#환율

#국회의장‧여야

#피해복구

#증가한

#운영해

#만전․경영목표

#청소년

#소소마루

#음성

# 13일

#30년을

#벗나

#50 감면

#감량

#칠곡

#기간에

무흉터 로봇 대장암 수술영상 발표, 울산대 김종국 교수 학술대회 수상

경상일보 7일전

울산대학교병원은 외과 김종국 교수가 최근 서울 그랜드 워커힐에서 열린 국제 대장암 연구 학술대회에서 ‘로봇 다빈치 SP를 이용한 질 접근 우측 대장 절제술’을 주제로 수술 영상을 발표해 최우수 비디오 발표상을 수상했다고 8일 밝혔다.이번에 소개한 수술은 복부에 절개없이 질을 통해 수술 기구를 넣어 대장을 절제하는 새로운 수술법이다. 여기에 한 개의 작은 절개창을 통해 수술하는 단일공 로봇수술 장비인 다빈치 SP를 결합해 보다 정밀하게 대장암 수술을 시행한 경험을 소개했다.일반적인 대장암 수술은 복부에 여러

동대문구, 복지 현장 지킨 38명 표창… ‘사회복지의 날’ 기념

서울일보 6일전

서울 동대문구는 동대문구사회복지협의회 주관으로 지난 7일 구청 2층 다목적강당에서 ‘제27회 동대문구 사회복지의 날 기념식’을 개최했다.이번 행사는 사회복지의 날을 맞아 복지 현장에서 주민의 삶의 질 향상을 위해 헌신해 온 사회복지 종사자와 자원봉사자, 후원자들의 노고를 격려하고 사회복지의 가치와 중요성을 지역사회에 널리 알리기 위해 마련됐다.행사는 1부 식전 축하공연과 2부 공식 기념식으로 나눠 진행됐다. 식전 행사에서는 동대문구가족센터의 중국 이주여성 자조모임인 ‘백화청자’가

“검증되지 않은 항만공사 통합은 국가성장 후퇴”

경상일보 7일전

울산항만공사 등 4개 항만공사 통합이 현실화하면서 반대 목소리도 격화하고 있다. 울산·부산·인천·여수광양 항만공사 노동조합 위원장들은 8일 세종 재정경제부 앞에서 정부의 4개 PA 통합 추진 철회를 촉구하는 기자회견과 피켓 시위를 가졌다. 이들은 “대한민국 항만 운영체계를 바꾸는 중대한 정책이라면 왜 통합해야 하는지, 통합하면 무엇이 얼마나 좋아지는지부터 입증해야 한다”며 “PA 통합은 개혁이 아니라 정부 정책 실패”라고 추진 철회를 강력히 요구했다. 노조는 “정부는 이미 2011년 같은 문제를 검토했다”며 “당시 통합에 따

[장편소설]리벤지 게임 - Monologue 4 영화 같은 탈출극 (65)

경상일보 7일전

“어이! 탈옥한 양반. 성공했으면 밖에서 잘 살면 되지, 왜 기어들어 왔냐?”그러자 주위 재소자들이 웃었다. 뒤돌아보니 안면이 있는 자였다. 나는 무슨 말이든 해야 했다.“별것 아니고, 나가보니 배고파서 들어왔습니다.”내 말에 다시 재소자들이 비아냥거렸다.“배고파서? 하하. 어지간히 소심한 친구로군. 우리와 함께 놀 친구가 아니네.”“저런 놈은 왕따시켜야지. 탈옥이 어디 쉬워? 제 발로 들어오지 않았으면 우리 세계에서 우상이 될 뻔했는데. 아깝다. 아까워.”나는 더는 이들과 말을 섞고 싶지 않아 뒷좌석에 몸을 기댔다. 그들도 내가

‘폭염보험’ 필요는 한데…주저하는 양돈농가

축산신문 6일전

올 여름 한낮 기온이 40도를 넘나드는 폭염이 지속되면서 양돈 현장의 피해도 적지 않은 것으로 나타났다. 이에 따라 가축재해보험의 ‘폭염특약’에 대한 양돈현장의 관심도 그 어느때 보다 높아지고 있다. 가축재해보험을 취급하는 일선 농축협 역시 기후변화 속에 갈수록 뜨거워지는 국내 여름 날씨 등을 감안, 가입을 적극 권

최신기사