라이트비츠, GPU 성능 높이는 KV 캐시 엔진 출시
라이트비츠 랩스가 AI 추론용 소프트웨어 엔진 '인페라'를 정식 출시했다고 실리콘앵글이 9일 보도했다.
회사 측에 따르면 인페라는 GPU에 연결된 제한된 고대역폭 메모리 밖으로 KV 캐시 데이터를 확장해 추론 성능과 비용 효율을 높이는데 초점이 맞춰져 있다.
긴 컨텍스트 윈도를 쓰거나 동시 세션이 많은 대형언어모델 운영 환경을 겨냥하고 있다.
인페라는 필요한 데이터를 미리 예측해 GPU 가까이에 배치하는 예측형 프리패치 기반으로 KV 캐시를 GPU 고대역폭 메모리와 D램, NVMe 스토리지 전반에 걸...
회사 측에 따르면 인페라는 GPU에 연결된 제한된 고대역폭 메모리 밖으로 KV 캐시 데이터를 확장해 추론 성능과 비용 효율을 높이는데 초점이 맞춰져 있다.
긴 컨텍스트 윈도를 쓰거나 동시 세션이 많은 대형언어모델 운영 환경을 겨냥하고 있다.
인페라는 필요한 데이터를 미리 예측해 GPU 가까이에 배치하는 예측형 프리패치 기반으로 KV 캐시를 GPU 고대역폭 메모리와 D램, NVMe 스토리지 전반에 걸...
수성 탐사선 베피콜롬보가 수성 궤도 진입을 앞두고 이온 추진 장치를 실은 수성 전이 모듈을 분리했다. 4일 IT매체 아스테크니카에 따르면 베피콜롬보는 11월 21일 수성 궤도 진입을 목표로 마지막 접근 단계에 들어갔다.베피콜롬보는 유럽우주국이 주도하고 일본과 미국이 참여한 약 20억달러 규모의 수성 탐사 임무다. 2018년 발사 뒤 플라스마 추진과 지구·금성·수성 플라이바이를 거치며 태양 쪽으로 궤도를 줄여 왔다. 수성에 도달할 때는 행성 중력이 우주선을 포획할 수 있는
XRP가 최근 20% 넘게 조정받은 뒤 반등하면서 추가 상승 가능성이 다시 제기됐다. 4일 블록체인 매체 디크립트에 따르면 엘리엇 파동 분석가 XForceGlobal은 현재 조정이 마무리되면 XRP가 3~4달러까지 오를 수 있다고 봤다.XRP는 최근 고점 대비 20% 이상 하락한 뒤 1.31달러에서 반등해 1.44달러 부근에서 거래되고 있다. 최근 24시간 상승률은 5.27%다. XForceGlobal은 이를 매수세 재유입 가능성을 보여주는 신호로 해석했다.그는 XRP의 장기 하
틱톡 모회사 바이트댄스가 인공지능 투자 확대를 위해 중국과 해외 은행 약 30곳에서 296억달러 규모 대출을 확보했다. 4일 블록체인 매체 디크립트에 따르면 당초 목표였던 200억달러를 웃돈 것은 대주단 수요가 강했기 때문이다.이번 달러화 대출에는 중국, 미국, 유럽, 싱가포르 은행들이 참여했다. 씨티그룹과 JP모건이 주선을 맡았고, 중국계 은행이 전체의 60% 이상을 인수한 것으로 전해졌다.대출 만기는 3년이며 2년 연장할 수 있다. 바이트댄스는 자금 용도를 일반적인 기업 운영
비트코인이 8만달러 재탈환 하루 만에 다시 밀렸다. 5일 코인360 기준 비트코인은 전일 대비 -1.97% 하락한 7만9759달러를 기록했다. 이더리움은 -2.03% 내린 2453달러, 리플은 -4.77% 급락한 1.3992달러를 기록했다. 솔라나는 -2.97% 하락한 101.83달러, 바이낸스코인은 -0.7% 내렸다. 도지코인은 -4.33% 하락했다. BTC 도미넌스는 59.47%를 유지했다.이번 하락의 직접적 촉매는 4일 발표된 8월
일본 30년물 국채 평균 낙찰금리가 4.079%로 오르면서 메타플래닛의 비트코인 매입 자금 조달 여건이 악화됐다. 4일 블록체인 매체 크립토슬레이트에 따르면 기존 채권의 현금흐름은 유지되지만, 앞으로 발행할 채권과 차환 조달의 기준금리는 더 높아질 수 있다.이번 금리는 8월 6일 직전 30년물 입찰 평균 3.937%보다 14.2bp 상승했다. 다만 4% 돌파는 장기물 구간의 신호에 가깝다. 9월 1일 10년물 입찰 평균은 2.995%였고, 일본은행은 무담보 익일물 콜금리
삼성전자 노조 내외부 갈등이 커지고 있다. DX부문 노조는 미국 뉴욕 타임스스퀘어 전광판에 인력 효율화를 문제 삼는 광고를 띄웠고, 오는 18일부터는 이재용 회장 자택 앞에서 기한을 못 박지 않은 집회에 들어간다. 다른 쪽에서는 초기업노조 위원장 등 6명이 조합원 명단을 만든 혐의로 검찰에 송치됐다. 고용노동부가 성과급과 AI 도입을 쟁의 대상에서 걸러내는 시행지침을 내놓으면서, 노조가 쥘 수 있는 합법적 지렛대는 오히려 줄었다.삼성전자노동조합 동행은 5일 입장문에서 타임스스퀘어 광고 송출 사
동탄1신도시 중심부에 20년 가까이 미완성으로 남아 있던 금싸라기 부지가 본격적인 개발에 들어간다. 동탄 개발 초기부터 주거와 상업, 업무, 문화 기능을 아우르는 핵심 거점으로 계획된 이곳에 대규모 주거복합단지 '아크메르 동탄'이 들어설 예정이다.사업지가 자리한 부지는 동탄1신도시의 지리적·상징적 중심으로 꼽힌다. 메타폴리스와 동탄센트럴파크, 북광장·남광장 상권 등 1신도시의 주요 생활 기반시설이 집중된 곳이지만, 1단계 주상복합 개발 이후 2단계 사업이 장기간 지연되면서 지역 주민들의 개발 기대가 이어져 왔다.이 같은 개발이 주목
부산항만공사는 법원의 북항 환승센터 협의 권고에 11일 "진지하게 검토하겠다"고 밝혔다.앞서 부산지법 민사14부는 지난 10일 열림 부산항 북항 복합환승센터 공사 중지 가처분 사건의 2차 심리에서 부산항만공사에 사건 당사자와 협의할 것을 권고했다.부산항만공사 송훈 항만재생사업단장은 "재판부에서 지난 8월 무더운 날씨에도 불구하고 현장 검증을 실시하고 공공성을 강조해 주신 것에 대해 감사히 생각한다"며 "사업자의 진정성에 대한 불신이 아직 해소되지는 않았으나 재판부의 협의 권고에 대해 진지하게 검토
라오스 어린이들로부터 ‘회장님 할아버지’로 불리는 김성일 세무사. 11일 할아버지로부터 가방과 학용품을 받아든 라오스 능리안 초등학교의 꿈나무들이 일제히 환호성을 질렀다.팔순의 김 회장은 올 9월에도 어김없이 라오스 벽지의 이 초등학교를 찾았다. 50명의 입학생들에게 가방과 학용품을 일일이 전달하며 사랑으로 감싸 안은 것.한국과 달리 라오스는 5월에 졸업을 하고 9월에 입학식을 갖는다. 김 회장은 20년 가까이 졸업식과 입학식을 비롯해 매년 서너 번씩 능리안초등학교를 방문한다.졸업생에게는 장학금을, 입학생에
농협상호금융이 경남 함양군 지곡농협 고령 조합원 3명을 대상으로 AI 돌봄인형 ‘효돌’을 활용한 음성 금융서비스 실증에 나섰다. 연금정보 확인부터 농협 방문예약, 보이스피싱 예방까지 제공하며 전국 농축협 확대 가능성을 검증한다.농협상호금융이 스마트폰 조작 없이 말만으로 연금정보를 확인하고 농협 방문을 예약할 수 있는 ‘대화형 AI 금융서비스’를 농촌 현장에서 시험한다. 디지털 기기에 익숙하지 않은 고령층에게 모바일뱅킹 사용법을 가르치는 방식에서 벗어나, 금융서비스가 이용자에게 익숙한 ‘음성’으로 먼저 다가가는 방식이다.농협상호금융은
인천광역시교육청은 8일부터 11일까지 3박 4일간 청소년 독도탐방단 학생 및 지도교사, 교육청 관계자 총 26명을 대상으로 ‘민주평화 100길’ 중 제1길인 독도 탐방을 진행했다.도성훈 교육감은 8일 시교육청 본관 앞에서 청소년 독도탐방단과 함께 ‘민주평화 100길 출정식’을 개최하고 독도를 향한 첫 여정을 격려했다. 출정식에는 청소년 독도탐방단 학생 및 지도교사, 교육청 관계자 50여 명이 참석했다.‘민주평화 100길’은 민주주의와 평화의 가치를 역사 현장에서 직접 체험하며 배우는 시교육청
세종시가 자체 개발한 인공지능 재난대응 플랫폼 ‘세종SIREN’이 행정안전부 주관 ‘제43회 지방정부 AI 우수사례 발표대회’에서 행안부장관상을 11일 수상했다고 밝혔다. 지난 9일부터 이틀간 제주도에서 열린 이 대회는 지방정부의 인공지능 활용 우수사례를 체계적으로 발굴해 전국적으로 확산할 수 있는 협력 플랫폼을 구축하기 위한 자리다. 시는 인공지능을 재난안전 현장에 적용한 성과를 인정받아 수상 사례로 선정됐다. ‘세종SIREN’은 세종시 재난안전상황실 근무자가 별도의 예산 투입없이 생성형 인공지능를 활용해 직
제주특별자치도가 인공지능을 산업과 행정, 도민 생활 전반에 접목하는 ‘제주 AX 대전환’에 본격적으로 나선다.제주도는 11일 오후 제주시 첨단로 카카오 스페이스 닷 원에서 ‘제주 AX 대전환 비전 선포식’을 열고 인공지능 전환을 통한 산업 경쟁력 강화와 도민 생활 혁신을 주요 내용으로 하는 미래 비전을 선포했다.이날 행사에는 위성곤 지사를 비롯해 하정우 국가인공지능전략위원회 부위원장, 송혜자 국가인공지능전략위원회 지역특별위원회 위원장, 김승준 제주도의회 부의장, 문대림 국회의원, 남철기 과학기술정보통신부 소프트웨어정책
차세대 고객경험 기반 AI 테크 전문기업 하이브랩은 고용노동부 주관 ‘2026 대한민국 일자리 으뜸기업’에 선정됐다고 밝혔다. 하이브랩은 피스앤파크컨벤션에서 열린 인증식에서 대통령 명의 인증패를 받았다.대한민국 일자리 으뜸기업은 일자리를 늘리고 일자리의 질을 개선한 민간기업 100곳을 발굴해 포상하는 제도다. 선정 기업에는 금융 및 정책자금 우대, 정기 세무조사 제외, 정부조달 가점 등 총 68개의 행정적·재정적 우대 혜택이 주어진다.하이브랩은 AI 기술 혁신에 따른 산업 구조 재편과 IT 업계의 채용 위축 속에서도 지속적인
주요키워드
인기기사
울산가톨릭문인협회, 첫 사화집 ‘봄 빛, 가을 소금’ 출간
울산가톨릭문인협회가 37인 사화집 을 출간했다. 지난 2024년 2월15일 창립 후 울산 지역 천주교 성지 순례와 문학사진전 순회 전시, 신앙의 색채: ‘예술로 그리다’전 참여 등 꾸준히 활동 반경을 넓혀온 울산가톨릭문인협회의 첫 사화집이다. 이 책에는 시 41편, 시조 9편, 동시 2편, 평론 1편, 동화 1편, 소설 1편, 기획 ‘신앙 산문’ 1편이 실려 있다. 기획으로 실린 김영곤 신부의 ‘신앙의 기억’은 신앙의 기억을 보존하고 다음 세대에 전하는 일이 곧 신앙의 계승이며 역사 만들
전체 물가 떨어져도 추석 성수품은 ‘오른다’
가을 배와 조기 가격이 지난해보다 8% 넘게 오른데 이어 쌀, 달걀 등 주요 성수품도 치솟아 추석 차례상 부담이 커지고 있다. 농축수산물 전체 물가는 하락했지만
경남 ‘극한가뭄’ 사실상 해갈…올해 가뭄 걱정 끝
마른 장마와 극한 가뭄이 지속되면서 국가 소방동원령까지 발동된 경남에 광복절 연휴와 8월 말 남부권을 중심으로 호우가 쏟아지면서 올해 극한 가뭄이 사실상 끝이 났
[내일 날씨] '선선한 가을바람', 전국 맑음.제주도 흐림...이번주 주간예보는?
무더위가 한결 누그러지고, 선선한 가을바람이 이어지고 있다.기상청은 중국 북동지방에서 동쪽으로 이동하는 고기압의 가장자리에 드는 7일 전국이 대체로 맑겠으나, 강원동해안.산지와 경상권은 대체로 흐리고 비가 내리는 곳이 있겠다고 예보했다.제주도는 흐리고 오전까지 중산간.산지와 한라산 동쪽 지역을 중심으로 가끔 비가 내리는 곳이 있겠다. 제주도 예상 강수량은 중산간.산지 10~40mm, 제주도해안 5~10mm.기온은 당분간 평년과 비슷하거나 조금 높겠다. 제주도 아침 최저기온은 24도, 낮 최고기온은 27~29도로 예상된
‘제9차 전국광역자치단체 교통약자이동지원센터 협의회’ 개최
울산광역시장애인복지서비스지원협회는 지난 3일부터 4일까지 이틀간 울산 다움호텔에서 ‘제9차 전국광역자치단체 교통약자이동지원센터 협의회’를 개최했다고 밝혔다.이번 협의회에는 전국 17개 시·도 교통약자이동지원센터 관계자 50여명이 참석해 지역별 운영사례와 주요 현안을 공유하고, 교통약자의 이동편의 증진을 위한 협력방안을 논의했다.참석자들은 각 지역에서 운영 중인 이동지원 서비스 사례를 바탕으로 현장 중심의 개선방안과 향후 발전 방향을 모색했다. 또 전국 이동지원센터 간 정보교류를 활성화하고 지속적인 협력체계를 이어가기
최신기사
비트코인 7월 저점서 저가 매수 미미…온체인 데이터에 바닥론 흔들
비트코인이 7월 5만8000달러 아래로 내려갔을 때 저가 매수 반응이 이례적으로 약했던 것으로 나타났다. 11일 블록체인 매체 코인텔레그래프에 따르면 이런 온체인 흐름은 7월 저점이 약세장 바닥이었는지를 둘러싼 논쟁에 다시 불을 붙였다.근거로 제시된 지표는 비트코인 HODL 웨이브다. 이 지표는 비트코인 공급량을 지갑에서 얼마나 오래 움직이지 않았는지에 따라 나눈다. 이 가운데 1~7일간 움직이지 않은 물량 비중은 주요 가격 변동 뒤 투자자 매수 활동을 보여주는 지표로 쓰인다.비트코인은 7월 1
"불닭 신화 뒷받침"…원주시, 향토기업 삼양식품 찾아 지원 사격
원주시가 지역 대표 향토기업이자 K-푸드 수출을 이끄는 삼양식품을 찾아 현장 애로사항 청취에 나섰다. 원주시는 11일 삼양식품 원주공장을 방문해 김동찬 대표이사를 비롯한 임직...
美 운전자 53% "전기차, 1년 전보다 관심 커졌다"
미국 전기차 판매 성장세가 둔화한 가운데, 소비자들의 구매 관심은 오히려 높아진 것으로 나타났다. 충전 인프라 확충과 주행거리·충전속도 개선이 전기차에 대한 거부감을 낮춘 것으로 분석된다.지난 9일 전기차 전문매체 인사이드EVs와 히어 테크놀로지스에 따르면, 'HERE-SBD EV 인덱스 2026' 조사에서 미국 운전자의 절반 이상은 1년 전보다 전기차 구매를 더 긍정적으로 고려한다고 답했다. 이번 설문은 미국·유럽·인도·호주 운전자 4000여명
인도, 토큰화 회사채 시범사업 시작…3개사 102억5000만루피 발행
인도가 증권예탁 인프라와 도매형 중앙은행 디지털화폐를 연계한 토큰화 회사채 시범사업을 시작했다. 11일 블록체인 매체 코인텔레그래프에 따르면 인도 증권거래위원회와 인도중앙은행은 3개 기업이 새 시장 인프라를 통해 총 102억5000만루피, 약 1억700만달러 규모 회사채를 발행했다고 밝혔다.시범사업은 '데마트 2.0' 체계에서 진행된다. 이 체계는 회사채를 분산원장 위 디지털 토큰으로 발행·보유할 수 있도록 설계됐다. 채권 소유 기록은 인도의 법정 예탁기관이 관리하고, 결제는
원주시, 'AI특화시범도시' 공식 출범…WSCE서 국토부장관 감사장 수상
원주시가 국내 최대 규모 스마트시티 행사에서 'AI 특화 시범도시'로의 공식 출범을 알리고 미래 도시 청사진을 제시했다. 원주는 지난 9일부터 11일까지 3일간 부산 벡스코에...