메타, 경량화된 양자화 '라마 3.2' 출시…추론 속도 향상
메타가 대규모언어모델 '라마 3.2' 제품군 중 최초로 경량화된 양자화 모델을 출시했다.
25일 온라인 매체 기가진에 따르면 기존의 성능을 거의 유지하면서 추론 속도와 메모리 사용량이 크게 개선된 것이 특징이다.
메타는 지난달 26일 라마 3.2 제품군을 공개했다.
11B, 90B의 대형 모델 외에도 1B, 3B라는 모바일 기기용 소형 모델도 함께 선보였다.
이번에 메타는 라마 3.2의 1B 및 3B 모델에 대해 부분적으로 4비트에서 8비트의 양자화를 실시했다.
학습 시 양자화의 영향을 고려하는 양자화인식훈...
25일 온라인 매체 기가진에 따르면 기존의 성능을 거의 유지하면서 추론 속도와 메모리 사용량이 크게 개선된 것이 특징이다.
메타는 지난달 26일 라마 3.2 제품군을 공개했다.
11B, 90B의 대형 모델 외에도 1B, 3B라는 모바일 기기용 소형 모델도 함께 선보였다.
이번에 메타는 라마 3.2의 1B 및 3B 모델에 대해 부분적으로 4비트에서 8비트의 양자화를 실시했다.
학습 시 양자화의 영향을 고려하는 양자화인식훈...
도널드 트럼프 전 미국 대통령이 47대 미국 대통령 선거에서 승리하면서 4년만에 돌아오게 됐다. 트럼프 당선인은 미국 우선주의와 관세정책 등을 표방하고 있어 대미 무역 의존도가 높은 한구 경제는 비상이 걸린 상황이다.11월 5일 진행된 47대 미국 대통령 선거에서 45대 대통령을 역임한 공화당 트럼프 전 대통령이 승리했다.뉴욕타임스 등 외신들에 따르면 7일 오전 6시 기준 트럼프 당선인은 미국 전체 선거인단 538명 중 292명을 확보했다. 민주당 후보인 해리스 부통령은 226명을 확보하는데
리벨리온-사피온 합병법인 박성현 대표가 4일 열린 'SK AI 서밋'에서 AI 데이터센터 구축을 위한 리벨리온의 역할과 전략을 제시했다. 리벨리온은 AI 추론에 최적화된 AI 반도체를 설계·판매하는 스타트업으로, SK그룹과의 협력을 통해 글로벌 시장 진출을 가속화하고 있다.박 대표는 "AI 반도체는 보이지 않는 백본과 같은 존재"라며 "SK와 SK 생태계, 나아가 대한민국이 AI 전체 체인에서 가장 승부를 볼 수 있는 섹션"이라고 강조했다.현재 AI 반도체 시장은 엔비디아의
리그 오브 레전드 e스포츠의 '디펜딩 챔피언' T1이 작년에 이어 또다시 세계 정상에 올랐다.T1은 3일 영국 런던 O2 아레나에서 열린 2024 롤드컵 결승전에서 중국 빌리빌리 게이밍을 세트 스코어 3:2로 격파하고 '소환사의 컵'을 들어 올렸다.레드 진영에서 경기를 시작한 BLG는 1세트 초반부터 매섭게 몰아쳤다.'쉰' 펑리쉰은 경기 시작부터 '엘크' 자오자하오·'온' 러원쥔 듀오와 함께 블루 진영의 T1 쪽 정글로 인베이드를 시도, '구마유시' 이민형을 처치하며 선취점을 올렸고, 적극적인 갱킹으로
미국 대통령 선거가 코앞으로 다가오면서 한국 경제에 미칠 영향에 관심이 집중되고 있다. 전문가들과 연구기관들은 공화당 도널드 트럼프 전 대통령과 민주당 카멜라 해리스 부통령 중 누가 당선되더라도 우리 경제에 상당한 영향이 불가피할 것으로 보고 있다. 미국 대통령 선거는 오는 5일 치러진다.해외 언론 등에 따르면 현재 트럼프 공화당 후보와 해리스 민주당 후보가 미국 대선을 앞두고 박빙의 경쟁을 하고 있다.더이코노미스트와 유거브가 10월 26~29일 미국 전역에서 1446명의 등록유권자를 대상으로
글로벌 자산운용사 스위스연합은행이 이더리움 기반 토큰화 머니 마켓 펀드 'uMINT'를 출시했다.지난 1일 블록체인 매체 더블록에 따르면 UBS는 기금을 구성하는 정확한 금융 상품을 명시하지는 않았지만, 보수적이고 위험을 관리하는 프레임워크를 기반으로 한 고품질의 통화 시장 상품에 대한 투자 기회를 투자자에게 제공한다고 밝혔다.UBS 아시아 지부 공동 대표인 토마스 카에기는 "다양한 자산 클래스에서 토큰화된 금융 자산에 대한 투자자들의 관심이 늘어나고 있다"며
도널드 트럼프 전 미국 대통령이 47대 미국 대통령 선거에서 승리하면서 한국 산업계가 새로운 도전에 직면했다. 트럼프 당선자는 '미국 우선주의' 기조 아래 반도체 정책에서는 칩스법와 이차전지 정책에서는 인플레이션 감축법 정책의 대대적인 수정을 예고했다. 미국 보조금 정책 변화와 대중국 견제 강화가 예상됨에 따라 인해 한국 기업으로서는 근본적인 전략 수정이 불가피한 상황이다.새로운 트럼프 행정부는 칩스법을 미
▲ 오동주씨 별세, 오성배씨 부친상 = 8일, 목포 효사랑장례식장 101호, 발인 10일 오전 8시 40분. ☎ 061-242-7000
캐시닥· 타임스프레드· 지니어트 용돈퀴즈에서 "메디힐"관련 퀴즈를 제시했다.토요일인 11월 9일 오전 10시경 제시된 '메디힐'관련 문제는 "메디힐 라이브 본방사수 혜택으로 구매인증 이벤트에 당첨된 고객 10명에게 지급되는 선물은 무엇일까요?메디힐 ㅅㅅㄹㅋㅂㅅ"다.정답은 '신상럭키박스'다.준비된 캐시가 전부 소진되면 퀴즈는 자동으로 종료된다.용돈퀴즈는 캐시닥 앱 또는 타임스프레드 앱을 이용해 참여할 수 있으며, 누구나 퀴즈를 풀고 상금의 일부를 랜덤
이영주 스마트하우스 대표 부친상=11월9일, 빈소=홍성의료원장례식장 특실, 발인=11월11일 오전 09시20분, 장지=홍성화장장-홍북읍 중계리 선영. /나무신문
tags :#이영주 (주)스마트하우스#대표
지난 8일 비양도 인근 해상에서 침몰한 어선 금성호의 실종자를 찾기 위한 밤샘수색이 진행됐지만 실종자는 발견되지 않았다.9일 제주해양경찰서에 따르면 전날 오후 6시부터 이날 오전 6시까지 야간 수색이 진행됐다. 야간 수색에는 함정과 어선 46척, 항공기 5대가 투입됐다. 해경과 해군은 조명탄 177발을 투하해 어선 침몰 지점을 중심으로 주변 28㎞까지 수색했으나 아직 발견된 실종자는 없었다.해경은 9일 수색 구역을 확대한다.주간 수색에는 함정과 어선 53척, 항공기 9대가 동원되며, 기상과 현장 상황 등을
AI 코딩 어시스턴트 앱 '커서' 인기 속에 개발사인 애니스피어 매출이 급증하면서 벤처 투자 회사들 관심도 커지고 있다.8일 테크크런치 보도에 따르면 애니스피어 연간 반복 매출은 4월 400만달러에서 10월에는 월 400만달러 수준으로 증가했다. 아규먼트, 코디움, 매직, 풀사이드 등 AI 코딩을 주특기로 하는 스타트업들이 이미 여럿인 가운데 애니스피어는 다른 코딩 어시스턴트 제공 업체들에 비해 사용자 기반과 매출 성장이 빠르다는 평가를 받고 있다. 디인포메이션 보도를 보면 애니
연산군은 보위에 오를 때까지만 해도 생모의 폐비에 이은 사약을 받은 사실에 대해 정확하게 알지 못했다. 이는 그 누구도 그때의 사건에 대해서 입을 열지 못한다는 함구령 때문이다. 그렇다고 영영 역사 속으로 묻힐 사안도 아니었다. 그 미세한 조짐은 연산군 등극 후 서서히 그 실체를 드러내기 시작했다. 어느 연회 때 예조 판서 이세좌가 취기가 오른 나머지 임금의 용포에 술을 쏟는 실수를 저질렀다. 술자리에서는 흔한 일이라 그저 웃으며 넘어갈 사안임에도 크게 노한 연산군은 그 죄를 물었다. 죄의 경중을 따지기에는 엄하기가 상상을 초월하여
울산시교육청은 14일 치러지는 대학수학능력시험을 앞두고 수험생을 응원하는 영상을 제작해 교육청 유튜브에 8일 공개했다.7분 7초 분량의 영상에는 천창수 울산교육감과 고등학교 3학년 수험생 자녀를 둔 학부모 3명이 출연했다.이들은 수능 기출문제를 직접 풀어보며 수험생의 고충을 체험했다.출연자들은 문제를 푼 후 “읽기가 힘들고 문제가 너무 어려웠다”, “시간에 쫓기다 보니 눈에 안 들어오고, 집중력도 떨어져 당황했다”, “수험생의 심정이 이해됐다” 등의 소감을 전했다.이어 출연자들은 자녀와 수험생들에게 “지금까지 열심히 생활해줘서 고맙
주요키워드
인기기사
한 그루의 나무가 만드는 커다란 변화
나무를 심는 일은 단순히 땅에 묘목 하나를 심는 것처럼 보일 수 있다. 하지만 그 한 그루의 나무가 불러일으키는 변화는 상상 이상이다. 나무는 우리에게 맑은 공기를 선물하고, 도시의 온도를 낮추며, 지구를 더 건강하게 만든다. 작은 묘목 하나가 자라 숲이 되면, 그 숲은 사람과 동물에게 쉼터가 되고 자연재해를 막아주는 든든한 방패 역할을 한다.특히 요즘처럼 기후변화가 심각한 상황에서는 나무 심기가 그 해법 중 하나로 주목받고 있다. 나무는 탄소를 흡수하고 산소를 내뿜으며, 지구의 온도 상승을 억제하는 데 큰 역할을 한다. 몇십 년
아버지의 손가락
필자의 선친은 1924년생으로, 일제강점기 말인 1943년에서 1945년까지 정뜨르비행장과 단산에서 일본군의 진지구축에 동원됐다.단산 바굼지 암벽에 진지를 파는 것은 쉬운 일이 아니다. 단산은 서귀포시 모슬포 알뜨르 일본군 전투기 비행장을 엄호하기 위한 고사포 진지 구축 지대였다. 진지구축에 동원된 이들은 바위에 구멍을 ‘끌’로 파며 바위 구멍에 화포 약을 넣어 바위를 깨나갔다.이 작업 도중 아버지는 끌에 맞아 왼손 약지에 큰 상처를 입게 됐다. 어느 정도 나았지만 그 후로도 손가락이 구부러진 채 살아 가셨다.내가
[SK AI 서밋]리벨리온 "전력효율로 승부...데이터센터급 파워세이빙 가능"
리벨리온-사피온 합병법인 박성현 대표가 4일 열린 'SK AI 서밋'에서 AI 데이터센터 구축을 위한 리벨리온의 역할과 전략을 제시했다. 리벨리온은 AI 추론에 최적화된 AI 반도체를 설계·판매하는 스타트업으로, SK그룹과의 협력을 통해 글로벌 시장 진출을 가속화하고 있다.박 대표는 "AI 반도체는 보이지 않는 백본과 같은 존재"라며 "SK와 SK 생태계, 나아가 대한민국이 AI 전체 체인에서 가장 승부를 볼 수 있는 섹션"이라고 강조했다.현재 AI 반도체 시장은 엔비디아의
이재명 "국민에 맞선 대통령은 비참한 최후를 맞이했다"
윤석열 대통령 규탄 장외 집회에 나선 더불어민주당 이재명 대표가 "국민에 맞선 대통령은 비참한 최후를 맞이했음을 역사가 증명한다"고 윤 대통령을 향해 경고했다. 이 대표는 2...
민주당 김건희 여사 특검법 수용 촉구 장외집회
더불어민주당은 지난 2일 김건희 여사 특검법 수용을 촉구하는 대규모 장외집회를 열어 대여 총공세를 폈다.더불어민주당은 이날 서울역 앞에서 김건희·윤석열 국정농단 규탄·특검 촉구 국민 행동의 날 집회를 개최했다.민주당은 이날 집회에 약 30만명이 참석했다고 주장했다.이재명 대표와 박찬대 원내대표 등 지도부를 비롯해 170명의 현역 의원도 대부분 참석했다.연합뉴스
최신기사
11월 9일 오전 10시 "포인트 익스프레스" 시럽 타임어택 퀴즈 문제+정답![단독]
시럽 타임어택 퀴즈에서 "포인트 익스프레스"관련 퀴즈를 제시했다.토요일인 11월 9일 오전 10시경 제시된 '포인트 익스프레스'관련 문제는 "클릭하고! 문제풀고! 쉽고 빠르게 포인트를 모으는 서비스 Syrup '포인트 익스프레스' ▢라인 모두 다 풀면 보너스포인트까지!? 하나도 놓치지말고 끝까지 모아봐요"다.정답은 '4다.시럽 타임어택 퀴즈는 2023년 초부터 시작된 퀴즈 이벤트로, 매일 정해진 시간에 퀴즈가 출제되고 정답을 맞힌 사람에게 다양한 상품을
수원서 시민 2명 찌른 사슴 생포
지난 6일 오전 시민 2명에게 중상을 입히고 달아났던 사슴이 9일 오전 9시쯤 생포됐다.이날 인천일보 취재를 종합하면 전문 구조단 4명과 수원시 관계자 10명은 지난 8일 오후 10시부터 광교산 인근에서 잠복한 끝에 인근의 한 농원에서 사슴을 생포했다.수원시 관계자는 "생포한 사슴은
[단독]9시30분"11번가 그랜드십일절" 캐시닥· 타임스프레드· 지니어트 용돈 퀴즈 문제+정답!
캐시닥· 타임스프레드· 지니어트 용돈퀴즈에서 "11번가 그랜드십일절"관련 퀴즈를 제시했다.xh요일인 11월 9일 오전 9시 30분경 제시된 "11번가 그랜드십일절"문제는 " 11월, 지금 대한민국은 그랜드십일절! 매일 선착순으로 십일절 쿠폰 혜택 받아가세요~카카오페이 3,000원 쿠폰, OOOO 3,000원 쿠폰 혜택 드리니까 마감되기 전에 빠르게 앱 접속하러 가볼까요? OOOO에 들어갈 단어는 무엇일까요?"다.정답은 '토스페이'다.두번째 문제는 "11월이 좋은 이유! 11월
| 부고 | 이영주 (주)스마트하우스 대표 부친상
이영주 스마트하우스 대표 부친상=11월9일, 빈소=홍성의료원장례식장 특실, 발인=11월11일 오전 09시20분, 장지=홍성화장장-홍북읍 중계리 선영. /나무신문
"김광호, '백남기 사망' 유죄 구은수보다도 책임 의무 다하지 않았다"
이태원 참사 주요 책임자에 대한 1심 판결이 유·무죄로 엇갈린 가운데 재판부가 업무상 과실치사상 혐의의 주요 판단 근거인 다중운집에 따른 인파 사고 예견 가능성 및 업무상 주...