메타가 대규모언어모델 '라마 3.2' 제품군 중 최초로 경량화된 양자화 모델을 출시했다. 25일 온라인 매체 기가진에 따르면 기존의 성능을 거의 유지하면서 추론 속도와 메모리 사용량이 크게 개선된 것이 특징이다.메타는 지난달 26일 라마 3.2 제품군을 공개했다. 11B, 90B의 대형 모델 외에도 1B, 3B라는 모바일 기기용 소형 모델도 함께 선보였다. 이번에 메타는 라마 3.2의 1B 및 3B 모델에 대해 부분적으로 4비트에서 8비트의 양자화를 실시했다. 학습 시 양자화의 영향을 고려하는 양자화인식훈
중국 인공지능 스타트업 딥시크가 오픈AI의 대형 언어 모델 시리즈인 'o1-preview'와 경쟁할 수 있는 추론 모델인 딥시크-R1을 공개했다.20일 IT매체 테크크런치에 따르면 이 모델은 질문이나 쿼리를 고려하는 데 더 많은 시간을 할애해 스스로 진실 여부를 확인한다. 딥시크는 해당 모델이 AI 벤치마크 테스트인 AIME와 MATH에서 오픈AI의 o1-preview 모델과 동등한 성능을 보였다고 주장했다. 그러나 이 모델은 틱택토 게임 및 기타
와이즈넛은 과학기술정보통신부와 정보통신기획평가원이 추진하는 ‘빅데이터 인과 분석을 위한 복잡계 기반 추론 인공지능 개발 및 실증’ 연구를 성공적으로 마쳤다고 24일 밝혔다.올해까지 총 4년에 걸쳐 수행 완료된 본 연구는 빅데이터를 구성하는 여러 복잡한 데이터 요소 간 인과관계를 추론하고, 이를 이용 특정 사건의 원인과 결과가 무엇인지 식별할 수 있는 인과추론 알고리즘 시스템 및 기술 개발을 목표로 추진됐다.이는 의료, 제조, 금융 등 특정 도메인에 맞게 사전 학습된 LLM에 여러 요소를
구글 제미나이 2.0이 몇 달 안에 공개될 수 있다는 소식이다. 27일 IT매체 테크레이더에 따르면 마지막 주요 업그레이드는 제미나이 1.5가 출시된 지난 2월이었다. 차세대 제미나이 2.0은 오는 12월 출시될 가능성이 있으며 구체적인 개선 사항에 대한 세부 정보는 아직 공개되지 않았다. 이전 출시대로라면 더 똑똑한 답변과 더 빠른 처리, 더 긴 입력에 대한 지원, 더 신뢰할 수 있는 추론 및 코딩 등을 기대할 수 있다.보고서에 따르면 제미나이 2.0은 원래 개발자들이 기대했던 수준의 성능 향
패션 AI 솔루션 기업 디자이노블은 인텔과 협업을 통해 GPU 없이도 높은 성능을 발휘할 수 있는 인텔 NPU 기반 기술을 도입해 AI 성능을 개선했다고 21일 밝혔다.회사 측에 따르면 디자이노블은 인텔 NPU를 활용해 AI 추론 영 효율성을 개선하며 기존 GPU 기반 시스템 대비 비용을 절감했다. 디자이노블은 패션 브랜드와 유통기업을 대상으로 ‘마켓 인텔리전스’, ‘트렌드 센싱’, ‘이미지 생성’ 등 AI 기반 솔루션을 제공하고 있다.신기영 디자이노블 대표는 “
네트워크 보안 장비 기업 A10 네트웍스는 AI 기반 플랫폼을 통해 A10 컨트롤을 통한 중앙 집중식 관리 및 분석, AI 기반 봇 보호, 엔터프라이즈급 디도스 보호 기능을 제공한다고 8일 밝혔다.A10은 완전히 통합된 AI 스택을 통해 독점적인 고급 코어 운영 체제를 지속적으로 개선하고 있다. 올해 말 출시되는 개선된 ACOS를 적용한 A10 솔루션은 고객의 AI 추론 및 생성형 AI 환경과 상호 작용할 수 있게 되었다. 또한 A10은 AI 추론과의 추가 통합을 모색하고 있으며, 이를 통해 자사 솔루션이 일
챗GPT로 대표되는 거대언어모델 성능 개선 속도가 둔화되고 있다는 정황이 여기저기에서 포착되고 있다.그동안 모델 학습에 투입되는 컴퓨팅 파워와 데이터 규모에 비례해 LLM 성능도 빠르게 개선됐지만 최근 상황은 좀 다르다. 투입한 물량 만큼 LLM이 성능 개선이 이뤄지지 않아 오픈AI, 구글 등 관련 업계가 추론 모델 개발 등 우회로 확보에 적극 나선 상황이다.ㆍ오픈AI 이어 구글도 LLM 성능 개선 둔화 딜레마 직면...전략 수정ㆍLLM 성능 확장의 법칙 한계 왔나?...오픈AI, 우회 기술 개
주요키워드
인기기사
영등포, 2025학년도 대입 정시설명회 개최
영등포구가 오는 11월 17일 오전 10시, 영등포 아트홀에서 ‘2025학년도 대입정시 지원전략 설명회’를 개최한다고 밝혔다.이번 설명회는 지난 11월 14일, 2025학년도 대학수학 능력시험을 무사히 마친 수험생과 학부모를 대상으로 하며, 최신 입시 정보를 비롯해 대학별 맞춤형 정시 지원 전략을 구체적으로 제공할 예정이다.설명회 강사로는 수십 년간 입시 전문가로 활발히 활동하며 입시생들에게 경쟁력 있는 입시 전략을 제시해온 ‘입시전략 연구소 우연철 소장’이 나선다.강연에서는 정시 지원 시 반드시 확인해야
[무엇이든 물어보험 Q&A] 건보공단 “담배訴, 국민적 관심·지지 필요”
Q:국민건강보험공단이 흡연 폐해의 진실을 알리고자 진행 중인 담배소송의 경과가 궁금합니다.A:공단은 지난 2014년, 담배회사의 흡연폐해에 대한 사회적 책임을 묻고 흡연관련 질환으로 인한 건강보험 재정 누수 방지 및 국민건강 증진을 위해 국내외 3개 담배회사를 대상으로 약 533억 원
수원축산농협, 사랑의 김자 담그기 행사 개최
수원축산농협은 13일 수원시 곡반정동 본점 청사에서 ‘사랑의 김장 담그기’ 행사를 열었다.이번 행사는 김장철을 맞아 복지 사각지대에 놓인 지역사회 취약계층을 지원하고자 마련됐다. 장주익 조합장을 비롯해 수원축협 조합원 및 임직원 50여 명이 참석했다.참석자들은 김치 250포기를 손수 담갔다. 완성된 김치는 쌀 600㎏과 함께 화성시 사회복지협의회 및 곡선동 행정복지센터에 기탁돼 지역 취약계층에 전달될 예정이다.장주익 수원축협 조합장은 “정성껏 담근 김치와 쌀이 추운 겨울을 앞둔 어려운 이웃들에게 작은 도움
삼호초 체육관서 발표회·운동회 개최
울산 남구 삼호동 주민자치위원회 및 체육회는 지난 16일 삼호초등학교 체육관 내에서 동민 600여 명이 참여한 가운데 2024 삼호동 주민자치센터 프로그램 발표회 및 동민 한마음 운동회를 개최했다.
김천서 화물차 충돌사고 후 인도 돌진…1명 사망 6명 중경상
김천에서 대형 화물차가 승용차와 충돌 후 인도를 덮쳐 1명이 숨지고 6명이 부상을 입는 사고가 발생했다.지난 16일 오전 9시 1분께 김천시 신음동 시청 앞 사거리에서 투싼 승용차와 15t 윙바디 화물차가 충돌해 화물차가 인도를 덮치고 승용차는 인근을 주행하던 베르나 승용차와 부딪히는
최신기사
오픈AI, 이번엔 브라우저로 구글 겨냥?...삼성과도 애플같은 제휴 논의
오픈AI가 검색에 이어 구글을 겨냥한 하나의 공격을 준비 중이라는 정황이 포착됐다. 이번에는 웹브라우저다.오픈AI는 최근 챗GPT와 결합되는 웹브라우저 개발을 검토했다고 디인포메이션이 프로토타입및 제품 디자인을 본 관계자들을 인용해 21일 보도했다.오픈AI는 브라우저를 출시할지 여부는 결정하지 않았지만 올초 구글 크롬 브라우저 개발에 중요한 역할을 했던 2명을 영입했다고 디인포메이션은 전했다.이와 별개로 오픈AI는 검색 기능을 여행, 음식, 부동산, 리테일 분야 웹사이트들에 제공하는 거래를 맺었
美 법원, SEC에 "기존 증권법으로 디파이 규제 말라"
텍사스 연방법원 판사 리드 오코너가 암호화폐 관련 증권거래위원회 행보에 제동을 걸었다.21일 디크립트에 따르면 오코너 판사는 SEC가 기존 증권법을 디파이 사용자들과 프로젝트들에 적용하는 것은 불법이고 SEC 권한 밖이라고 판결했다.오코너 판사는 4월 암호화폐 로비 단체인 블록체인 협회가 SEC가 '딜러'라는 단어에 대한 법적 정의를 디파이 프로토콜과 거래를 포함하도록 확장한 것에 대해 소송을 제기한 것에 대한 약식 판결에서 이같이 밝혔다.딜러 규정에 대한 SEC 해석에
['소설'오늘의 날씨 및 주말날씨]오늘 중부내륙 중심, 내일과 모레 전국 초겨울 추위!
금요일이자 소설인 11월 22일 오전 6시 40분 현재 전국이 대체로 맑은 가운데 오늘은 전국이 대체로 맑겠으나, 전라권과 제주도는 오전까지 가끔 구름많겠다. 토요일인 내일은 전국이 대체로 맑겠으나, 강원영동과 경상권해안, 제주도는 구름많겠다. 일요일인 모레는 전국이 대체로 맑겠으나 경상권해안과 전남남해안, 제주도는 구름많겠습다.○ 내일 오후에 경북동해안은 가끔 비가 내리는 곳이 있겠다.* 예상 강수량- 울릉도.독도(2
위즈, 4억5000만달러에 다즈 인수...보안 복원·상태 관리로 영토 확장
사이버 보안 업체 위즈가 보안 리미디에이션및 리스크 관리를 주특기로 하는 다즈를 주식과 현금 합쳐 4억5000만달러 규모에 인수하기로 했다고 테크크런치가 내부 사정에 정통한 소식통들을 인용해 21일 보도했다.이번 인수로 위즈는 개발자들 사이에서 입지를 강화할 수 있을 것으로 기대하고 있다.다즈가 주력하는 보안 복원 및 상태 관리 분야는 위즈가 원하는 만큼 커버하지 못했던 영역들이라고 테크크런치는 전했다.복원은 보안 취약성을 이해하고 해결할 수 있도록 지원