사용자가 “이 보고서를 세 문장으로 요약해 줘”라고 입력했다고 가정해 보자. 요청은 곧바로 특정 모델로 전달되지 않을 수 있다. 먼저 라우터나 게이트웨이 역할을 하는 중간 계층에 도착한다. 이곳에서는 API 키와 사용 권한을 확인한다. 이용 한도와 보안 정책을 점검하고, 이전에 저장한 답을 재사용할 수 있는지도 살펴본다. 그다음 사용할 모델과 실제 실행 공급자를 결정한다. 첫 번째 호출이 실패하면 다른 경로를 시도하고, 답변이 돌아오면 사용량과 비용, 응답시간과 오류를 기록한다.사용자는
LLM과 자연어 처리LLM은 ‘Large Language Model’의 약자로, 우리말로는 대규모 언어 모델이라고 한다. 많은 데이터를 학습해 사용자의 질문이나 지시에 맞는 문장을 생성한다. 질문 답변, 요약, 번역, 분류, 문서와 코드 작성 등 여러 작업에 활용된다.LLM은 입력된 문장을 토큰이라는 단위로 처리한다. 토큰은 글자나 단어의 조각에 가깝다. 모델은 앞선 문맥을 바탕으로 다음에 이어질 가능성이 높은 토큰을 반복해서 선택하며 답을 만든다. 이 과정은 자연스러운 문장을 만드는 데
라우터와 AI 프레임워크의 역할여러 모델을 하나의 API로 연결한다고 해서 그 자체로 완성된 AI 서비스가 되는 것은 아니다.모델 공급자는 실제 모델을 개발하거나 서버에서 실행한다.라우터·게이트웨이는 여러 모델과 공급자로 가는 연결 경로와 정책을 관리한다.LLM 애플리케이션 프레임워크는 검색, 기억, 외부 도구와 업무 절차를 구성한다.완성형 AI 서비스는 사용자가 실제로 이용하는 화면과 특정 업무 기능을 제공한다.라우터의 중심 역할은 모델로 가는 길을 제공하는 것이다. 반면 계약서 검토,
인기기사
"HBM만으로는 부족했다"…SK하이닉스가 공개한 AI 메모리의 '새 해법'
SK하이닉스가 세계 최대 규모의 메모리·스토리지 전문 행사인 'FMS 2026'에서 차세대 인공지능 시대를 겨냥한 계층형 메모리 아키텍처 비전을 공개하며 AI 메모리 시장 주도권 강화에 나섰다.7일 SK하이닉스에 따르면 FMS 2026은 지난 4일부터 6일까지 미국 캘리포니아주 산타클라라 컨벤션센터에서 개최됐으며, 전 세계 메모리 및 스토리지 업계 관계자와 AI 전문가들이 참석해 최신 기술과 시장 전망을 공유했다.행사 첫날 열린 기조연설에서는 김천성 솔루션개발 부문장과 강욱성 차세대상품기
삼성전자, ‘갤럭시 Z 폴드8 울트라·폴드8·플립8’과 ‘갤럭시 워치 울트라2·워치9’ 국내 공식 출시
삼성전자가 ‘갤럭시 Z 폴드8 울트라·폴드8·플립8’과 ‘갤럭시 워치 울트라2·워치9’을 7일부터 국내에 출시한다.삼성전자의 ‘갤럭시 Z 폴드8 울트라·폴드8·플립8’은 지난달 28일부터 8월 3일까지 7일간 진행된 사전 판매에서 갤럭시 스마트폰 최고 기록인 144만 대 판매를 기록했다.사전 구매 고객 10명 중 약 7명이 ‘갤럭시 Z 폴드8’를 선택했을 만큼 새롭게 선보인 폼팩터와 감각적인 디자인에 대한 관심과 수요가 높았다.또 삼성닷컴에서 ‘갤럭시 Z 폴드8 울트라·폴드8·플립8’의 사전 구매에 참여한
농촌 찾아가는 의료서비스…웅촌농협 ‘농촌왕진버스’
웅촌농협 농촌왕진버스가 7일 울주군 웅촌면 웅촌초등학교 체육관에서 열렸다.지역 주민들이 의료진에게 검진을 받고 있다. 김도현기자 [email protected]
성매매 관련 사건 둘러싼 스토킹·보복 의혹 신고… 피해자 측 "112 출동 이후에도 재방문·심야 협박성 문자"
성매매 관련 사건과 연관된 갈등 과정에서 한 육가공업체 대표를 스토킹과 협박, 모욕 보복등 혐의에 대한 신고가 접수돼 경찰이 사실관계를 확인 중인 것으로 알려졌다. 피해 여성 측에 따르면, 경북 청도군 풍각면 소재 육가공업체 대표로 알려진 P씨는 본인과의 성매매 사건으로 자수한 여성과의 갈등 과정에서 사건과 직접적인 관련이 없는 또
부산시설공단, 집중안전점검 평가 2년 연속 1위
부산시설공단이 부산시의 '2026년 대한민국 안전대전환 집중안전점검' 추진기관 평가에서 공사·공단 부문 최우수기관으로 선정됐다.부산시설공단에 따르면 부산시가 지역 공사·공단과 구·군 등 21개 기관의 점검 실적과 후속조치 등을 종합 평가한 결과, 공단이 공사·공단 부문에서 2년 연속 1위를 차지했다고 6일 밝혔다.이번 평가는 행정안전부의 집중안전점검 평가지표를 토대로 진행됐다. 부산시는 16개 구·군과 5개 공사·공단을 대상으로 점검 추진 실적, 기관장 관심도, 위험요인 후속조치, 대시민 홍보 등을 심사했다
최신기사
국토안전관리원, ‘그린리모델링 챌린지’ 개최… 국민 참여 확대
국토안전관리원이 그린리모델링에 대한 국민 관심 확대에 나선다.국토안전관리원은 ‘제6회 그린리모델링 챌린지’ 개최를 확정하고 내달 30일까지 참가자를 모집한다고 오늘 밝혔다.국토교통부가 주최하고 관리원이 주관하는 이번 행사는 그린리모델링을 주제로 한 다양한 창작 콘텐츠를 발굴하는 국민 참여형 공모전이다.올해는 어린이부터 대학생, 일반 국민까지 폭넓게 참여할 수 있도록 오프라인 행사 2종과 온라인 공모 3개 부문 등 모두 7개 부문으로 운영된다.오프라인 행사는 5세 이상 미취학 아동과 초등
부산교통공사, 경남 청소년 29명 '꿈 찾는 부산행'
부산교통공사가 경남지역 아동·청소년을 부산으로 초청해 도시철도와 방송, 스포츠, 대학, 해양문화 등 다양한 분야의 진로를 경험하는 프로그램을 운영했다. 12일 부산교통공사에 ...
중동전쟁이 던진 질문, 한국 양돈산업의 경쟁력
최근 중동전쟁으로 국제 유가가 급등락을 반복하면서 전 세계 경제의 불확실성이 커지고 있다. 유가 변동은 물류비와 전기료, 원자재 가격 상승으로 이어지고 있으며, 축산업도 그 영향을 고스란히 받고 있다. 특히 사료 원료 대부분을 해외에 의존하는 양돈산업은 국제 정세 변화에 매우 민감할 수밖에 없다. 실제로 사료비는 양돈 생산비의 약 55~60%를 차지한다.
위메이드맥스, 2분기 영업손실 154억원…적자 축소
위메이드맥스는 연결 기준 올해 2분기 매출액 337억원, 영업손실 154억원, 당기순손실 144억원을 기록했다고 12일 밝혔다.2분기 매출액은 전년 동기 대비 2.1%, 전분기 대비 3.1% 증가했다. 영업손실은 전년 동기 대비 7.6% 줄어들며 적자 폭이 축소됐다.이로써 위메이드맥스의 올해 상반기 누적 매출액은 664억원, 당기순손실은 255억원으로 집계됐다. 회사 측은 기존 라이브 서비스의 실적을 바탕으로 매출이 증가했으며 사업 체질 개선을 지속하고 있다고 설명했다.대표적으로 HTML5 다중접속역할수
서울7호선 청라 연장 정상화 위한 민·관·정 협의체 출범회의
인천시가 개통이 3~4년 늦어질 것으로 예상되는 서울도시철도 7호선 청라 연장사업을 정상화하기 위한 협의체 운영에 나섰다.시는 12일 시청 대회의실에서 ‘서울7호선 청라국제도시 연장사업 민·관·정 협의체’ 첫 회의를 열었다.협의체 첫 회의에는 박찬대 시장과 36명의 위원 등 36명의 위원이 참석했다.협의체 공동 단장은 시 행정부시장과 이성욱 한국시설안전연구원장이 맡았고 김교흥·이용우 국회의원은 정책자문위원