사용자가 “이 보고서를 세 문장으로 요약해 줘”라고 입력했다고 가정해 보자. 요청은 곧바로 특정 모델로 전달되지 않을 수 있다. 먼저 라우터나 게이트웨이 역할을 하는 중간 계층에 도착한다. 이곳에서는 API 키와 사용 권한을 확인한다. 이용 한도와 보안 정책을 점검하고, 이전에 저장한 답을 재사용할 수 있는지도 살펴본다. 그다음 사용할 모델과 실제 실행 공급자를 결정한다. 첫 번째 호출이 실패하면 다른 경로를 시도하고, 답변이 돌아오면 사용량과 비용, 응답시간과 오류를 기록한다.사용자는
LLM과 자연어 처리LLM은 ‘Large Language Model’의 약자로, 우리말로는 대규모 언어 모델이라고 한다. 많은 데이터를 학습해 사용자의 질문이나 지시에 맞는 문장을 생성한다. 질문 답변, 요약, 번역, 분류, 문서와 코드 작성 등 여러 작업에 활용된다.LLM은 입력된 문장을 토큰이라는 단위로 처리한다. 토큰은 글자나 단어의 조각에 가깝다. 모델은 앞선 문맥을 바탕으로 다음에 이어질 가능성이 높은 토큰을 반복해서 선택하며 답을 만든다. 이 과정은 자연스러운 문장을 만드는 데
라우터와 AI 프레임워크의 역할여러 모델을 하나의 API로 연결한다고 해서 그 자체로 완성된 AI 서비스가 되는 것은 아니다.모델 공급자는 실제 모델을 개발하거나 서버에서 실행한다.라우터·게이트웨이는 여러 모델과 공급자로 가는 연결 경로와 정책을 관리한다.LLM 애플리케이션 프레임워크는 검색, 기억, 외부 도구와 업무 절차를 구성한다.완성형 AI 서비스는 사용자가 실제로 이용하는 화면과 특정 업무 기능을 제공한다.라우터의 중심 역할은 모델로 가는 길을 제공하는 것이다. 반면 계약서 검토,
인기기사
삼성전자, ‘갤럭시 Z 폴드8 울트라·폴드8·플립8’과 ‘갤럭시 워치 울트라2·워치9’ 국내 공식 출시
삼성전자가 ‘갤럭시 Z 폴드8 울트라·폴드8·플립8’과 ‘갤럭시 워치 울트라2·워치9’을 7일부터 국내에 출시한다.삼성전자의 ‘갤럭시 Z 폴드8 울트라·폴드8·플립8’은 지난달 28일부터 8월 3일까지 7일간 진행된 사전 판매에서 갤럭시 스마트폰 최고 기록인 144만 대 판매를 기록했다.사전 구매 고객 10명 중 약 7명이 ‘갤럭시 Z 폴드8’를 선택했을 만큼 새롭게 선보인 폼팩터와 감각적인 디자인에 대한 관심과 수요가 높았다.또 삼성닷컴에서 ‘갤럭시 Z 폴드8 울트라·폴드8·플립8’의 사전 구매에 참여한
부산시설공단, 집중안전점검 평가 2년 연속 1위
부산시설공단이 부산시의 '2026년 대한민국 안전대전환 집중안전점검' 추진기관 평가에서 공사·공단 부문 최우수기관으로 선정됐다.부산시설공단에 따르면 부산시가 지역 공사·공단과 구·군 등 21개 기관의 점검 실적과 후속조치 등을 종합 평가한 결과, 공단이 공사·공단 부문에서 2년 연속 1위를 차지했다고 6일 밝혔다.이번 평가는 행정안전부의 집중안전점검 평가지표를 토대로 진행됐다. 부산시는 16개 구·군과 5개 공사·공단을 대상으로 점검 추진 실적, 기관장 관심도, 위험요인 후속조치, 대시민 홍보 등을 심사했다
광명시의회, 올해 해외연수 전면 취소…예산 전액 반납
광명지역신문=장성윤 기자> 광명시의회가 민생경제 회복과 고통 분담을 위해 올해 예정된 의원 해외연수를 전면 취소하고 관련 예산을 모두 반납하기로 했다.시의회는 최근 의원 간담회를 열고 올해 상임위원회별 공무국외출장을 실시하지 않기로 뜻을 모았다.이에 따라 시의회는 올해 편성된 의원 공무국외출장비 예산 전액을 오는 9월 예정된 제2회 추가경정예산안 심사에서 감액할 예정이다.이번 결정은 어려운 민생경제 상황을 고려해 의회가 먼저 고통 분담에 동참하고, 한정된 재원이 시민 생활 안정과 지역경제 회복에 우선 활용돼야 한다는
옵디보, PD-1 치료 실패 흑색종 새 조합 확보…암 바이러스 치료제 美 승인
미국 식품의약국이 두 차례 문턱을 넘지 못했던 종양용해바이러스 기반 흑색종 치료제를 승인했다. 브리스톨마이어스스큅 면역항암제 '옵디보'와의 병용
와이드링크스, 화학 접착제 없는 친환경 패키징 필름 특허 등록…재활용 효율성 높인다
친환경 패키징 및 글로벌 유통기업 와이드링크스는 화학 접착제를 사용하지 않은 단일 소재 기반 친환경 패키징 필름 기술에 대한 특
최신기사
“‘정원의 섬 남해’로 군민의 삶을 꽃피워 나갑시다”
류경완 남해군수가 12일 오전 군청 대회의실에서 열린 8월 직원정례조회에서 민선 9기 군정 목표인 ‘삶이 꽃피는 정원의 섬, 남해’를 실현하기 위한 구상을 직접 발표하며, 전 직원 협업의 필요성을 독려했다.류경완 군수는 먼저 ‘정원의 섬’이라는 의미에 대해 “남해군 전체를 하나의 정원처럼 가꾸고, 남해의 최대 강점 중 하나인 천혜의 자연환경을 더 아름답게 가꾸어, 궁극적으로는 군민의 삶을 더 나아지게 하는 것”이라고 강조했다.이를 위해 식물 자원의 생산·유통, 전문인력 육성 공간, 연구기관, 관광 편의시설 등을 갖춘 대형 거점 정원
경남도 하반기 식품위생업소 시설개선 자금 지원
경남도는 도내 식품위생업소의 위생 환경 개선과 시설 현대화를 지원하기 위해 최대 2억 원의 시설개선 자금을 연 2% 저금리로 융자 지원한다.도는 오는 12일부터 자금 소진 시까지 관할 시군 식품위생부서를 통해 ‘식품진흥기금 시설개선 융자사업’ 하반기 신청을 받는다고 밝혔다.이번 사업은 노후 영업장 시설 개선과 위생 설비 확충에 필요한 자금을 저금리로 지원해 영업주의 비용 부담을 덜고, 식품위생업소의 위생 수준과 경쟁력을 높이기 위해 추진한다.올해 시설개선 융자 규모는 총 5억원으로, 상반기에 이어 하반기에도 잔여 사업비 범위에서 자
포항 양식장 강도다리 폐사 135만마리 육박…증가세는 다소 둔화
동해 연안의 표층수온이 26도대 중반까지 내려간 가운데, 포항 육상 양식장의 고수온 피해는 이어지고 있다. 하지만 증가세는 다소 둔화했다. 12일 포항시에 따르면
양산시 조직개편안 부결…10월 시행 차질 예상
양산시의회는 12일 열린 제212회 임시회에서 집행부가 제출한‘양산시 행정기구 설치 조례 일부개정 조례안’이 부결됐다고 밝혔다.이날 시의회 기획행정위원회는 이 조례안에 대해 표결한 결과 찬성 3명, 반대 5명으로 부결했다.이 조례안은 양산시가 민선 9기 출범과 함께 추진 중인 조직 개편 내용이 담겨 있다.시는 기존 웅상출장소 기능을 강화한 동부청사 운영과 균형발전국 신설을 골자로 한 조직 개편을 준비 중이다.하지만 시의회 원 구성이 최근에서야 마무리돼 조직 개편이 늦어진 상황에서 시의회에서마저 안건이 부결돼 조직 개편 추진에 제동이
황기철 전 해군참모총장, 12일 해사 정문 앞 기자회견
진해 출신 황기철 전 해군참모총장이 12일 오전 10시30분 해군사관학교 정문 앞에서 기자회견을 열고 해군사관학교의 진해 존치를 강력히 촉구했다.황 전 총장은 이날 기자회견을 통해 최근 해군사관학교가 진해를 떠날 수 있다는 우려가 커지고 있는 상황에 대해 입장을 밝히고, 정부와 국방부에 이전 계획을 재고해 줄 것을 호소했다.진해에서 태어난 황 전 총장은 해군사관학교에 입학해 41년간 군 복무를 이어갔으며, 해군사관학교장과 해군참모총장을 역임한 뒤 전역했다. 해군사관학교와 진해의 역사적 관계를 누구보다 잘 알고 있는 인사로서 이번 기