한국정보통신기술협회는 16일 협회 홈페이지를 통해 'LLM 유해성 공격 전략에 대한 실증적 분석' 보고서를 공개했다.보고서는 2023년 미국 라스베이거스에서 개최된 '데프콘 31 Generative AI Red Teaming' 챌린지 공개 데이터를 기반으로, 대규모언어모델 대상 실제 공격 사례를 정량 분석한 결과를 담았다.한양대학교 연구진과 협력해 수행된 연구는 실제 성공한 공격 데이터를 기반으로 LLM에 대한 주요 취약성과 효과적인 공격 전략 파악에 중점을 뒀다. 프롬프트 유
안랩 클라우드 운영관리 서비스 전문 자회사 안랩클라우드메이트는 생성형 AI 데이터 보안 서비스 ‘시큐어브리지’를 출시했다고 16일 밝혔다.회사 측에 따르면 시큐어브리지는 생성형 AI 확산에 따라 커지는 정보 유출 우려에 대응해, 기업이 도입에 대한 기술적 부담 없이 정보를 안전하게 보호하며 AI를 도입·활용할 수 있도록 지원한다.▲중요 데이터 입출력 탐지 및 프롬프트 인젝션 방지 ▲프롬프트 이력 모니터링 및 정책 제어 ▲멀티 LLM 지원 및 에이전트리스
스마트머신 토털 솔루션 기반 머신 DX·AX 전문 기업 엣지크로스는 스마트테크코리아 2025에 참가해 ‘셀프AI 에이전트’를 성공적으로 선보였다고 밝혔다. 셀프AI 에이전트는 거대언어모델 기반의 대화형 기계관리 AI 솔루션이다.엣지크로스는 전시 관람객 누구나 셀프AI 에이전트와 직접 대화를 나누면서 실제 산업 현장의 기계관리 시나리오를 체험할 수 있도록 실시간 체험존을 운영했다. 전반적인 기계 상태나 가동 현황은 물론 기계에 이상이 생겨 알림이 발생했거나 문제가 생겼을 경우
‘보안을 위한 AI’는 현재 보안 솔루션의 기본 기술이 되고 있다. 나아가 보안 전용 LLM으로 정확성과 편의성을 높이고자 하는 시도도 이어지고 있다. 그러나 보안 전용 LLM은 LLM 모델을 만들 만큼 데이터가 충분하지 않고, 오탐과 AI의 편향성으로 인해 서비스에 심각한 영향을 미칠 수도 있다. 이를 해결하는 방법은 뛰어난 보안 전문가의 경험과 보안 분야에 대한 지식, 정확한 양질의 데이터 수집이 필요하다.양혁재 테이텀시큐리티 대표는 “테이텀시큐리티는 젊은 기업이지만, 국내 클라우드 보
레드햇과 구글 클라우드는 레드햇의 오픈소스 기술과 구글 클라우드의 맞춤형 인프라 및 구글의 개방형 모델 제품군인 젬마를 결합해 엔터프라이즈 애플리케이션용 AI를 향상하기 위한 협력을 확대한다고 29일 밝혔다. 양사는 AI 확장을 위한 엔터프라이즈급 사용 사례 개선을 위해 다음과 같은 분야에서 협력할 예정이다.· 구글이 창립 기여자로 참여하는 오픈소스 프로젝트 ‘llm-d’ 론칭· 구글 클라우드 TPU 및 GPU 기반 가상머신에서 vLLM 지원 통해 AI 추론 성능 강화· ‘젬마 3
SK텔레콤이 AI 반도체 스타트업 리벨리온과 함께 자사 AI 서비스에 국산 NPU 적용을 위한 테스트를 진행하고 있다.SK텔레콤은 자체 LLM 모델 ‘에이닷엑스’ 기반의 ‘에이닷 전화 통화요약’ 등 주요 AI 서비스에 리벨리온의 AI 반도체 ‘아톰’을 적용하는 테스트를 시작했다고 25일 밝혔다.테스트는 에이닷 전화 통화요약, PASS 스팸필터링, PASS 금융비서, 엑스칼리버 등 주요 서비스에 적용 중이며, 연내에는 성능을 강화한 ‘아톰 맥스’의 상용 적용도 추진한다
KT는 지난 23일 서울 종로구 광화문빌딩 이스트에서 ‘KT 퓨처 웨이브 테크 데이’를 개최했다고 24일 밝혔다.이번 행사는 중소벤처기업부와 창업진흥원이 주관하는 ‘창업 도약 패키지’ 프로그램의 일환으로, KT 트랙에 선발된 스타트업들과 기술 교류 및 협업 기회를 확대하기 위해 마련됐다.이날 행사에는 KT와 협업 중인 유망 스타트업 13개사가 참여해 각사의 핵심 기술과 사업 협력 과제를 소개했다.참여 기업은 ▲두왓 ▲제노드 ▲모놀리 ▲에스에스엘(LLM 데이
AI 발전 속도가 예측하기 어려울 정도로 빨라지고 있지만, 보안 문제 해결은 뒷전으로 미루고 있다. 모든 기술은 보안을 내재화해야 한다는 것에 이의를 제기할 사람은 없지만, 보안 때문에 기술 발전의 속도를 늦춰서는 안 된다는 주장이 더 힘을 얻기 때문이다. 보안 부채를 관리하면서 AI를 사용할 수 있는 방법을 알아본다.AI 애플리케이션도 소프트웨어이기 때문에 다양한 취약점 공격이 가능하다. ‘LLM 애플리케이션을 위한 OWASP Top 10 2025’에서 매우 위험한 취약점 중 하나로 꼽은 ‘부적절한 출력 처리
LG유플러스는 부산대학교와 AI 기반 맞춤형 교육지원 시스템 구축을 위한 업무협약을 체결했다고 19일 밝혔다.협약은 LG유플러스가 글로컬대학30에 선정된 부산대의 AI 기반 맞춤형 교육지원시스템 구축을 지원하는 게 골자다. AI·빅데이터 기반 서비스를 활용한 지역 사회 성장 및 인재 육성에 기여하는 게 목표다.양측은 ▲AI 기반 맞춤형 교육지원 서비스 공동 개발 ▲LLM 학습용 데이터 구축 및 활용 ▲AI 에듀테크 사업 협력을 위한 전략 수립 및 실행 로드맵 기획 ▲산·학·연 공동연구 및 공동 관심 분야
금융보안원은 추론 인공지능 모델의 출현 및 기술의 발전으로 금융권 내 AI 에이전트 도입이 증가할 것으로 전망됨에 따라 AI 에이전트 기능을 가로채 악용하거나 사용하는 도구를 오염시키는 등의 보안 위협을 체계적으로 정리한 보고서를 공개했다.AI 에이전트는 사용자 의도에 따라 목표를 설정한 뒤 환경을 분석하고 필요한 도구를 활용해 인간의 개입 없이 자율적으로 목표를 수행하는 AI 시스템을 의미한다.기존 LLM 기반 AI가 정보를 제공해 사람의 판단과 결정을 지원하였다면, AI 에이전트는 여러 가지
주요키워드
인기기사
[윤신근 오수개]가끔 풀을 뜯어먹는다면
코로나바이러스성 장염은 파보바이러스와 마찬가지로 위장관에 손상을 주는 무서운 병이다. 이 병에 걸리면 지독한 변 냄새, 구토, 황록색 또는 오렌지색 설사, 탈수 증상이 나타나고 파보바이러스와 유사한 증상을 보인다. 질병에 걸린 개는 격리해 줘야 한다. DHPPL 예방접종과 함께 3~5차에 걸쳐서 접종한다.켄넬코프는 만병의 근원인 감기 가운데 특히 독한 감기를 말한다. 켄넬코프에 걸리면 눈 주위에 진물이 나고 고열 증상을 보이며 홍역 등 합병증에 쉽게 노출된다. 반드시 예방접종을 해야 하며 DHPPL 예방접종과 함께 3~5차에 걸쳐서
친윤 장예찬도 '포기'?…"尹, 출석해서 조사에 협조해야…갈등 더 키우지 않아야"
윤석열 전 대통령이 경찰의 소환에 응하지 않아 체포영장 청구가 검토되고 있는 상황과 관련해, 친윤계인 장예찬 전 국민의힘 최고위원은 윤 전 대통령이 수사 기관에 협조해야 한다...
"포항지진 피해소송 지원 '길' 열렸다" 포항시, 공익소송 비용 지원 조례 제정
김재욱 기자 = 포항지진 손해배상 대법원 상고심을 앞두고, 시민 권리 회복을 위한 제도적 지원의 길이 열렸다.시는 오는 2...
봉화군, 유니세프 ‘아동친화도시’ 인증… 경북서 다섯 번째
봉화군이 유니세프 한국위원회로부터 '아동친화도시'로 공식 인증을 받았다. 이는 경상북도 내에서는 다섯 번째 사례다. ‘아동친화도시’는 유엔아동권리협약의 이행을 목표로, 아동의...
"강원 농업기술원, '친환경'과 '생산성' 두 마리 토끼 잡는다"
강원특별자치도 농업기술원은 친환경 수경재배기술 보급·확산을 위한 실증연구에 본격 착수했다. 농업기술원은 3년간 준비기간을 거쳐 ‘친환경 수경재배 실증센터’를 2024년에 완공했으며, 현재 실증센터에서는 순환식 수경재배 연구과 함께 실습형 교육도 진행하고 있다.◆ 비순환식 수경재배 기술의 그늘...비료 배액이 수질오염으로 작용수경재배는 1990년대부터 국내 농가에 빠르게 확산된 대표적인 시설원예 기술이다. 토양 없이 작물을 재배하기 때문에 장해를 피하고, 수량과 품질도 안정적으로 확보할 수 있다. 도내 수경재배 농가는
최신기사
경기도, 도내 독립운동 사료수집 용역 본격 착수
경기도는 도내 독립운동의 역사를 재조명하기 위한 ‘경기도 독립운동 사료수집 용역’에 착수했다고 27일 밝혔다. 도는 전날 독립운동 사료수집 용역 착수보고회를 열고 사료수집 방...
오경석 신임 두나무 대표 “지능형 디지털 자산 플랫폼으로 진화 추진”
두나무는 27일 임시주주총회를 열고 오경석 신임 대표로 선임했다고 밝혔다. 오경석 대표는 임시주주총회 인사말을 통해 인공지능 확산에 적극적으로 대응해 업비트를 지능형 디지털 자산 플랫폼로 만들겠다는 포부를 밝혔다. 오경석 대표는 “변화의 시기, 업비트는 단순히 국내 거래소 1위에 머무르지 않고, 기술력과 신뢰를 바탕으로 글로벌 시장에서 정면 승부하는 대한민국 대표 디지털 자산 플랫폼으로 자리잡고 있다”며 “업비트는 2024년 거래대금 기준 미국 최대 거래소 보다 앞선 성과를 달성했다. 이는 대한민
MS 보안 수장, AI 그룹으로 이동…AI 중요성 부각
마이크로소프트가 자사의 최고정보보안책임자 이고르 치간스키를 보안 조직에서 클라우드·AI 그룹으로 이동시키며 인공지능의 중요성을 강조하고 있다고 26일 비즈니스인사이더가 보도했다. 이에 따라 이고르 치간스키는 보안 책임자로서 MS의 내부 보안을 강화하고 사이버보안 표준을 설정하는 역할을 수행하게 된다.이번 조직 개편으로 치간스키는 보안 그룹 책임자인 찰리 벨이 아닌, 클라우드·AI 그룹을 이끄는 스콧 거스리(Scott
삼성전자, 인도서 비스포크 AI 가전 기술 공개
삼성전자가 인도 구르가온에서 비스포크 AI 가전의 혁신 기술과 스마트 홈 서비스를 소개했다.삼성전자는 지난 25일 서남아 테크 세미나를 열고 AI 기술이 적용된 프리미엄 가전 라인업과 스마트싱스 기반 서비스를 선보였다고 27일 밝혔다.이번 세미나에는 서남아 지역의 주요 테크 미디어와 라이프스타일 인플루언서들이 참석했다. 삼성전자는 AI 홈 비전과 함께 ▲비스포크 AI 냉장고 ▲비스포크 AI 무풍 에어컨 ▲비스포크 AI 콤보 ▲비스포크 AI 통버블 세탁기 등 다양한 제품을 소개했다.특
[리얼미터] 김민석 총리 후보자 임명 찬성 53.4%·반대 40.4%
김민석 국무총리 후보자 임명 찬성 의견은 53.4%, 반대 의견은 40.4%라는 여론조사 결과가 27일 나왔다. 여론조사기관 리얼미터가 지난 25일 전국 18세 이상 남녀 504명에게 김 후보자 임명 의견을 묻자 이 같은 결과가 나왔다. 의견을 유보한 '잘 모름'은 6.3%였다. 광주·전라, 대전·세종·충청