[안전한 AI 사용⑤] 레드팀 테스트로 AI 취약성 파악해야
AI 발전 속도가 예측하기 어려울 정도로 빨라지고 있지만, 보안 문제 해결은 뒷전으로 미루고 있다.
모든 기술은 보안을 내재화해야 한다는 것에 이의를 제기할 사람은 없지만, 보안 때문에 기술 발전의 속도를 늦춰서는 안 된다는 주장이 더 힘을 얻기 때문이다.
보안 부채를 관리하면서 AI를 사용할 수 있는 방법을 알아본다.
AI 애플리케이션도 소프트웨어이기 때문에 다양한 취약점 공격이 가능하다.
‘LLM 애플리케이션을 위한 OWASP Top 10 2025’에서 매우 위험한 취약점 중 하나로 꼽은 ‘부적절한 출력 처리...
모든 기술은 보안을 내재화해야 한다는 것에 이의를 제기할 사람은 없지만, 보안 때문에 기술 발전의 속도를 늦춰서는 안 된다는 주장이 더 힘을 얻기 때문이다.
보안 부채를 관리하면서 AI를 사용할 수 있는 방법을 알아본다.
AI 애플리케이션도 소프트웨어이기 때문에 다양한 취약점 공격이 가능하다.
‘LLM 애플리케이션을 위한 OWASP Top 10 2025’에서 매우 위험한 취약점 중 하나로 꼽은 ‘부적절한 출력 처리...
최첨단 AI 카메라 개발 벤처기업 엘유프로젠은 최근 통영시에 해양 재해·재난 감시용 엘유프로 AI 카메라를 납품, 설치를 완료했다고 밝혔다. 통영시는 570개의 섬으로 둘러싸인 해양 도시로 기상 악화를 비롯해 자연재해·재난 발생 시 신속한 대응이 중요한 지역이다.해양에서 발생한 재난·재해를 사전에 감지하지 못하거나 선제적으로 대응하지 못할 경우, 대규모 인명 및 재산 피해로 이어질 수 있어 영상감시장치의 성능과 신뢰성은 매우 중요하다.통영시에 재해·재난 감시용으로 설치된 엘유프로 AI 카메라는 다양한
통신대안평가는 한국정보통신진흥협회와 알뜰통신 이용자들의 금융 접근성 제고를 위한 업무협약을 체결했다.이번 협약은 금융 이력 부족으로 기존 금융정보 기반의 신용평가를 받기 어려운 금융소외계층도 통신 정보를 활용한 신용평가 및 금융 혜택을 받을 수 있도록 양 기관 간 상호 협력을 위한 목적으로 진행됐다. 주요 협력 분야는 통신이용자 금융 접근성 제고, 통신을 매개로 한 금융범죄 예방 서비스 발굴, 통신 이용자 권익 증진 및 보호를 위한 상호 협력 등이다.통신대안평가는 비금융정
아이티센글로벌은 법무법인 린과 팁스 프로그램 및 창업 생태계 지원을 위한 업무협약을 체결했다고 23일 밝혔다.최근 혁신 기술과 아이디어를 보유한 스타트업들의 성장이 국가 경제의 새로운 동력으로 주목받고 있으나, 다수의 창업기업이 초기 단계에서 법률적 문제에 직면하거나 관련 정보 부족으로 어려움을 겪고 있다. 특히 팁스 프로그램에 참여하는 기술 기반 스타트업들의 안정적인 성장과 시장 경쟁력 확보를 위해서는 전문적인 법률 지원이 필수적이다.양사는 이번 MOU를 통해 팁스
AI 교육 솔루션 기업 엘리스그룹이 국내 ICT 공공기관과 손잡고, 아세안 국가 AI 교육 환경 구축과 AI 인재 양성에 적극적으로 나서고 있다.엘리스그룹은 인도네시아 치카랑에 위치한 정보통신훈련센터에서 열린 ‘인도네시아 한-아세안 디지털 아카데미’ 개소식에 참여했다. 한-아세안 디지털 아카데미는 한·아세안 협력기금을 지원받아 과기정통부와 정보통신산업진흥원이 아세안사무국과 협력해 추진하는 사업이다. NIPA는 아카데미 개소를 시작으로 인도네시아 현지에서 디지털 및 AI 인재 양성을 시
슈퍼브에이아이가 국내 최초 산업 특화 비전 파운데이션 모델인 ‘제로’를 공개했다고 24일 밝혔다. 제로는 단 90만 개 데이터와 8개월의 개발 기간만으로 글로벌 1위와 동등한 성능을 구현했다.비전 파운데이션 모델인 제로는 대규모 이미지 데이터로 사전 학습된 범용 AI 모델로, 추가 학습 없이도 다양한 시각적 작업에 적용 가능하다. 텍스트 기반의 LLM이 언어 처리 분야에서 활용되는 것처럼, 비전 파운데이션 모델은 이미지 인식과 분석 분야에서 제조업 품질 검사, 안전 관제 효율화, 물류
영림원소프트랩은 메모리 반도체 후공정 패키징 전문기업 테크엘에 자사 대표 전사적자원관리 솔루션 ‘K-시스템 에이스’를 적용해 차세대 ERP 구축에 착수했다고 24일 밝혔다.이 프로젝트는 기존 외산 ERP를 국산 솔루션으로 대체한 윈백 사례로, ‘K-시스템 에이스’의 제조업 특화 경쟁력과 디지털 전환 플랫폼으로서의 안정성을 입증하는 사례로 평가된다.테크엘은 최근 급변하는 산업 지형과 글로벌 경쟁 심화에 대응해 기존 외산 ERP의 한계를
프로축구 K리그1 제주SK FC가 대전 하나시티즌과의 원정경기에서 전반 초반 상대 퇴장으로 수적 우세를 잡고도 끌려가다 막판 동점골로 무승부를 거뒀다.제주는 27일 오후 7시 30분 대전월드컵경기장에서 열린 하나은행 K리그1 2025 21라운드 대전과의 원정 경기에서 1-1 무승부를 거뒀했다.제주는 김동준 골키퍼, 김륜성, 송주훈, 임채민, 안태현, 이탈로, 남태희, 이창민, 유인수, 김준하, 오재혁이 선발로 나섰다.제주가 먼저 기세를 잡았다. 전반 5분 이창민의 중거리 슈팅은 골키퍼 정면으로 향했다.대전도 맞불에 나섰다. 전반 8
삼성전자의 작년 재생에너지 사용량이 처음 1만기가와트시를 넘어섰다.삼성전자가 27일 공개한 ESG 성과 등을 담은 '2025 지속가능경영보고서'에 따르면 작년 삼성전자의 재생에너지 사용량은 1만69GWh로 전년 대비 8.4% 증가한 것으로 나타났다.앞서 지난 2023년의 전년 대비 재생에너지 사용량 증가율은 6.7% 수준이었다.재생에너지 사용량이 증가하면서 재생에너지 전환율도 늘었다.작년 삼성전자의 재생에너지 전환율은 31.4%
하남시, 청년정책 한눈에 담은 전자책 ‘알쓸청길’ 공개하남시가 청년들의 실질적인 정책 접근성과 참여도를 높이기 위해 ‘알아두면 쓸모있을 청년정책 길라잡이북’을 전자책 형태로 제작·발행했다.‘알쓸청길’은 하남시 청년정책을 한눈에 쉽게 확인하고 바로 신청할 수 있도록 구성된 맞춤형 안내서다. 시는 기존에 청년정책을 종이책자 형태로 제작해 배포해 왔으나, 올해는 모바일과 PC 등 다양한 디지털 환경에서 손쉽게 열람할 수 있도록 전자 브로슈어로 새롭게 구성해 정보 접근성을 대폭 강화했다.일상 속에서 시청 홈페이지 또는 QR
봉준호 감독의 영화 '기생충'이 전세계 유력지인 뉴욕타임스가 선정한 '21세기 최고의 영화'에 등극했다.NYT는 27일 공개한 '21세기 최고의 영화 100편' 리스트에 따르면 '기생충'이 1위를 선정됐다.NYT는 영화 기생충을 "가진 자와 못 가진 자에 대한 이야기이자 신자유주의의 참혹함에 대한 맹렬한 질책을 담은 유쾌하면서도 뒤틀리고 불안하면서 충격적인" 영화라고 평가했다. 봉 감독은 2005년 작품인 '살인의 추억'도 99위에 올랐다. 봉 감독은 NYT 최고 영화 100선 중 자신의 작품을 2개나
고성균 이사장 경영철학 공유... 공단 전략･가치체계 리더 중심으로 내재화 한국승강기안전공단이 리더십 기반 조직문화 혁신에 역량을 집중키로 했다.KoELSA는 6월 26일부터 27일까지 경남 산청군에서 ‘2025 KoELSA 비저너리 리더스 포럼’을 개최, 이같은 경영방침을 선포했다.이번 포럼은 공단본부, 승강기안전기술원 및 전국 지역사무소의 임원과 관리자 120여 명이 참석한 가운데, 고성균 이사장의 경영철학을 공유하고 공단의 전략･가치체계를 리더 중심으로 내재화하기 위해 마련됐
경주시는 27일, 시청 대회의실에서 유해야생동물 피해방지단을 대상으로 안전교육을 실시했다. 이번 교육은 올해 새롭게 선발된 피해방지단 소속 엽사 33명을 대상으로 진행됐으며, 총기사고 예방과 멧돼지‧고라니 등 유해야생동물로 인한 농작물 피해 최소화, 시민 안전 확보를 위한 실질적인 대응 역량 강화를 목적으로 마련됐다. 시는 오는 7
고위공직자범죄수사처가 이재명 대통령의 공직선거법 위반 혐의 대법원판결과 윤석열 전 대통령 구속취소 결정과 관련한 조희대 대법원장, 김주현 전 민정수석 고발 사건을 내란 특검에 이첩했다.27일 법조계에 따르면 공수처는 지난 24일 시민단체 사법정의바로세우기시민행동이 윤 전 대통령과 한덕수 전 국무총리를 비롯해 조 대법원장과 김 전 수석, 심우정 검찰총장, 지귀연 서울중앙지법 부장판사 등을 직권남용 권리행사 방해 및 공직선거법 위반 혐의로 고발한 사건을 조은석 내란 특검팀으로 보내는 이첩 조치를 내렸다.특검팀은 공수처에 12·
주요키워드
인기기사
부산 기장군, 기장도서관서 ‘장애인 독서활동 지원사업’ 추진
부산 기장군이 오는 12월 12일까지 기장도서관에서 ‘장애인 독서활동 지원사업’을 추진한다고 23일 밝혔다.이번 사업은 문화취약계층인 장애인에게 양질의 독서 문화 체험 기회를 제공하기 위해 마련됐으며 ㈜한국수력원자력 고리본부의 지원으로 기장도서관이 시행한다.독서지도 전문 강사가 관련 기관을 직접 방문해 책 속의 대화와 동작을 즐길 수 있는 동화구연과 함께 다채로운 독후활동을 진행하는 것을 내용으로 한다.또한 마법 같은 하루를 만들어 줄 마술쇼 관람 기회도 제공하고 장애유형별 맞춤 보드게임 등
“보양국밥 한우 알고 보니 미국산”…인천특사경 원산지 표시 위반 등 4곳 적발
보양식 재료로 쓰이는 외국산 고기 원산지를 국내산으로 거짓 표시한 음식점들이 인천시 특별사법경찰에 적발됐다. 시 특사경은 지난달 12일부터 이달 18일까지 6주간 지역 내 보양식 전문 음식점을 대상으로 원산지 표시 위반 행위 등을 단속해 4개 업소를 적발했다고 24일 밝혔다. A 업소
[발언대] K딸기, 전 세계 어린이 대표 간식을 꿈꾸며
어린 자녀에게 손쉽게 줄 수 있고 더불어 맛과 영양도 뛰어난 간식은 어떤 것이 있을까? 이 질문에 떠오르는 간식이 정말 많겠지만 그중에서도 '딸기'가 아닐까 조심스레 생각한다.딸기의 빨간색은 아이들 식욕을 자극하고 달콤한 맛과 부드러운 식감은 어린이 대표 간식으로 손색이 없다. 또,
농협, ‘NH콕뱅크’ 2030 비전 선포
농협이 모바일 금융플랫폼 ‘NH콕뱅크’를 디지털 혁신의 전초기지로 삼고, 2030년까지 이용자 수 2000만명, 비대면 금융상품 판매 50조원 달성이라는 청사진을 내걸었다.농협 상호금융은 지난 19일 서울 중구 농협중앙회 본관에서 ‘NH콕뱅크 중장기 발전 전략’을 발표하고, 농축협을 대표하는 모바일 금융 플랫폼으로의 도약을 선언했다.‘NH콕뱅크’는 인공지능, 데이터, 마케팅 기술을 융합해 고객과 농축협을 연결하는 디지털 금융 플랫폼으로 탈바꿈할 계획이다. 농협은 이를 위해 ▲이용자 수 2000만명
경주시, MZ세대 공무원 ‘소소기획단 3기’ 출범…생활밀착형 정책 실험 본격화
경주시는 시민 삶의 질을 높이는 생활밀착형 시책 발굴을 위해 내부 실험 조직인 ‘소소기획단’ 3기 활동을 지난 20일 공식 출범시켰다고 23일 밝혔다. 시청 대회의실에서 열린 이날 발대식에서는 MZ세대 공무원 24명이 위촉돼 올해 말까지 창의적이고 실현 가능한 정책 아이디어를 모색하게
최신기사
구글, 초경량 멀티모달 AI '젬마 3n' 정식 출시…스마트폰 실행 OK
구글이 27일 초경량 AI 모델 '젬마 3n'을 정식 출시했다. 스마트폰에서도 실행 가능한 오픈웨이트 모델로, 음성·영상 입력까지 지원하는 멀티모달 AI다.젬마 3n은 구글의 AI 제품군 중 최초로 개발자가 모델 데이터를 다운로드해 자유롭게 사용할 수 있도록 설계됐다. 5월 조기 공개 후 높은 관심을 받았으며, 6월 27일 정식 출시되면서 허깅페이스와 캐글에서 모델 다운로드가 가능해졌다.젬마 3n은 맷포머 아키텍처로 훈련됐으며, 메모리 절약 기술인 ‘PLE’
GH, 제2판교 '밋업데이' 개최··· 입주기업·기관 협력 본격화
경기주택도시공사는 제2판교 입주기관들과 함께 ‘밋업데이’를 개최하고, 제2판교 민관협의체 제5차 회의를 성공적으로 마무리했다고 27일 밝혔다.민간기업과 공공기관 간의 협력사업을 모색하고, 입주기업의 성장을 지원하기 위한 프로그램을 공유하는 소통과 네트워킹의 장으로 마련된 행사다.현장에는 제2판교 테크노밸리 내 입주기업과 스타트업, 공공지원기관, 입주기관 관계자 등 70여 명이 참석했다.이날 벤처기업협회, 한국전자기술연구원, 경기창조경제혁신센터, 스테이션-K 등은 ▲ 스
원주 사회적기업 ㈜퀸비스토어, 친환경 고체 세안제 '커피박 워싱바' 수출 개시
원주시 소재 사회적기업 ㈜퀸비스토어가 자사 브랜드 친환경 위생용품 ‘커피박 워싱바’를 비롯한 고체 화장품을 일본 나고야를 시작으로, 미국 달라스, 중국 샤먼, 인도 뭄바이 등 주요 해외 시장에 본격 수출한다.퀸비스토어는 지역 커피전문점에서 수거한 커피 찌꺼기를 활용한 친환경 고체 세안제를 개발해 국내외 친환경 소비자들로부터 주목을 받고 있다.이번에 수출되는 제품은 ‘커피박 워싱바’ 외에도 ‘꿀바디바’, ‘어성초샴푸바’, ‘다시마린스바’ 등 고체 화장품 3종이 포함됐으며, 모두 자연 유래 성분을 기반으로 한 지속가능한
원주시, 문화콘텐츠 연계한 '2025 원주만두축제' 홍보 나서
원주시는 문화콘텐츠와 연계해 지역 대표축제인 ‘원주만두축제’를 알리는 활동에 적극 나섰다. 원강수 원주시장은 지난 26일, 원주 어울림소극장에서 공연 중인 지역 창작 음악극 ‘봉천내 사람들-만두전성시대’를 관람하고, 라는 같은 소재를 활용하는 ‘원주만두축제’를 홍보하는 자리를 가졌다.봉천내 사람들-만두전성시대 공연은 원주문화재단의 지역브랜드 지원사업에 선정돼 선보이는 창작 음악극으로, 봉천내의 만두골목을 배경으로 펼쳐지는 만둣국집 사장과 동네 사람들의 따뜻한 이야기를 그린 작품이다.원강수 시장은 “지금은 원주천으로 불리는 봉
문화·관광·레포츠 융합…군위군, ‘체류형 관광도시’로 도약
‘머물고 싶은 군위, 다시 찾고 싶은 군위’를 향한 시도가 구체적인 성과로 이어지고 있다. 대구 편입 이후 변화의 물결을 맞이한 군위군이 민선 8기 3년 동안 문화·관광·레포츠 인프라를 조용하지만 착실하게 다져오며 체류형 관광도시로의 도약을 준비하고 있다. △전통과 현대의 접점, 관광