“LLM, 단순 질의로도 가드레일 우회 ··· 2600여 건 실증 분석”
한국정보통신기술협회는 홈페이지를 통해 ‘거대언어모델 유해성 공격 전략에 대한 실증적 분석’ 보고서를 공개했다.
이 보고서는 2023년 미국 라스베이거스에서 개최된 DEF CON 31 GRT 챌린지의 공개 데이터를 기반으로, LLM을 대상으로 한 실제 공격 사례를 정량적으로 분석한 결과를 담고 있다.
한양대 연구진과 협력해 수행된 본 연구는 실제 성공한 공격 데이터를 기반으로 LLM에 대한 주요 취약성과 효과적인 공격 전략을 파악하고자 수행됐다.
...
이 보고서는 2023년 미국 라스베이거스에서 개최된 DEF CON 31 GRT 챌린지의 공개 데이터를 기반으로, LLM을 대상으로 한 실제 공격 사례를 정량적으로 분석한 결과를 담고 있다.
한양대 연구진과 협력해 수행된 본 연구는 실제 성공한 공격 데이터를 기반으로 LLM에 대한 주요 취약성과 효과적인 공격 전략을 파악하고자 수행됐다.
...
에티버스그룹은 자사 B2B 마켓플레이스 ‘플래닛’의 2단계 개발을 완료하고 본격 운영에 돌입했다고 밝혔다. 이번 개발은 견적 요청부터 판매 확정, 사후관리까지 전 과정을 하나의 플랫폼에서 처리할 수 있는 통합 시스템 구현에 초점을 맞췄다.에티버스그룹은 지난해 6월 ‘플래닛’ 1단계 개발을 완료해 고객이 벤더 및 제품 정보를 쉽게 탐색하고, 필요한 제품에 대해 직접 문의할 수 있도록 디지털 기반의 구매 환경을 마련했다. 기존에는 유선이나 이메일로 벤더 또는 담당자에게 문의해야 했던 과정을 없애 고객 편의성이
올인원 크리에이터 콘텐츠 플랫폼 클래스101은 국방부가 주관하는 ‘2025 군 온라인 문화예술 체험형 강의콘텐츠’ 사업 운영사로 5년 연속 선정됐다고 밝혔다.이번 사업은 군 장병 및 군무원 1만2000명 대상 문화예술 분야 온라인 강의를 공급해 복무 중 정서 안정과 자기 계발을 도모하는 프로그램이다. 병영 내 휴대전화 사용 확대 등 변화된 복무 환경에 맞춰 시공간 제약 없이 다양한 교육에 자율적으로 참여할 수 있는 것이 특징이다.올해 클래스101은 미술, 음악, 무용, 연극, 디자인, 미디어 등 6개 분야
“우리의 새로운 비전은 ‘인터넷 경제를 위한 스케일링 엔진’이 되는 것이다. 몰로코는 AI 기술 고도화를 통해 광고 시장의 경계를 허물고, 더 많은 플랫폼과 브랜드, 셀러들이 함께 성장하는 다양하고 지속 가능한 생태계를 만들겠다”안익진 몰로코 공동창업자 겸 CEO는 ‘몰로콘 25’ 미디어 간담회에서 이와 같이 말하며, 앱 중심이었던 사업 영역을 웹과 커넥티드 TV까지 아우르는 ‘크로스 채널’로 확장하겠다는 미래 전략 ‘몰로코 넥스트(MOL
1분기에 전 세계에서 발생한 랜섬웨어가 전년 동기 대비 122%, 전 분기 대비 35% 증가했으며, 특히 병원과 학교를 대상으로 한 공격이 크게 늘어 전년 동기 대비 의료 부문 피해 86%, 교육부문 피해 160% 늘었다.이는 SK쉴더스의 ‘2025년 1분기 KARA 랜섬웨어 동향 보고서’에 따른 것으로, 과거에는 병원이나 학교 같은 공공 목적의 기관은 공격 대상에서 제외되거나 별도 협상 없이 복구키를 제공하는 경우가 많았지만, 최근에는 이들도 예외 없이 고액의 금전을 요구받는 사례가 늘고 있다.대표 사례로 미국 캔자스
핀테크 기업 헥토파이낸셜은 국내 최대 실증 이력을 보유한 블록체인 보안 전문기업 하이파이브랩과 스테이블코인 지급결제 시스템의 기술 제휴를 위한 업무협약을 체결했다고 밝혔다.이번 제휴는 스테이블코인 지급결제에서 가장 중요한 결제 안전성과 신뢰 확보를 위한 것으로, 헥토파이낸셜은 기존 지급결제, 선불충전 및 지역화폐 분야의 강점을 토대로 스테이블코인 시장 진입을 준비하고 있다. 현재 국내 및 미국 스테이블코인 사업자와 지급결제 및 유통 분야에서 제휴를 논의 중이며, 규제정비가 완료된 일본 등지의 해외 법인 설립도
온디바이스 인공지능 최적화 선도기업 노타는 한국지능정보사회진흥원이 주관하는 AI 바우처 프로젝트에서 소니 칩셋 기반 스마트 교통 솔루션으로 100%의 정확도를 기록하며, 글로벌 경쟁사 대비 기술력과 경제성 측면의 경쟁력을 확인했다고 밝혔다.이번 AI 바우처 프로젝트는 무단횡단 사고가 빈번한 미국 레이크우드의 특정 지역을 대상으로 보행자 안전 관리와 교통량 분석의 가능성을 검증하는 데 초점을 두고 있다. 이번 프로젝트에서 노타는 자체 개발한 AI 최적화 기술을 소니의 스마트 이미
한국공항공사는 오늘 김포공항에서 한국사회적기업진흥원과 친환경 사회적경제기업의 성장지원을 위한 업무협약을 체결했다.양 기관은 협약 체결을 통해 공항 주변에 위치한 친환경사회적경제기업을 모집하고, 해당 기업의 친환경 제품을 공항에 전시·홍보해 중소기업과 소상공인의 판로를 지원한다.공사는 이달부터 10월까지 김포·김해·제주·청주·대구 등 5개 공항에서 ‘킵 에어 클린 행사’를 개최하고, 친환경사회적경제기업은 자사의 친환경 제품을 홍보하는 체험·전시존을 운영한다.공항 이용객들이
서울시수의사회, 공정경쟁 심각 위배 ‘골목상권 생존권 위협’ 비영리법인 설립취지 훼손…”수의계 갈등 조장 즉각 중단해야” 서울특별시수의사회가 SNU반려동물검진센터 설립을 전면 철폐할 것을 강력 촉구했다. 서울시수의사회는 지난 16일 서울 광진구에 있는 SNU반려동물검진센터 앞에서 설립 반대 집회를 가졌다. 이날 집회에
한국산림복지진흥원은 여름철 자연재난에 선제적으로 대응하기 위해 ‘중앙재난안전상황실’ 현판식을 개최하고 본격적인 운영에 들어갔다.중앙재난안전상황실은 태풍과 집중호우 등 여름철 주요 자연재난에 대응해 국민의 생명과 재산 피해를 예방·최소화하기 위한 상시 대응체계로, 기상 특보 발효 시 24시간 비상근무체제를 유지한다. 특히 장마철 풍수해 및 산사태 발생 시 신속하고 체계적인 조치를 통해 피해 확산을 막는 데 중점을 둘 예정이다.진흥원은 이에 앞서 지난 5월20일부터 전국 23개 산림복지시설을 대상으로 건축 및 산림 분야
밀양시는 농림축산식품부 주관의 ‘농촌중심지 활성화 사업’ 신규 지구에 하남읍이 선정돼 2030년까지 300억을 투입한다고 16일 밝혔다.이 사업은 농촌중심지의 복합서비스 거점시설을 확대하고 지역의 잠재적인 자원을 활용한 농촌 재생 거점시설을 조성해, 체류 인구 확대와 지역 관광 명소화를 목표로 하는 사업이다.이번 사업 선정에 따라 2026년부터 2030년까지 5년간 국비 210억원, 지방비 90억원 등 총 300억원을 투입해 하남읍과 초동면을 아우르는 통합 생활권을 조성할 예정이다.하남읍에는 ‘다함께키움터 행정복합타운’을
이재명 대통령이 16일 대통령실 신설 직제인 AI미래기획수석비서관에 하정우 네이버 클로바 AI센터장을 임명했다.현업 기술자 출신 민간 전문가가 국가 인공지능 전략의 컨트롤타워에 오른 첫 사례로, 학계·산업계·시민사회 전반에서 환영의 목소리가 잇따르고 있다.대통령실에 따르면 하 수석은 정책실장 직속의 AI미래기획수석으로서 국가 AI 전략 및 예산 총괄, 미래 산업 전환 기획, 대통령 직접 보고 및 자문 등의 역할을 수행하게 된다.하 수석은 네이버에서 한국형 거대언어모델 개발을 주도하며 조직을
수원특례시의회 기획경제위원회는 16일, 조례안 등 13건의 안건을 심사했다.위원회는 먼저 유준숙 의원이 대표발의한 ‘수원시 산업재해 예방 및 노동안전보건 지원 조례 일부개정조례안’과 강영우 의원이 대표발의한 ‘수원시 고향사랑 기부금 모금 및 운용에 관한 조례 일부개정조례안’, ‘수원시 골목형상점가 지정 및 지원에 관한 조례 일부개정조례안’, ‘수원시 착한가격업소 지원 및 관리에 관한 조례 일부개정조례안’, ‘수원시 이동노동자 쉼터 설치
한글과컴퓨터는 행정안전부의 ‘범정부 초거대 AI 공통 기반 구현 사업’에서 우선협상대상자로 선정된 삼성SDS 컨소시엄에 핵심 AI 솔루션을 공급한다고 밝혔다.이는 한컴이 올해 초 수주한 ‘국회 빅데이터 플랫폼 구축’ 1단계 사업과 행정안전부의 ‘지능형 업무관리 플랫폼 구축’ 프로젝트에 이은 세 번째 공공 부문 AI 관련 성과로, 공공 AI 시장 입지를 강화하고 있다.이번 사업은 한국지능정보사회진흥원이 발주한 초대형 AI 인프라 구축 프로젝트다. 정부 부처와 지방자치단체가 보안 우려 없이 생
라인스튜디오는 16일 LY코퍼레이션을 통해 '라인 매치 플라이트'를 일본 대만 태국 인도네시아 홍콩 등 5개국에 선보였다.이 작품은 같은 블록 3개를 연결해 퍼즐을 푸는 3매치 퍼즐 게임이다. 스테이지를 순차적으로 완료하며, 지도를 확장해 나가는 과정을 즐길 수 있다.이 회사는 출시를 기념해 스테이지6를 달성한 유저들을 대상으로 스페셜 아바타 및 특별 프레임 등의 보상을 제공한다. 또 최종 스테이지에 가장 먼저 도달하며 랭킹 1위를 달성한 유저에 대해서는 '위대한 모험가' 칭호를 얻을 수 있는 이벤트를 진행한다. [더
주요키워드
인기기사
조계종 총무원 화재 발생…성보 33점 무사히 이운
지난10일 대한불교조계종 총무원 청사 국제회의장에서 발생한 화재로 인해 불교중앙박물관의 문화재 성보 33점이 긴급히 다른 장소로 옮겨졌다.조계종은 11일 이번 화재로 인해 문화재나 인명 피해는 발생하지 않았다고 밝혔다.조계종에 따르면, 불교중앙박물관에서 전시 중이던 국보 1건 9점, 보물 4건 8점, 지방유형문화재 1건 2점, 비지정 유산 9건 14점 등 총 15건 33점의 성보가 10일 저녁 국립고궁박물관으로 안전하게 이운됐다.박물관에서는 기획전시 **‘호선毫仙 의겸義謙: 붓끝에 나투신 부처님’**이 진
보도방 이권 다툼 끝 '보복살인' 조폭 출신 50대, 2심도 징역 22년
광주 도심에서 유흥업소 알선 이권을 둘러싼 갈등 끝에 보복 살인을 저지른 조직폭력배 출신 50대에게 항소심에서도 중형이 선고됐다. 광주고법 제1형사부는 12...
대한교사협회, ‘열정민쌤’의 챗GPT·AI 활용 수업 연수 마쳐
에듀프레스 장재훈 기자 = 대한교사협회는 초·중등 교사를 대상으로 한 온라인 연수 '바로 쓰는 ChatGPT & AI 활용 수업'을 지난 10일 마무리했다고 13
비트코인 간접투자 전쟁…스트래티지 vs 블랙록, 최적의 선택은?
투자자들이 비트코인을 직접 보유하지 않고도 노출을 원할 때, 흔히 비트코인 프록시 주식에 눈을 돌린다. 이는 비트코인의 가격 움직임을 반영하는 주식이나 펀드로, 전통적인 금융을 통해 암호화폐 시장에 접근하는 방법이다.오늘날 가장 대표적인 사례는 스트래티지와 블랙록의 비트코인 현물 상장지수펀드 아이셰어즈 비트코인 트러스트 ETF다. 전자는 비트코인을 기업 자산으로 보유하며 세계 최대 기업 비트코인 보유자가 되었고, 후자는 규제된 ETF를 통해
무안, 어린이와 호국보훈의 달 오늘은 나라사랑의 날’ 진행
무안군은 6월 호국보훈의 달을 맞아 무안군 어린이집연합회와 함께 ‘오늘은 나라사랑의 날’ 사업을 진행했다.이번 행사는 어린이의 눈높이에 맞춰 호국과 보훈의 의미를 쉽고 친근하게 전달하기 위해 마련됐으며, 지난 2일부터 9일까지 관내 어린이집 아동 300여 명이 참여해 다양한 체험 활동을 진행했다.특히, 어린이들은 ‘호국보훈 미니북’을 직접 만들며 ▲호국보훈의 의미 ▲우리가 기억해야 할 날들 ▲순국선열분들께 편지 쓰기 ▲태극기 만들기 등의 프로그램을 통해 나라사랑의 마음을 키웠다.미니북에는 “우리나라를 깨끗하
최신기사
대구공공시설관리공단 동부사업소, 안전하GO! 청렴하DAY! 로드캠페인 실시
대구공공시설관리공단 동부사업소는 6월 13일, 지역사회 내 청렴문화 확산과 안전의식 고취를 위해 ‘안전하GO! 청렴하DAY! 로드캠페인’을 실시했다. 이번 캠페인은 수성못 상화동산 산책로 인근에서 시민들을 대상으로 진행됐으며, 청렴과 안전의 중요성을 알리는 다양한 프로그램이 운영됐다. 공단 동부사업소는 캠페인을
2025 대구광역시 장애인 취업박람회 개최
대구광역시는 취업에 어려움을 겪고 있는 장애인을 위해 6월 17일 오후 2시 대구직업능력개발원 실내체육관에서 ‘2025 대구광역시 장애인 취업박람회’를 개최한다. 2025 대구광역시 장애인 취업박람회는 한국장애인고용공단 대구지역본부와 한국장애인복지관협회 대구광역시협회가 함께 진행하며, 지역사회 미취업 장애인 및 특수학교 졸업예
대구광역시 여성폭력 방지 정책 강화를 위한 여성폭력방지위원회 개최
대구광역시는 여성 폭력 방지와 피해자 보호에 관한 주요 시책을 논의하고, 지역 내 협력 네트워크를 구축해 여성폭력으로부터 안전한 일상을 만들기 위해 대구시 여성폭력방지위원회를 6월 16일 개최했다. 이번 회의는 여성가족부의 ‘제2차 여성폭력방지정책 기본계획’이 지난 4월 발표됨에 따라 대구시의 2025년도
대구광역시, 상수도사업본부 수질연구소, 6년 연속 최우수 분석기관으로 인정
대구광역시 상수도사업본부 수질연구소는 2025년 미국환경자원협회가 시행하는 국제숙련도 시험에 참가해 전 항목에서 모두 최고 등급인 ‘만족’ 판정으로 6년 연속 ‘최우수 분석기관’으로 인정받았다. 국제숙련도 평가는 전 세
유류세 인하 휘발유 10%, 경유･액화석유가스(LPG)부탄 15%....2개월 연장
정부는 물가 안정 및 민생 회복 지원을 위해 6월 말 종료 예정인 유류세 인하, 자동차·발전연료 개별소비세 인하, LPG․가공과일 할당관세 적용기간을 연장하고, 일부 품목에 대해서는 할당관세를 신규로 적용하거나 적용 물량을 확대하기로 했다.정부는 '25.6.30. 종료 예정인 수송용 유류에 대한 유류세 한시적 인하부탄 △15%) 조치를 '25.8.31.까지 2개월 추가 연장할 계획이다.이번 연장 조치는 중동사태로 국제 유류가격 변