AI, 가이드라인 무시하게 할 수 있다고?…'비주얼 프롬프트 인젝션' 뭐길래
대규모 언어 모델의 보안을 연구하는 스타트업 라케라의 엔지니어인 다니엘 팀브렐이 AI에 대한 '비주얼 프롬프트 인젝션'이라는 공격에 대해 설명했다.
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
일론 머스크 테슬라 최고경영자가 도널드 트럼프 차기 행정부에서 인도계 사업가 비벡 라마스와미와 함께 정부효율부를 이끌게 된다. 정부효율부는 트럼프의 새로운 시도로, 미국 정부의 예산을 효율화해 불필요한 지출을 줄이는 목적으로 신설된 부서다. 일론 머스크는 자신의 회사인 테슬라, 엑스, 스페이스X 운영에 있어 비용을 낮추기 위해 엄청난 인력 감축을 단행한 것으로 유명하다. 그가 자신의 사업에서는 어떻게 효율성을 관리해 왔는
오픈AI가 2018년초 샘 알트먼 오픈AI CEO가 제안한 암호화폐 토큰 출시를 거부했다는 사실이 공개됐다.일론 머스크가 오픈AI을 상대로 제기한 소송 관련 문건에 따르면 일론 머스크는 이 제안이 회사신뢰도를 심각하게 해칠 수 있다고 주장했다.일론 머스크의 변호인단은 14일 미국 캘리포니아 북부 지방법원에 제출한 소장에서 2018년 1월, 알트먼은 오픈AI는 자체 암호화폐를 판매할 수 있는 사기성 ‘ICO’를 제안했다”고 주장했다.변호사들에 따르면 머스크는 이 아이디어에 대해 ‘오픈AI와 I
올해 20주년을 맞은 국내 최대 게임 전시회 지스타 2024가 4일간의 대장정을 마무리했다. 지스타 조직위원회는 이달 14일부터 17일까지 부산 벡스코에서 열린 지스타에 4일간 총 21만5000여명이 방문했다고 17일 밝혔다.3359부스가 차려진 올해는 지난해에 이어 역대 최대 규모로 전시회가 개최된 것은 물론, 확대된 규모만큼 다양한 참가사의 신작과 콘텐츠가 공개되며 지스타를 방문한 모두의 기대감을 고조시켰다.올해 지스타에서는 다중접속역할수행게임 일변도를
도널드 트럼프 미국 대통령 당선인이 '정부효율부' 수장으로 일론 머스크 테슬라 최고경영자를 지명한 가운데, DOGE가 2기 트럼프 행정부에서 어떤 역할을 수행하게 될지에 대한 관심이 뜨겁다.14일 블룸버그에 따르면 DOGE는 머스크가 대대적으로 홍보해 온 암호화폐 '도지코인'에서 따온 이름으로, 연방 정부의 공식 부처는 아닐 것으로 전망된다. 정식 연방 부처를 설립하기 위해선 의회에서 관련 법이 통과돼야 하므로
금융당국이 금융그룹 IT자회사 직원이 그룹 전산센터에서 각 계열사 정보보호시스템을 관리하는 것이 ‘원격관리’가 아니라는 판단을 내렸다. 20일 금융권 관계자들에 따르면 최근 한 금융회사는 금융그룹 전산센터 내 별도 통제구역에서 각 계열 금융회사 정보보호시스템에 1대1로 직접 접속하는 단말기를 설치하고 해당 단말기와 각 계열사의 내부통신망을 전용회선으로 연결한 환경에서 IT자회사 직원이 해당 단말기로 정보보호시스템 정책 등을 운영하는 것이 가능한지 문의했다.현행 전자금융감독규정은 정보보호시스템 원격관리를
글로벌 네트워크 인프라 솔루션 기업 애지노드가 국내 파트너 기업들과 리브랜딩 투어 ‘별이 빛나는 하늘’ 행사를 개최했다.15일 서울시 송파구 시그니엘 호텔에서 열린 이 행사는 애지노드가 넥상스 그룹 산하에서 독립해 브랜드를 변경한 것을 알리고 파트너십을 강화하기 위해 개최되었다. 애지노드는 핵심 파트너사들을 초청해 애지노드라는 새로운 브랜드에 대해 알리고 앞으로 한국 및 아시아 태평양 시장 비전과 사업 방향을 공유했다.현재 애지노드의 핵심 사업 분야는 △ 400G~1.
경산시장학회는 금복장학재단이 지난 20일 지역 인재 육성을 위해 장학금 1천만 원을 기탁했다고 밝혔다.김일환 금복주 대표이사는 “지역에서 받은 사랑을 자라나는 인재들에게 보답하고자 대구·경북 지역에 장학기금을 후원하게 됐다”며, “추운 겨울이지만 아이들에게 따뜻한 기억으로 남길 바란다”고 소감을 전했다.조현일 이사장은 “금복장학재단에서 장학지원사업과 이웃사랑 실천사업, 육영문화사업 등 다양한 사회공헌활동을 펼치고 계신 데 이어 작년에 이어 올해도 경산시장학회에 장학기금을 기탁해
칠곡재향경우회가 21일 환갑을 맞이한 경우의 날 제61주년 기념식을 왜관신협에서 개최했다.정식명칭인 대한민국재향경우회는 국가사회를 위하여 민생치안의 현장에서 한평생 봉사하다가 퇴직한 경찰관들이 모여 자유민주주의 수호에 앞장서며 국민에 대한 봉사와 국가 치안활동 및 공익증진에 기여함을 목적으로 대한민국재향경우회법에 의하여 설립된 법정단체다.경우회는 중앙회를 비롯해 17개 시도경우회와 경찰서 단위의 275개 지역경우회가 있으며 회원수는 100만 명이 넘으며 1963년 11월 21일 내무부의 창립인가를 받아 올해로 61주년을 맞이한 것이
전통예술 아티스트 정겨운의 국악 에세이 콘서트 ‘한 입, 한 소절’이 11월 22일과 23일 양일간 서울돈화문국악당에서 열린다.‘2024 청년예술가도약지원’ 전통예술분야 아티스트로 선정된 정겨운은 2016년 산조 네 바탕을 발표한 이후 전통과 창작의 경계 위에서 꾸준한 연구 및 연주 활동을 통해 해금의 대중화를 다양한 음악적 실험을 시도하는 예술가로, 전통공연예술진흥재단 ‘2024 신진국악실험무대’를 통해 선보인 ‘왜곡의 순간’으로 신진국악 우수단체로 선정된 바 있다.국악 에세이 콘서트 ‘한 입, 한 소절’은 청년
한국경제가 여소 야대의 ‘정치 리스크’에 단단히 발목이 잡힐 상황에 직면했다. 내부적으로는 내수 침체와 주력 산업의 경쟁력 약화, 외부적으로는 보호무역주의의 심화와 지정학적 위험 등으로 인해 경제적 어려움을 겪고 있는 가운데, 국회를 장악한 거대 야당이 ‘반시장·반기업적’ 성격이 강한 규제 입법을 강행 처리하기로 해 우려를 더하고 있다.정부와 국회가 나서 경제 활성화를 위해 개혁을 해도 모자랄 판에 기업 활동을 저해하는 ‘규제 입법’이 갈 길 바쁜 한국 경제를 더 큰 ‘불확실성’으로 몰아가고 있는 모양새다.한국경제인협회와 삼
경상북도는 11월 20일 구미 상공회의소 대강당에서 지난 동부권, 남부권, 북부권에 이어 대구경북 행정통합 서부권 주민 설명회를 개최했다.이번 설명회는 경북 서부권 4개 시·군 등의 기관・단체 관계자, 학계, 시민단체, 주민 등 각계각층 500여명이 참석해 많은 관심을 보였다.주민설명회는 정성현 행정통합추진단장이 행정통합의 필요성과 추진 경과, 주요내용 등에 대해 설명하였으며, 하혜수 경북대학교 교수가 행정통합과 관련된 과제와 쟁점에 대해 설명하였다. 이후에는 좌장인 최철영 대구대학교 교수, 계명
인천 서구를 대표하는 청년 아티스트들이 오는 12월 15일 오후 7시 청라블루노바홀 공연장에서 ‘세윤, 청라역에서 만나자’ 콘서트를 개최한다.‘세윤, 청라역에서 만나자’ 콘서트는 한 해를 마무리하는 12월, 인천광역시 서구민들을 포함한 관객들에게 서구 출신 가수들이 각자의 개성과 지역의 특색을 살린 무대를 선보이는 공연이다.메인 아티스트로 참여하는 서구 출신 발라드 가수 ‘세윤’은 2021년 ‘이별을 통보했던 날’을 통해 데뷔한 이후 서구를 대표하는 도시인 청라국제도시의 지명을 담은 디지털 싱글 ‘청라역에서 만나자’에서 피처링을 맡
광명지역신문=장성윤 기자> 광명시의회가 21일 제1차 본회의를 시작으로 내달 20일까지 30일간의 제290회 제2차 정례회 일정에 돌입했다.이번 정례회에서는 광명시 창업지원기금 설치 및 운용 조례안 등 시민생활과 밀접한 조례안 및 일반안을 심사한다. 시정 전반에 대한 실태 점검과 개선점, 발전방안을 모색하는 '행정사무감사'는 25일부터 내달 3일까지 진행된다.내달 9일부터 17일까지 각 상임위원회별로 2025년도 예산안 및 기금운용계획안 심의에 나선다.앞서 광명시는 일반회계 9229억원, 특별회계 2114억원 등 총 1조 1,343
주요키워드
인기기사
정하용 의원, 코리아경기도주식회사 공공성 강조
경기도의회 경제노동위원회 정하용 의원은 15일 2024 행정사무감사 종합감사에서 “올해부터 행정사무감사를 받게 된 코리아경기도주식회사는 앞으로 공공기관으로서 회사를 운영하도록 노력해야 할 것”이라고 밝혔다. 정하용 의원은 “코리아경기도주식회사의 업무추진비 사용내역을 보니 낮 시간에 화성에서 회의를 하고 나서 밤에는 서울에서 업무추진비를 사용한다던가, 밤 11시가 넘어서 계산하는 등 도덕적 해이가 너무 심각했다”라며 “관용차로 출퇴근이 불가능한데도 정관에 이 내용을 집어넣어 임원 중 일부가 출
'야탑역 살인예고' 글 작성한 20대 구속영장 기각
온라인 익명 커뮤니티에 '야탑역 살인예고 글'을 작성한 혐의를 받는 20대의 구속영장이 기각됐다. 수원지법 송백현 영장전담 부장판사는 협박 및 위계에 의한 공무집행방해 혐의를 받는 20대 A씨에 대한 구속 전 피의자 심문을 진행한 뒤 구속영장을 기각했다고 15일 밝혔다
일론 머스크, 정부효율부 맡은 이유 있었네…그간 행보 돌아보니
일론 머스크 테슬라 최고경영자가 도널드 트럼프 차기 행정부에서 인도계 사업가 비벡 라마스와미와 함께 정부효율부를 이끌게 된다. 정부효율부는 트럼프의 새로운 시도로, 미국 정부의 예산을 효율화해 불필요한 지출을 줄이는 목적으로 신설된 부서다. 일론 머스크는 자신의 회사인 테슬라, 엑스, 스페이스X 운영에 있어 비용을 낮추기 위해 엄청난 인력 감축을 단행한 것으로 유명하다. 그가 자신의 사업에서는 어떻게 효율성을 관리해 왔는
풀무원, 대전광역시와 푸드테크 혁신기술 산업 육성 위한 업무협약 체결
풀무원은 대전광역시와 식품 산업 혁신을 통한 지역경제 활성화와 국내 푸드테크 기술의 글로벌 경쟁력 강화를 위해 '푸드테크 혁신기술 산업 육성을 위한 상호협력 업무협약'을 체결했다고 지난 19일 밝혔다.협약식은 18일 대전광역시청에서 대전광역시 장호종 경제과학부시장, 풀무원기술원 이상윤 원장, 풀무원기술원 식품안전실 김상구 실장 등 주요 관계자들이 참석한 가운데 진행됐다. 협약식에서 풀무원과 대전광역시는 첨단 푸드테크 분야의 새로운 기술 개발과 지역 내 기업과의 상생협
김천서 화물차 충돌사고 후 인도 돌진…1명 사망 6명 중경상
김천에서 대형 화물차가 승용차와 충돌 후 인도를 덮쳐 1명이 숨지고 6명이 부상을 입는 사고가 발생했다.지난 16일 오전 9시 1분께 김천시 신음동 시청 앞 사거리에서 투싼 승용차와 15t 윙바디 화물차가 충돌해 화물차가 인도를 덮치고 승용차는 인근을 주행하던 베르나 승용차와 부딪히는
최신기사
스마일게이트, AGF 2024 참가…다채로운 현장 이벤트와 굿즈로 관람객 맞이
스마일게이트는 12월 7일부터 8일까지 경기도 고양시 킨텍스에서 열리는 서브컬처 행사 ‘Anime X Game Festival 2024’에 참가해 풍성한 현장 이벤트와 굿즈를 선보인다고 22일 밝혔다. 스마일게이트는 ‘에픽세븐’, ‘카오스 제로 나이트메어’, ‘아우터플레인’ 등 주요 타이틀과 관련된 다양한 체험 프로그램과 굿즈를 통해 방문객들에게 특별한 경험을 제공할 예정이다.모든 관람객에게는 ‘웰컴 키트’가 제공되며, 부스 내 마련된 스탬프 랠리와 럭키 드로우 이벤트에 참여할 수 있다
삼성전자 노조, 집행부 불신임투표...임금 협상 내년 넘어가나
삼성전자와 전국삼성전자노동조합이 마련한 임금협상 잠정합의안이 노조 투표에서 부결된 가운데, 전삼노가 현 집행부에 대한 불신임 투표를 진행한다.22일 전삼노는 노조 홈페이지를 통해 이달 29일부터 다음 달 6일까지 집행부 불신임 투표를 진행한다고 밝혔다.이번 불신임 투표는 잠정합의안에 대한 불만과 집행부를 향한 부결 책임론 등이 노조 내부에서 확대됨에 따른 것으로 보인다.투표 결과 불신임이 50% 이상일 경우 현 집행부는 총사퇴하고, 비대위를 통해 새로운 집행부가 구성될 예정이다. 반대로
[내일 날씨] 토요일 아침 영하권 추위… 바람에 체감온도↓
토요일인 오는 23일은 전국 내륙을 중심으로 아침 기온이 영하권으로 떨어져 춥겠다. 기상청은 22일 "오는 23일은 아침 기온은 전날보다 2~7도가량 낮아져 0도 내외로 춥겠고, 바람도 약간 강하게 불어 체감온도는 더욱 낮겠다"고 예보했다. 이어 "전국 내륙을 중심으로 얼음이 얼고 서리가 내
이호동 부위원장 "1300억 원 오차, 과도한 비효율적 편성" 지적
경기도교육청 일부 예산이 비효율적으로 편성되고 있고 순세계잉여금이 매년 꾸준히 증가하고 있다는 지적이 제기됐다.경기도의회 교육기획위원회 이호동 부위원장은 22일 도의회 교육기획위원회 회의실에서 진행된 경기도교육청 예산안 심의에서 이같이 지적하고 예산 추계 방식을 근본적으로 개선하라고 촉구했다.이호동 부위원장은 "1차 추가경정예산에서 교원 인건비를 약 200억 원 증액한 뒤 2차 추경에서 약 1100억 원을 감액한 것은 세수 추계의 부정확성을 드러낸 사례"라면서 "결론적으로 1300억 원의 오차가 발생한 셈인
빙그레, 인적분할 통해 지주회사 체제 전환
빙그레가 22일 이사회를 열어 내년 5월에 지주회사와 사업회사로 인적분할하기로 결의했다고 밝혔다.분할 후 지주회사는 신규사업투자, 자회사 관리 등 투자사업 부문에, 사업회사는 분할대상사업 부문에 각각 집중할 예정이다.빙그레는 이로써 부문별 사업 경쟁력과 성장 잠재력을 극대화하고 미래 지속 성장을 위한 기반을 확립하는 한편, 경영 자원을 효율적으로 배분해 시장에서 적정한 기업가치를 평가받고 궁극적으로 기업가치와 주주가치를 제고할 것이라고 설명했다.이번 인적분할을 통해 설립될 ‘빙그레’는 유가공 제품