AI, 가이드라인 무시하게 할 수 있다고?…'비주얼 프롬프트 인젝션' 뭐길래
대규모 언어 모델의 보안을 연구하는 스타트업 라케라의 엔지니어인 다니엘 팀브렐이 AI에 대한 '비주얼 프롬프트 인젝션'이라는 공격에 대해 설명했다.
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
롯데그룹이 그룹 유동성 위기설에 대해 강력 부인했다. 18일 SNS와 온라인 커뮤니티를 중심으로 유동성 위기설이 확산되자, 롯데그룹은 공식 해명과 함께 법적 대응 방침을 밝혔다.확산된 루머 내용은 롯데그룹이 12월 초 모라토리움을 선언할 것이라는 주장이었다. 현재 그룹 전체 차입금이 39조원에 달하는 반면, 2024년 예상 당기순이익은 1조원에 그칠 것이라는 내용이 포함됐다.특히 롯데쇼핑을 제외한 롯데홀딩스, 롯데지주, 롯데케미칼, 호텔롯데의 차입금이 29조 9천억원에 달해 그
금융당국이 금융그룹 IT자회사 직원이 그룹 전산센터에서 각 계열사 정보보호시스템을 관리하는 것이 ‘원격관리’가 아니라는 판단을 내렸다. 20일 금융권 관계자들에 따르면 최근 한 금융회사는 금융그룹 전산센터 내 별도 통제구역에서 각 계열 금융회사 정보보호시스템에 1대1로 직접 접속하는 단말기를 설치하고 해당 단말기와 각 계열사의 내부통신망을 전용회선으로 연결한 환경에서 IT자회사 직원이 해당 단말기로 정보보호시스템 정책 등을 운영하는 것이 가능한지 문의했다.현행 전자금융감독규정은 정보보호시스템 원격관리를
오픈AI가 2018년초 샘 알트먼 오픈AI CEO가 제안한 암호화폐 토큰 출시를 거부했다는 사실이 공개됐다.일론 머스크가 오픈AI을 상대로 제기한 소송 관련 문건에 따르면 일론 머스크는 이 제안이 회사신뢰도를 심각하게 해칠 수 있다고 주장했다.일론 머스크의 변호인단은 14일 미국 캘리포니아 북부 지방법원에 제출한 소장에서 2018년 1월, 알트먼은 오픈AI는 자체 암호화폐를 판매할 수 있는 사기성 ‘ICO’를 제안했다”고 주장했다.변호사들에 따르면 머스크는 이 아이디어에 대해 ‘오픈AI와 I
일론 머스크가 이끄는 거대 언어 모델 개발 스타트업 xAI가 최대 60억달러 규모 투자를 유치한다.이번 투자는 다음 주 초에 마감될 예정이라고 CNBC가 15일 보도했다.이번 투자에서 xAI 회사 가치는 500억달러 규모에 달할 것으로 전해졌다. 이번 자금 조달로 xAI는 멤피스 데이터 센터에 10만개 GPU를 추가로 배치할 계획이다. 소식통들을 인용해 전했다.새로운 칩 중 절반은 현재 H100 GPU보다 진화한 H200이 될 것으로 예상된다. 테슬라 완전 자율 주행(Full Self
일론 머스크 테슬라 최고경영자가 도널드 트럼프 차기 행정부에서 인도계 사업가 비벡 라마스와미와 함께 정부효율부를 이끌게 된다. 정부효율부는 트럼프의 새로운 시도로, 미국 정부의 예산을 효율화해 불필요한 지출을 줄이는 목적으로 신설된 부서다. 일론 머스크는 자신의 회사인 테슬라, 엑스, 스페이스X 운영에 있어 비용을 낮추기 위해 엄청난 인력 감축을 단행한 것으로 유명하다. 그가 자신의 사업에서는 어떻게 효율성을 관리해 왔는
올해 20주년을 맞은 국내 최대 게임 전시회 지스타 2024가 4일간의 대장정을 마무리했다. 지스타 조직위원회는 이달 14일부터 17일까지 부산 벡스코에서 열린 지스타에 4일간 총 21만5000여명이 방문했다고 17일 밝혔다.3359부스가 차려진 올해는 지난해에 이어 역대 최대 규모로 전시회가 개최된 것은 물론, 확대된 규모만큼 다양한 참가사의 신작과 콘텐츠가 공개되며 지스타를 방문한 모두의 기대감을 고조시켰다.올해 지스타에서는 다중접속역할수행게임 일변도를
오세훈 서울시장이 21일 서울 중구 서울도시건축전시관에서 열린 신속통합기획 전시회 개회식에 참석해 전시를 관람하고 있다.
인구 리스크가 심화되고 실제화되면서 지역소멸 문제의 근본적인 해결을 위해서는 인적자원 관리와 연계된 정책이 필요하다.한국직업능력연구원은 11월 21일 ‘KRIVET Issue Brief 291호’를 통해 지역소멸 현황과 지속 가능한 지역인재정책 방향을 제시했다.주요 분석 결과는 다음과 같다.지역소멸과 관련된 가장 근원적인 문제는 지역의 인구가 수도권으로 집중되고 있다는 점이며, 지난 10여년간 각 권역에서 다른 권역으로 이동한
의령군은 최근 법정 제2급 감염병 백일해가 전국적으로 다시 증가하면서 환절기 감염병에 대한 예방접종과 예방수칙 준수를 당부했다.백일해는 전염성이 매우 높은 급성 유행성 호흡기 감염병으로 처음에는 콧물, 재채기, 미열, 경미한 기침 등의 감기와 비슷한 증상이 발생했다가 발작성 기침 등으로 발전할 수 있다.백일해 잠복기는 21일, 1세 미만 영아의 경우 예방접종이 중요하고, 연령에 따른 추가 접종도 꼭 필요하다. 백일해 예방접종은 국가예방접종으로 12세까지 보건소, 위탁의료기관에서 무료 접종이 가능하며 성인도 주기적 추
군위군은 지난 21일 삼국유사교육문화회관에서 김진열 군위군수를 비롯한 초청인사, 공무원, 주민, 관련 단체 등 500여 명이 참석한 가운데 대구시 군부대 군위군 이전을 기원하는 군민 화합 콘서트를 개최했다.이날 행사는 지난 7월 14일 방영된 KBS 전국 노래자랑 군위편을 빛낸 본선진출 12팀이 무대를 준비했으며 행사 내내 공연장 모든 인원이 한마음 한뜻으로 참가자들의 노래를 같이 부르고 즐기며 대구시 군부대 군위군 이전에 대한 간절한 마음을 모았다.참가자 한명 한명 소개될 때마다 관객들은 지난 전국 노래자랑의
최근 한국보건사회연구원과 교육부의 조사 결과에 따르면, 대한민국의 19~34세 청년 중 5%인 54만 명은 고립·은둔 상태에 있다. 그 이유는 취업난,
주요키워드
인기기사
정하용 의원, 코리아경기도주식회사 공공성 강조
경기도의회 경제노동위원회 정하용 의원은 15일 2024 행정사무감사 종합감사에서 “올해부터 행정사무감사를 받게 된 코리아경기도주식회사는 앞으로 공공기관으로서 회사를 운영하도록 노력해야 할 것”이라고 밝혔다. 정하용 의원은 “코리아경기도주식회사의 업무추진비 사용내역을 보니 낮 시간에 화성에서 회의를 하고 나서 밤에는 서울에서 업무추진비를 사용한다던가, 밤 11시가 넘어서 계산하는 등 도덕적 해이가 너무 심각했다”라며 “관용차로 출퇴근이 불가능한데도 정관에 이 내용을 집어넣어 임원 중 일부가 출
서울대병원, 신생 난치성 뇌전증 지속발작(NORSE) 최적 면역치료법 제시
서울대병원 국가전략기술 특화연구소·신경과 장윤혁 교수. 서울대병원 연구팀은 건강하던 사람에게 갑작스럽게 발생하는 의식불명과 뇌전증 발작을 일으키는 신생 난치성 뇌전증 지속발작에 대해 최적 면역치료법의 과학적 근거를 제시했다
[오늘의 운세] 2024년 11월 17일 일요일 일월선사 오늘의 띠별운세
2024년 11월 17일 일요일 띠별운세▶쥐띠의 2024년 11월 17일 오늘의 운세36년 복덕이 따르니 성급하지 말고 착실히 추진하면 성사.48년 게으르면 실패요 부지런하면 복록이 증가해 기쁨이.60년 귀인 협조를 받으며 처신하면 매매 계약 등
김천서 화물차 충돌사고 후 인도 돌진…1명 사망 6명 중경상
김천에서 대형 화물차가 승용차와 충돌 후 인도를 덮쳐 1명이 숨지고 6명이 부상을 입는 사고가 발생했다.지난 16일 오전 9시 1분께 김천시 신음동 시청 앞 사거리에서 투싼 승용차와 15t 윙바디 화물차가 충돌해 화물차가 인도를 덮치고 승용차는 인근을 주행하던 베르나 승용차와 부딪히는
2명이 새끼손가락 한마디를 잘렸다면, 이것은 중대한 재해가 아닌가
사람들이 삼성전자를 '5만 전자'라고 부른다. 필자에게 이 '오만'은 "태도나 행동이 거만하고 남을 업신여긴다."는 뜻의 '오만'으로 들린다. 다른 말은 할 것도 없이...
최신기사
새마을금고, 사랑의 김장나눔 봉사활동 전개
새마을금고중앙회가 서울 강남구 소재 일원에코센터에서 ‘사랑의 김장나눔 봉사활동’을 통해 전국 저소득 배려계층에 김장 김치를 지원했다고 22일 밝혔다.‘사랑의 김장나눔 봉사활동’은 새마을금고중앙회 임직원이 김장 김치를 직접 담가 배려계층에게 전달하는 봉사활동이며 대한적십자사와 협업을 통해 진행되었다. 이날 봉사활동에는 김인 새마을금고중앙회장과 권영규 대한적십자사 서울지사 회장을 비롯하여 새마을금고중앙회 임직원 80명과 대한적십자사 봉사단 20명 등 총 100명이 참여하였다.이번 봉사활동과 기부를 통해 전
기다려진다, 순백의 겨울왕국 영양 자작나무숲!!
영양군에서도 깊은 산골, 수비면 죽파리에 가면 하얗게 뻗은 나무를 알록달록 물들였던 단풍이 지고 눈이 내리면 온통 하얗게 물든 순백세상을 ‘영양 자작나무숲’에서 만날 수 있다.사시사철 다른 모습을 품고 있는 영양 자작나무숲은 겨울이면 눈과 어우러져 숲길을 걷다보면 겨울왕국에 온 듯한 착각을 불러일으킨다.사람들에게 입소문을 타며 관광객들이 찾기 시작했고 찾는 이들의 편의를 위해 진입도로 정비, 주차장 개설 등을 추진하고 있으며 친환경 전기차를 운영해 숲으로 향하는 접근성을 높였다.숲 사잇길은 완만한 경사로 산책을 하며
김동섭 석유공사 사장, 2024 하반기 대한민국 봉사 대상 수상
한국석유공사 김동섭 사장이 지난 19일 한국유엔봉사단으로부터 ‘2024 하반기 대한민국 봉사 대상’을 수상했다.1971년 설립된 한국유엔봉사단은 UN의 평화·개발·인권 등 핵심가치를 실천하고, 다양한 사회공익사업을 전개하고 있는 사회봉사 단체로 우리 사회에서 나눔과 봉사를 헌신적으로 실천하고 있는 봉사자들에게 매년 이 대한민국 봉사 대상을 수여하고 있다.김동섭 사장은 2021년 6월 석유공사 사장 부임 이후 기업 슬로건을 ‘Better Energy for Us & Earth’로 선정하고 공사의 경
김제시, 25일 ~ 12월 9일까지 대학생 생활안정비 지원사업 대상자 모집
전북특자도 김제시는 지역내 대학생들의 생계‧주거비 부담을 완화하고 경제적 자립을 지원하기 위해 추진 중인 1인 가구 대상 ‘대학생 생활안정비 지원사업’ 신청자를 모집한다고 밝혔다.
이번 사업의 신청 접수는 오는 25일부터 12월 9일까지 진행된다. 시는 접수된 신청서를 바탕으로 적격 심사를 거쳐 대상자를 선발할 예정이다.
지원 대상은 공고일인 지난 18
KB국민은행, 경찰청과 시상식 개최…보이스피싱 범죄 근절문화 확산
# 1. 62세 자영업자 A씨는 구직 활동 중 지원한 아르바이트가 보이스피싱 현금 수거책 업무와 유사한 것 같다며 112에 신고했다. 출동 경찰관에게 여러 차례 접선 장소를 적극 협조해 2차 수거책 2명을 검거와 피해금 3000만원을 회수하는데 기여했다.# 2. 45세 회사원 B