AI, 가이드라인 무시하게 할 수 있다고?…'비주얼 프롬프트 인젝션' 뭐길래
대규모 언어 모델의 보안을 연구하는 스타트업 라케라의 엔지니어인 다니엘 팀브렐이 AI에 대한 '비주얼 프롬프트 인젝션'이라는 공격에 대해 설명했다.
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
일론 머스크 테슬라 최고경영자가 도널드 트럼프 차기 행정부에서 인도계 사업가 비벡 라마스와미와 함께 정부효율부를 이끌게 된다. 정부효율부는 트럼프의 새로운 시도로, 미국 정부의 예산을 효율화해 불필요한 지출을 줄이는 목적으로 신설된 부서다. 일론 머스크는 자신의 회사인 테슬라, 엑스, 스페이스X 운영에 있어 비용을 낮추기 위해 엄청난 인력 감축을 단행한 것으로 유명하다. 그가 자신의 사업에서는 어떻게 효율성을 관리해 왔는
도지코인 투자자들이 테슬라 CEO 일론 머스크를 상대로 한 집단 소송을 중단했다.이들은 테슬라 CEO가 2021년 도지코인 가격을 조작했다며 소송을 제기했다. 이 소송은 8월 29일 기각됐지만 지난달 머스크와 투자자들은 항소했다. 이런 가운데 14일 밤 맨해튼 연방법원에 항소와 양측이 요구한 것을 기각하기로 합의하는 조항이 제출됐다고 로이터통신은 전했다.사실상 당사자들이 분쟁을 끝내려는 행보로 풀이된다.일론 머스크를 상대로한 소송은 2021년 여름 도지코인 가격이 사상 최고치일 때 제기됐다. 투
올해 20주년을 맞은 국내 최대 게임 전시회 지스타 2024가 4일간의 대장정을 마무리했다. 지스타 조직위원회는 이달 14일부터 17일까지 부산 벡스코에서 열린 지스타에 4일간 총 21만5000여명이 방문했다고 17일 밝혔다.3359부스가 차려진 올해는 지난해에 이어 역대 최대 규모로 전시회가 개최된 것은 물론, 확대된 규모만큼 다양한 참가사의 신작과 콘텐츠가 공개되며 지스타를 방문한 모두의 기대감을 고조시켰다.올해 지스타에서는 다중접속역할수행게임 일변도를
도널드 트럼프 미국 대통령 당선인이 '정부효율부' 수장으로 일론 머스크 테슬라 최고경영자를 지명한 가운데, DOGE가 2기 트럼프 행정부에서 어떤 역할을 수행하게 될지에 대한 관심이 뜨겁다.14일 블룸버그에 따르면 DOGE는 머스크가 대대적으로 홍보해 온 암호화폐 '도지코인'에서 따온 이름으로, 연방 정부의 공식 부처는 아닐 것으로 전망된다. 정식 연방 부처를 설립하기 위해선 의회에서 관련 법이 통과돼야 하므로
롯데그룹이 그룹 유동성 위기설에 대해 강력 부인했다. 18일 SNS와 온라인 커뮤니티를 중심으로 유동성 위기설이 확산되자, 롯데그룹은 공식 해명과 함께 법적 대응 방침을 밝혔다.확산된 루머 내용은 롯데그룹이 12월 초 모라토리움을 선언할 것이라는 주장이었다. 현재 그룹 전체 차입금이 39조원에 달하는 반면, 2024년 예상 당기순이익은 1조원에 그칠 것이라는 내용이 포함됐다.특히 롯데쇼핑을 제외한 롯데홀딩스, 롯데지주, 롯데케미칼, 호텔롯데의 차입금이 29조 9천억원에 달해 그
오픈AI가 2018년초 샘 알트먼 오픈AI CEO가 제안한 암호화폐 토큰 출시를 거부했다는 사실이 공개됐다.일론 머스크가 오픈AI을 상대로 제기한 소송 관련 문건에 따르면 일론 머스크는 이 제안이 회사신뢰도를 심각하게 해칠 수 있다고 주장했다.일론 머스크의 변호인단은 14일 미국 캘리포니아 북부 지방법원에 제출한 소장에서 2018년 1월, 알트먼은 오픈AI는 자체 암호화폐를 판매할 수 있는 사기성 ‘ICO’를 제안했다”고 주장했다.변호사들에 따르면 머스크는 이 아이디어에 대해 ‘오픈AI와 I
SK하이닉스 SSD의 국내 유통사 도우정보는 SK하이닉스의 소비자용 포터블 SSD ‘비틀 X31’ 라인업에 2TB 용량의 제품을 추가해 출시한다고 22일 밝혔다. 이번 ‘비틀 X31’에는 기존 샴페인 골드 색상에 새로운 스페이스 그레이 색상이 추가돼 선택의 폭을 넓혔다.지난해 처음 출시된 ‘비틀 X31’은 SK하이닉스의 첫 외장형 SSD다. 한 손에 쏙 들어오는 크기에 이름과 같이 딱정벌레를 연상시키는 감각적인 디자인은 물론 53g의 초경량, 74x4
내년부터 농업수입안정보험이 콩, 가을감자, 고구마, 옥수수, 보리, 마늘, 양파, 양배추, 포도 등 9개 품목에서 본격적으로 도입된다. 이와 함께 벼, 가을배추, 가을무, 고랭지감자, 봄감자, 단감, 복숭아, 감귤는 시범사업으로 진행된다. 농업수입안정보험이 처음 도입되므로 재해보험과 무엇이 다른지, 또 어떤 보험이 농가에 유리한 것인지 등 이해하기 쉽게 일문일답을 게재한다.▶농작물재해보험과 농업수입안정보험 둘 다 가입할 수 있나요?농업수입안정보험은 재해로 인한 수확량 감소로 소득이
한국자유총연맹은 11월 22일, 서울 남산 자유센터에서 79주년을 맞은 신의주학생의거 기념식을 개최했다.한국자유총연맹과 신의주학생의거기념회가 공동으로 준비한 이번 기념식에는 각계 관계자 300여 명이 참석해 우리의 기억 속에서 흐려지고 있는 신의주학생의거의 역사적 의미와 가치를 재조명했다.이를 통해 신의주학생의거의 성격과 의의를 되돌아보고, 미래세대와 자유민주주의의 소중함과 올바른 가치를 공감하는 자리가 되었다.신의주학생의거 기념식은 세계 최초로 소련 공산당의 폭거에 항거한 신의주학생의거의 자
효성은 22일 서울 마포 효성 본사에서 효성중공업, 효성화학이 대한전선과 ‘전력분야 기술 협력 및 신사업 모델 발굴’을 위한 업무협약을 체결했다고 밝혔다.이날 협약식에는 우태희 효성중공업 대표이사, 이건종 효성화학 대표이사, 송종민 대한전선 대표이사 등이 참석했다.효성중공업은 대한전선과 AI기반 전력설비 자산관리시스템 고도화를 공동 추진한다.효성중공업은 AI와 빅데이터 기술을 접목해 자체 개발한 플랫폼 기반 전력설비 자산관리 시스템과 대한전선의 실시간 전력케이블 진단 · 모
춘천 성도교회가 지난 21일, 지역 사회에 따뜻한 사랑을 전하기 위해 김장김치 후원을 진행했다. 이번 후원은 성도교회의 교인들이 한마음으로 참여하여, 어려운 이웃들에게 건강하고 맛있는 김장김치를 전달하는 의미 있는 행사로 진행되었다.교회는 매년 김장철마다 “이웃사랑 김장 나누기” 행사를 통해, 지역 내 복지시설과 저소득 가정을 대상으로 김치와 다양한 식료품을 지원하고 있다.성도교회 이정화 당임목사는 "우리 교회는 항상 지역사회와의 나눔을 중요하게 생각하며, 작은 손길들이 모여 큰 사랑을 실천할 수 있다는 믿음으로 이번 후원활동을 준
우원식 국회의장은 22일 국회의장 집무실에서 마르코스 오렐라나 유엔 인권이사회 유해물질 특별보고관을 만나 후쿠시마 오염수 방류 문제와 유엔플라스틱협약에 대한 국제사회의 역할을 논의했다. 오렐라나 보고관은 부산에서 열리는 제5차 유엔플라스틱협약 정부 간 협상위원회 참석차 방한했다.우 의장은 “지난해 제네바에서 특별보고관을 만나 후쿠시마 오염수 방류 문제를 논의했던 기억이 생생하다”며 “원전 오염수 방류는 장기간 환경영향평가 없이 강행되고 있으며, 이는 단순히 한 국가의 문제가 아니라 인류 보편적 인권인 환경권의 문
주요키워드
인기기사
[오늘의 운세] 2024년 11월 17일 일요일 일월선사 오늘의 띠별운세
2024년 11월 17일 일요일 띠별운세▶쥐띠의 2024년 11월 17일 오늘의 운세36년 복덕이 따르니 성급하지 말고 착실히 추진하면 성사.48년 게으르면 실패요 부지런하면 복록이 증가해 기쁨이.60년 귀인 협조를 받으며 처신하면 매매 계약 등
GS25, 식약처와 '나트륨 저감 간편식' 2종 선보여
GS25가 나트륨 함량을 줄인 간편식 출시로 ‘건강한 편의점’으로 거듭난다. GS25는 식품의약품안전처에서 추진하는 ‘나트륨·당류 저감제품 개발 지원사업’의 일환으로 나트륨 함량을 낮춘 간편식 2종을 출시한다고 18일 밝혔다.이번에 선보일 제품은 식약처 평균값 대비 나트륨을 20% 줄인 ‘아삭오이크림치즈샌드위치’와 나트륨을 10% 줄인 ‘스리라차마요비프버거’다.GS25는 2021년부터 식약처의 해당 사업에 참여해 나트륨 섭취를 줄이고, 건강한 식습관을 촉진하는 다양한 제품을 선보여왔다. 첫 번째 나트륨 저
서울대병원, 신생 난치성 뇌전증 지속발작(NORSE) 최적 면역치료법 제시
서울대병원 국가전략기술 특화연구소·신경과 장윤혁 교수. 서울대병원 연구팀은 건강하던 사람에게 갑작스럽게 발생하는 의식불명과 뇌전증 발작을 일으키는 신생 난치성 뇌전증 지속발작에 대해 최적 면역치료법의 과학적 근거를 제시했다
풀무원, 대전광역시와 푸드테크 혁신기술 산업 육성 위한 업무협약 체결
풀무원은 대전광역시와 식품 산업 혁신을 통한 지역경제 활성화와 국내 푸드테크 기술의 글로벌 경쟁력 강화를 위해 '푸드테크 혁신기술 산업 육성을 위한 상호협력 업무협약'을 체결했다고 지난 19일 밝혔다.협약식은 18일 대전광역시청에서 대전광역시 장호종 경제과학부시장, 풀무원기술원 이상윤 원장, 풀무원기술원 식품안전실 김상구 실장 등 주요 관계자들이 참석한 가운데 진행됐다. 협약식에서 풀무원과 대전광역시는 첨단 푸드테크 분야의 새로운 기술 개발과 지역 내 기업과의 상생협
2명이 새끼손가락 한마디를 잘렸다면, 이것은 중대한 재해가 아닌가
사람들이 삼성전자를 '5만 전자'라고 부른다. 필자에게 이 '오만'은 "태도나 행동이 거만하고 남을 업신여긴다."는 뜻의 '오만'으로 들린다. 다른 말은 할 것도 없이...
최신기사
인천 중소제조업체 "내국인 못구해 외국인 노동자 고용"
인천지역 중소제조업체는 내국인 근로자를 구하지 못해 외국인 근로자를 고용하고 있으며, 외국인 근로자를 추가로 고용할 의사를 가지고 있는 것으로 조사됐다.중소기업중앙회 인천지역본부는 인천지역 중소제조업체 102개사를 대상으로 실시한 '인천지역 외국인 근로자 고용애로 실태조사' 결과를 22일 발표했다.조사 결과에 따르면 외국인 근로자를 고용하는 이유로 82.3%가 '내국인 구인 애로'를 꼽았고, 10.8%는 '인건비 절감' , 4.9%는 '잔업 또는 휴일근로 가능'을 들었다. 또, 비숙
“단단한 먹감나무를 아시나요”…장수군 번암면 제1회 먹감나무 축제
전북특별자치도 장수군이 21일 번암면 금천마을에서 ‘제1회 먹감나무 축제’를 성황리에 개최했다. ‘먹감나무 축제’는 번암면 금천마을의 특산물인 감을 주제로 다양한 체험과 즐길...
김제시, 25일 ~ 12월 9일까지 대학생 생활안정비 지원사업 대상자 모집
전북특자도 김제시는 지역내 대학생들의 생계‧주거비 부담을 완화하고 경제적 자립을 지원하기 위해 추진 중인 1인 가구 대상 ‘대학생 생활안정비 지원사업’ 신청자를 모집한다고 밝혔다.
이번 사업의 신청 접수는 오는 25일부터 12월 9일까지 진행된다. 시는 접수된 신청서를 바탕으로 적격 심사를 거쳐 대상자를 선발할 예정이다.
지원 대상은 공고일인 지난 18
새마을금고, 사랑의 김장나눔 봉사활동 전개
새마을금고중앙회가 서울 강남구 소재 일원에코센터에서 ‘사랑의 김장나눔 봉사활동’을 통해 전국 저소득 배려계층에 김장 김치를 지원했다고 22일 밝혔다.‘사랑의 김장나눔 봉사활동’은 새마을금고중앙회 임직원이 김장 김치를 직접 담가 배려계층에게 전달하는 봉사활동이며 대한적십자사와 협업을 통해 진행되었다. 이날 봉사활동에는 김인 새마을금고중앙회장과 권영규 대한적십자사 서울지사 회장을 비롯하여 새마을금고중앙회 임직원 80명과 대한적십자사 봉사단 20명 등 총 100명이 참여하였다.이번 봉사활동과 기부를 통해 전