AI, 가이드라인 무시하게 할 수 있다고?…'비주얼 프롬프트 인젝션' 뭐길래
대규모 언어 모델의 보안을 연구하는 스타트업 라케라의 엔지니어인 다니엘 팀브렐이 AI에 대한 '비주얼 프롬프트 인젝션'이라는 공격에 대해 설명했다.
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
도지코인 투자자들이 테슬라 CEO 일론 머스크를 상대로 한 집단 소송을 중단했다.이들은 테슬라 CEO가 2021년 도지코인 가격을 조작했다며 소송을 제기했다. 이 소송은 8월 29일 기각됐지만 지난달 머스크와 투자자들은 항소했다. 이런 가운데 14일 밤 맨해튼 연방법원에 항소와 양측이 요구한 것을 기각하기로 합의하는 조항이 제출됐다고 로이터통신은 전했다.사실상 당사자들이 분쟁을 끝내려는 행보로 풀이된다.일론 머스크를 상대로한 소송은 2021년 여름 도지코인 가격이 사상 최고치일 때 제기됐다. 투
롯데그룹이 그룹 유동성 위기설에 대해 강력 부인했다. 18일 SNS와 온라인 커뮤니티를 중심으로 유동성 위기설이 확산되자, 롯데그룹은 공식 해명과 함께 법적 대응 방침을 밝혔다.확산된 루머 내용은 롯데그룹이 12월 초 모라토리움을 선언할 것이라는 주장이었다. 현재 그룹 전체 차입금이 39조원에 달하는 반면, 2024년 예상 당기순이익은 1조원에 그칠 것이라는 내용이 포함됐다.특히 롯데쇼핑을 제외한 롯데홀딩스, 롯데지주, 롯데케미칼, 호텔롯데의 차입금이 29조 9천억원에 달해 그
금융당국이 금융그룹 IT자회사 직원이 그룹 전산센터에서 각 계열사 정보보호시스템을 관리하는 것이 ‘원격관리’가 아니라는 판단을 내렸다. 20일 금융권 관계자들에 따르면 최근 한 금융회사는 금융그룹 전산센터 내 별도 통제구역에서 각 계열 금융회사 정보보호시스템에 1대1로 직접 접속하는 단말기를 설치하고 해당 단말기와 각 계열사의 내부통신망을 전용회선으로 연결한 환경에서 IT자회사 직원이 해당 단말기로 정보보호시스템 정책 등을 운영하는 것이 가능한지 문의했다.현행 전자금융감독규정은 정보보호시스템 원격관리를
오픈AI가 2018년초 샘 알트먼 오픈AI CEO가 제안한 암호화폐 토큰 출시를 거부했다는 사실이 공개됐다.일론 머스크가 오픈AI을 상대로 제기한 소송 관련 문건에 따르면 일론 머스크는 이 제안이 회사신뢰도를 심각하게 해칠 수 있다고 주장했다.일론 머스크의 변호인단은 14일 미국 캘리포니아 북부 지방법원에 제출한 소장에서 2018년 1월, 알트먼은 오픈AI는 자체 암호화폐를 판매할 수 있는 사기성 ‘ICO’를 제안했다”고 주장했다.변호사들에 따르면 머스크는 이 아이디어에 대해 ‘오픈AI와 I
일론 머스크가 이끄는 거대 언어 모델 개발 스타트업 xAI가 최대 60억달러 규모 투자를 유치한다.이번 투자는 다음 주 초에 마감될 예정이라고 CNBC가 15일 보도했다.이번 투자에서 xAI 회사 가치는 500억달러 규모에 달할 것으로 전해졌다. 이번 자금 조달로 xAI는 멤피스 데이터 센터에 10만개 GPU를 추가로 배치할 계획이다. 소식통들을 인용해 전했다.새로운 칩 중 절반은 현재 H100 GPU보다 진화한 H200이 될 것으로 예상된다. 테슬라 완전 자율 주행(Full Self
글로벌 네트워크 인프라 솔루션 기업 애지노드가 국내 파트너 기업들과 리브랜딩 투어 ‘별이 빛나는 하늘’ 행사를 개최했다.15일 서울시 송파구 시그니엘 호텔에서 열린 이 행사는 애지노드가 넥상스 그룹 산하에서 독립해 브랜드를 변경한 것을 알리고 파트너십을 강화하기 위해 개최되었다. 애지노드는 핵심 파트너사들을 초청해 애지노드라는 새로운 브랜드에 대해 알리고 앞으로 한국 및 아시아 태평양 시장 비전과 사업 방향을 공유했다.현재 애지노드의 핵심 사업 분야는 △ 400G~1.
LG이노텍이 2030년까지 ROE 15% 달성과 육성사업 매출 8조원 이상 확대를 골자로 하는 밸류업 계획을 22일 발표했다. 이번 계획은 수익성 강화와 중장기 육성사업 성장을 통한 기업가치 제고가 핵심이다. 기존 사업의 수익구조 개선과 함께 미래 성장동력 확보를 통해 지속가능한 성장 기반을 구축한다는 구상이다.LG이노텍은 2030년까지 ROE를 15% 이상으로 끌어올린다는 목표를 내걸었다. 지난해 12%를 기록한 ROE를 현금 창출력 증대와 자산 운영 효율화를 통해 개선한다는 전략이다.
국세청 본청에서 근무하는 과장급 이상자 중 올 하반기에 현 직무 1년 이상으로 자리를 이동할 인원이 총 23명인 것으로 나타났다.통상 해당 직무 1년 근무 시 전보됨을 가정한 수치이다. 일반임기제와 개방형직위, 개방직은 제외했다. 11월 현재 고시 출신이 17명으로 최다이고, 그 다음으로 세무대 5명, 7급공채 1명 순이다.행시는 김범구 기획재정담당관과 손채령 상호합의담당관이 2022년 12월
현대건설이 한남4구역에서 조망을 극대화한 설계를 선보이며 조합원 전 세대에게 100% 프리미엄 조망을 약속했다.현대건설은 조합원 전 세대 프리미엄 조망 실현을 위해 AI 첨단 기술을 활용하며 모든 조합원이 한강, 남산, 용산공원의 경관을 누릴 수 있도록 했다.이 과정에서 주동 수를 기존 51개에서 29개로 대폭 축소하며 동간 거리를 넓히고 개방감을 확보했다. 주동을 45도 회전한 사선 배치를 적용해 각 세대가 한강과 남산, 용산공원의 풍경을 최적으로 감상할 수 있도록 했다. 좁고 답답한 기존의 공간 구성에서
GC녹십자는 21일 카나프테라퓨틱스와 이중항체 약물접합체 공동개발을 위한 계약을 체결했다고 22일 밝혔다.이번 계약은 옵션 권리가 포함된 공동개발 계약으로, 카나프가 개발 중인 이중항체 ADC 후보물질이 양사가 합의한 요건에 충족할 시 GC녹십자가 옵션 행사를 통해 공동개발에 참여하는 형태이다. 양사는 타겟 및 옵션 요건, 전체 계약 규모 등의 구체적인 계약 내용은 밝히지 않았다. 양사가 계약을 체결한 이중항체 ADC는 다양한 고형암에 발현하는 타겟을 대상으로 하는 개발 물질로 폭넓
정훈 학교안전공제중앙회 이사장이 21일 그랜드하얏트서울 호텔에서 열린 ‘제100회 전국시도교육감협의회 총회’에서
청년 세대의 ‘연애 불황’이 심화하고 있다. 이는 한국뿐 아니라 세계적인 큰 이슈로 떠오르고 있다. 미국에서도 ‘데이트 불황’이라는 단어까지 생겨날 정도다.역설적이게도 결혼 시장은 호황을 누리고 있다. 특히 ‘결혼정보업체’다. 소비자들이 가성비를 넘어 시간을 절약해 주거나 투입된 시간 대비 높은 효율을 제공하는 ‘시성비’에 대한 관심이 높아지면서다.조건이 맞고 신원 보장이 확실한 상대를 만날 기회가 흔치 않은데 결혼정보회사에서는 한정된 시간 안에 효율적인 만남이 가
서귀포시는 미세먼지 저감대책의 일환으로 현재까지 관내 도로 주행 운행차 배출가스 비디오 촬영 단속을 실시했다고 22일 밝혔다.올해 배출가스 비디오 촬영 단속은 25회3,293대, 찾아가는 무료 점검은 17회268대 실시하였으며, 운행 중 매연 과다발생 신고에 따른 151대에 대한 배출가스의 점검을 유도하는 안내문을 발송했다.단속 대상은 서귀포시 관내에서 운행하는 화석연료를 사용하는 모든 자동차으로, △매연, △일산화탄소, △탄화수소, △공기과잉율 등 항목에 대해 대기환경보전법에 따른 운행차
주요키워드
인기기사
최재민 도의원 "사립유치원 학부모 부담금 지원... 투명하게 해야"
강원특별자치도의회 최재민 도의원은 15일, 행정사무감사에서 ‘사립유치원 학부모 부담금 지원’ 사업이 지역 간, 유치원 유형 간, 원아 간 차별 없이 투명하게 지원되어야 함을 강조했다.교육위원회 최재민 의원은 “교육청에서 학부모 부담 경감 및 교육비 지원으로 2022년에 58억 8,697만원, 2023년에 127억 5,903만원, 2024년에 105억 7,701만원과 추가적으로 22억 4,078만원, 총 128억 1,779만원을 지원할 계획이라 했는데 해당 내용이 맞는지, 업무
'야탑역 살인예고' 글 작성한 20대 구속영장 기각
온라인 익명 커뮤니티에 '야탑역 살인예고 글'을 작성한 혐의를 받는 20대의 구속영장이 기각됐다. 수원지법 송백현 영장전담 부장판사는 협박 및 위계에 의한 공무집행방해 혐의를 받는 20대 A씨에 대한 구속 전 피의자 심문을 진행한 뒤 구속영장을 기각했다고 15일 밝혔다
일론 머스크, 정부효율부 맡은 이유 있었네…그간 행보 돌아보니
일론 머스크 테슬라 최고경영자가 도널드 트럼프 차기 행정부에서 인도계 사업가 비벡 라마스와미와 함께 정부효율부를 이끌게 된다. 정부효율부는 트럼프의 새로운 시도로, 미국 정부의 예산을 효율화해 불필요한 지출을 줄이는 목적으로 신설된 부서다. 일론 머스크는 자신의 회사인 테슬라, 엑스, 스페이스X 운영에 있어 비용을 낮추기 위해 엄청난 인력 감축을 단행한 것으로 유명하다. 그가 자신의 사업에서는 어떻게 효율성을 관리해 왔는
호반건설, 아파트 주차장 매뉴얼북 KCUD 인증 획득
호반건설이 한국컬러유니버설디자인협회로부터 아파트 주차장 매뉴얼북에 대한 인증을 획득했다고 18일 밝혔다. 이 인증은 시각, 제품, 환경 등 다양한 분야에서 컬러유니버설디자인의 우수성을 평가하여 부여되며, 시각적으로 명확하고 안전한 정보를 제공하는 디자인에 수여된다.인증을 받은 호반건설의 브랜드 아파트 지하 주차장 색채 가이드 매뉴얼 북은 삼화페인트와 공동 연구하여 개발되었다. 이는 색약자를 포함한 모든 사용자가 지하 주차장에서 색상과 대비를 최적화해 시각 정보를 쉽게 인식할 수 있도록 설계된 것이 특징이다.KCU
서울대병원, 신생 난치성 뇌전증 지속발작(NORSE) 최적 면역치료법 제시
서울대병원 국가전략기술 특화연구소·신경과 장윤혁 교수. 서울대병원 연구팀은 건강하던 사람에게 갑작스럽게 발생하는 의식불명과 뇌전증 발작을 일으키는 신생 난치성 뇌전증 지속발작에 대해 최적 면역치료법의 과학적 근거를 제시했다
최신기사
2024 하반기 국세청 본청 과장급 이상 중 보직변경 예상 23명
국세청 본청에서 근무하는 과장급 이상자 중 올 하반기에 현 직무 1년 이상으로 자리를 이동할 인원이 총 23명인 것으로 나타났다.통상 해당 직무 1년 근무 시 전보됨을 가정한 수치이다. 일반임기제와 개방형직위, 개방직은 제외했다. 11월 현재 고시 출신이 17명으로 최다이고, 그 다음으로 세무대 5명, 7급공채 1명 순이다.행시는 김범구 기획재정담당관과 손채령 상호합의담당관이 2022년 12월
'월 1만원 임대료' 화순군 청년·신혼부부 임대주택 지원 조례, 행안부 우수 적극조례 선정
'화순군 청년 및 신혼부부 만원 임대주택 지원 조례'가 행정안전부 주관 우수 적극조례 공모전에서 장려상을 수상했다. 22일 군에 따르면 행정안전부는 지역적 특수성을 반영하고,...
무주군, 2024년 스포츠 강좌이용권 스키체험 유청소년 모집
전북특별자치도 무주군이 2024년 스포츠강좌이용권 단기 스포츠 사업의 일환으로 스키체험 강좌를 진행한다.
오는 12월 14일과 21일, 22일 3일간 무주덕유산리조트에서 진행될 스키체험 강좌는 읍면·도서 지역 등 경제, 문화, 지리적 취약계층의 유·청소년들에게 체험의 기회를 제공한다는 취지에서 추진하는 것으로,
모집 인원은 「국민기초생활 보장법」에 따른
엠플러스, 배터리 장비업계 ESG 경영 선도기업 선언
2차전지 제조 솔루션 기업 엠플러스가 지속가능성 강화를 통한 배터리 장비업계 ESG 경영 선도기업 도약을 선언했다고 22일 밝혔다.이번 ESG 경영 강화는 고객사와 투자자들의 요구에 부응하는 동시에 글로벌 경쟁력을 높이기 위한 조치다.엠플러스는 올해 초 ESG 관련 정책을 심의·의결하는 ESG 위원회를 중심으로 전략 수립을 담당하는 ESG 기획실, 실무를 담당하는 ESG 협의회 등 전담조직을 구성했다. 이를 통해 환경·사회 이슈와 함께 공정 공시, 기업가치 제고, 리스크 관리 등 거버넌스 관련 업무를 체
정읍시, 수성동 일대 태양광 가로등 23본 설치…'안심가로등 플러스 지원' 선정
전북자치도 정읍시가 연내 수성동 일대에 태양광 가로등 23본을 설치한다. 정읍시는 한국수력원자력 후원으로 밀알복지재단이 추진하는 '안심가로등 플러스 지원' 공모사업에 선정돼 ...