AI, 가이드라인 무시하게 할 수 있다고?…'비주얼 프롬프트 인젝션' 뭐길래
대규모 언어 모델의 보안을 연구하는 스타트업 라케라의 엔지니어인 다니엘 팀브렐이 AI에 대한 '비주얼 프롬프트 인젝션'이라는 공격에 대해 설명했다.
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
14일 온라인 매체 기가진에 따르면 이는 LLM의 취약성을 찌르는 공격 방법 중 하나다.
구체적으로는 교묘하게 만들어진 프롬프트를 사용해 모델이 본래의 지시나 가이드라인을 무시하도록 하고, 의도치 않은 동작을 시키는 것이다.
예를 들어, 모델이 '유해한 내용은 생성하지 않는다'는...
하나은행은 2021년 11월 선보인 ‘퇴직연금 ETF’ 판매잔고가 만 3년만에 1조원을 돌파했다고 밝혔다.퇴직연금 가입자들이 본인의 적립금을 상장지수펀드에 투자할 수 있는 ‘퇴직연금 ETF’는 주식, 채권 등 다양한 자산에 분산 투자가 가능해 리스크를 줄일 수 있다는 장점이 있다.하나은행은 연금자산의 원칙적 관리목표인 장기 수익률 개선을 위해 투자상품을 엄선하고 있다. 시장에서 거래 가능한 800여 종목의 ‘퇴직연금 ETF’ 가운데 투자대상의 중복을 피하고 투자 실효성과 거래량을 기준으로 ‘퇴직
도지코인 투자자들이 테슬라 CEO 일론 머스크를 상대로 한 집단 소송을 중단했다.이들은 테슬라 CEO가 2021년 도지코인 가격을 조작했다며 소송을 제기했다. 이 소송은 8월 29일 기각됐지만 지난달 머스크와 투자자들은 항소했다. 이런 가운데 14일 밤 맨해튼 연방법원에 항소와 양측이 요구한 것을 기각하기로 합의하는 조항이 제출됐다고 로이터통신은 전했다.사실상 당사자들이 분쟁을 끝내려는 행보로 풀이된다.일론 머스크를 상대로한 소송은 2021년 여름 도지코인 가격이 사상 최고치일 때 제기됐다. 투
올해 20주년을 맞은 국내 최대 게임 전시회 지스타 2024가 4일간의 대장정을 마무리했다. 지스타 조직위원회는 이달 14일부터 17일까지 부산 벡스코에서 열린 지스타에 4일간 총 21만5000여명이 방문했다고 17일 밝혔다.3359부스가 차려진 올해는 지난해에 이어 역대 최대 규모로 전시회가 개최된 것은 물론, 확대된 규모만큼 다양한 참가사의 신작과 콘텐츠가 공개되며 지스타를 방문한 모두의 기대감을 고조시켰다.올해 지스타에서는 다중접속역할수행게임 일변도를
오픈AI가 2018년초 샘 알트먼 오픈AI CEO가 제안한 암호화폐 토큰 출시를 거부했다는 사실이 공개됐다.일론 머스크가 오픈AI을 상대로 제기한 소송 관련 문건에 따르면 일론 머스크는 이 제안이 회사신뢰도를 심각하게 해칠 수 있다고 주장했다.일론 머스크의 변호인단은 14일 미국 캘리포니아 북부 지방법원에 제출한 소장에서 2018년 1월, 알트먼은 오픈AI는 자체 암호화폐를 판매할 수 있는 사기성 ‘ICO’를 제안했다”고 주장했다.변호사들에 따르면 머스크는 이 아이디어에 대해 ‘오픈AI와 I
일론 머스크 테슬라 최고경영자가 도널드 트럼프 차기 행정부에서 인도계 사업가 비벡 라마스와미와 함께 정부효율부를 이끌게 된다. 정부효율부는 트럼프의 새로운 시도로, 미국 정부의 예산을 효율화해 불필요한 지출을 줄이는 목적으로 신설된 부서다. 일론 머스크는 자신의 회사인 테슬라, 엑스, 스페이스X 운영에 있어 비용을 낮추기 위해 엄청난 인력 감축을 단행한 것으로 유명하다. 그가 자신의 사업에서는 어떻게 효율성을 관리해 왔는
일론 머스크가 이끄는 거대 언어 모델 개발 스타트업 xAI가 최대 60억달러 규모 투자를 유치한다.이번 투자는 다음 주 초에 마감될 예정이라고 CNBC가 15일 보도했다.이번 투자에서 xAI 회사 가치는 500억달러 규모에 달할 것으로 전해졌다. 이번 자금 조달로 xAI는 멤피스 데이터 센터에 10만개 GPU를 추가로 배치할 계획이다. 소식통들을 인용해 전했다.새로운 칩 중 절반은 현재 H100 GPU보다 진화한 H200이 될 것으로 예상된다. 테슬라 완전 자율 주행(Full Self
경북도의회는 '경북대구행정통합특별위원회'를 구성하고 위원장에 배진석, 부위원장에 윤철남 의원을 각각 선출했다고 21일 밝혔다.특별위원회는 선거법 위반으로 지역구 도의원이 없는 성주를 제외한 도내 21개 시군별 지역구 의원 1명씩 총 21명으로 구성됐..
빙그레는 22일 이사회를 열어 내년 5월에 지주회사와 사업회사로 인적분할하기로 결의했다고 밝혔다.분할 후 지주회사는 신규사업투자와 자회사 관리 등 투자사업부문, 사업회사는 분할대상사업부문에 집중해 사업부문별 사업경쟁력과 성장잠재력을 극대화한다는 방침이다. 또 미래 지속성장을 위한 기반을 확립하는 한편, 경영자원을 효율적으로 배분해 시장에서 적정한 기업가치를 평가받고 궁극적으로 기업가치와 주주가치를 높일 계획이다.이번 인적분할로 설립될 ‘빙그레’는 유가공 제품 등 음·식료품의 생산과 판매를 독립적으로 운영하는 경영 체제를 구축
SK하이닉스 SSD 국내 유통사 도우정보는 SK하이닉스의 소비자용 포터블 SSD ‘비틀 X31’ 라인업에 2TB 용량 제품을 추가해 출시한다고 밝혔다. ‘비틀 X31’에는 기존 샴페인 골드 색상에 새로운 스페이스 그레이 색상도 추가됐다.지난해 첫 출시된 ‘비틀 X31’은 SK하이닉스의 첫 외장형 SSD로 한 손에 쏙 들어오는 크기와 이름과 같이 딱정벌레를 연상시키는 감각적인 디자인은 물론 53g의 초경량, 74X46X14.8mm의 소형 사이즈로 휴대에 최적화돼 있다. 또 공학적 설계가 반영된
조병규 우리은행장이 지주 전임 회장이 연루된 부당대출 사건 논란 속에 교체될 전망이다. 22일 금융권에 따르면 우리금융지주 이사회는 이날 오후 서울 중구 본사에서 정례 이사회를 열고 조 행장 연임이 어렵다는 데 뜻을 모은 것으로 알려졌다. 사외이사 7명 전원은 '자회사 대표이사 후보 추천위원회' 멤버로서 우리은행장 후보를 심사하고 선정하는 권한을 갖는다.이사들은 조 행장이 단기간 실적을 끌어올린 점 등은 인정하지만, 전임 회장 부당대출 사건과 관련해 임기 후 교체가 불가피하다는 판
기상청은 중국 북동지방에서 동쪽으로 이동하는 고기압의 영향을 받는 23일 전국이 대체로 맑겠으나, 강원영동과 경상권해안은 구름 많겠다고 예보했다. 제주도는 맑은 가운데 오전에 가끔 구름 많겠다. 기온은 22일보다 3~4도가량 떨어지겠고, 바람도 강하게 불면서 체감온도는 더욱 낮아 쌀쌀하겠다.제주도 아침 최저기온은 7~9도, 낮 최고기온은 12~16도로 예상된다. 바다의 물결은 제주도 앞바다에서 0.5~1.0m로 일겠다. 한편, 일요일인 24일은 중국 산둥반도에 위치한 고기압의 영향을 받으면서 전국이 대체로 맑겠으나 경상권해안과 전남
제주특별자치도의회 각 상임위에서 내년도 예산안을 대폭 삭감했다.제주도의회는 제주도가 제출한 내년도 예산안에 대한 계수조정 결과, 337개 항목에 총 545억8000만원을 삭감한 수정안을 의결했다고 22일 밝혔다.주요 사업별 예산액과 삭감액은 ▲버스 준공영제 보조금 ▲전기차 구입보조금 ▲제주~중국 화물선 취항 ▲화물차 유류세 보조금 ▲영어교육도시 제2진입로 ▲버스업체 유류세 보조금(74억원 중 15억원
지난 17일, 사단법인 도구가 주관하는 '2024년 함께 GREEN 지구' 사업의 일환으로 진행된 기후 위기, 생물 다양성 전시 관람 및 교육에 가수 겸 연기자인 김재중과 세이마이네임이 참여했다.이번 행사는 기후 변화와 생물 다양성 보호의 필요성을 알리기 위해 마련됐으며, 김재중과 세이마이네임이 참여해 현재 부산 F1963 석천홀에서 열리고 있는 '영국 국립자연사박물관 특별전-올해의 야생동물 사진작가전'을 관람했다. 해당 전시는 영국 국립자연사박물관의 대표 전시로, 지속 가능성을 주제로 한 사진 작품 125점
주요키워드
인기기사
[오늘의 운세] 2024년 11월 17일 일요일 일월선사 오늘의 띠별운세
2024년 11월 17일 일요일 띠별운세▶쥐띠의 2024년 11월 17일 오늘의 운세36년 복덕이 따르니 성급하지 말고 착실히 추진하면 성사.48년 게으르면 실패요 부지런하면 복록이 증가해 기쁨이.60년 귀인 협조를 받으며 처신하면 매매 계약 등
동원F&B, 대체당 활용한 저스트 열대과일 캔 2종 출시
동원F&B가 설탕 대신 대체당을 활용한 '저스트' 열대과일 캔 2종을 출시했다고 20일 밝혔다.'저스트 노슈거 에디드' 열대과일 캔은 파인애플과 후르츠칵테일 등 2종으로 구성됐다. 대체당을 사용해 기존 제품 대비 당 함량을 40~60% 줄였다. 또한 100g당 열량은 각각 55kcal, 30kcal에 불과해 샐러드 등 요리 재료나 안주로 활용하기 좋다.동원F&B의 '저스트'는 설탕 대신 대체당을 활용해 과육 본연의 풍미를 즐길 수 있는 과일 캔
영등포, 2025학년도 대입 정시설명회 개최
영등포구가 오는 11월 17일 오전 10시, 영등포 아트홀에서 ‘2025학년도 대입정시 지원전략 설명회’를 개최한다고 밝혔다.이번 설명회는 지난 11월 14일, 2025학년도 대학수학 능력시험을 무사히 마친 수험생과 학부모를 대상으로 하며, 최신 입시 정보를 비롯해 대학별 맞춤형 정시 지원 전략을 구체적으로 제공할 예정이다.설명회 강사로는 수십 년간 입시 전문가로 활발히 활동하며 입시생들에게 경쟁력 있는 입시 전략을 제시해온 ‘입시전략 연구소 우연철 소장’이 나선다.강연에서는 정시 지원 시 반드시 확인해야
서울대병원, 신생 난치성 뇌전증 지속발작(NORSE) 최적 면역치료법 제시
서울대병원 국가전략기술 특화연구소·신경과 장윤혁 교수. 서울대병원 연구팀은 건강하던 사람에게 갑작스럽게 발생하는 의식불명과 뇌전증 발작을 일으키는 신생 난치성 뇌전증 지속발작에 대해 최적 면역치료법의 과학적 근거를 제시했다
원주시의회 K-컬쳐 연구회, 연구용역 최종보고회 개최
원주시의회 의원연구단체 ‘원주시 K-컬쳐 연구회’는 15일 오후 2시, 원주시의회 모임방에서 연구용역 최종보고회를 개최했다. 이날 보고회에는 나윤선 대표의원과 조창휘, 신익선, 심영미, 유오현 의원을 비롯해 연구용역사 대표 등 관계자들이 참석하여 지난 연구 활동의 최종 결과를 공유하고, 성과를 논의했다.이번 연구용역의 목표는 원주시의 문화·관광 자원을 재조명하고, 지역 특화 K-컬쳐 콘텐츠를 발굴하여 문화관광 활성화 방안을 제시하는 것이었다. 보고회에서는 그동안의 연구를 통해 도출된 여러 아이디어와 실질적인 정책 제안들이 발표되었으
최신기사
의협 비대위 "의대 모집 중지해야…전 직역 모아 '의료농단' 저지할 것"
대한의사협회 비상대책위원회가 정부에 2025년 의대 모집 중지를 촉구했다. 정부의 의대증원 정책 추진에 맞서 투쟁 기조를 이어가겠다는 뜻도 밝혔다. 의료대란 해...
lt;조선gt;, 한동훈 향해 "자신 둘러싼 문제부터 사실과 입장 밝혀야 한다"
이 한동훈 국민의힘 대표의 '당원 게시판 여론 조작 의혹'을 두고 "한 대표가 자신을 둘러싸고 불거진 이 문제부터 분명히 사실과 입장을 밝히는 것이 옳다"고...
2025년 인력 채용 가장 활발할 것 같은 업종은 IT·하이테크
2025년 인력 채용을 가장 활발하게 할 산업 분야는 'IT/정보통신'과 반도체, 2차전지 등을 다루는 '하이테크'가 될 것이라는 조사 결과가 나왔다. 잡코리아는 최근 남녀 직장인 641명을 대상으로 2025년 인력 채용 전망을 주제로 설문조사를 실시했다.먼저 설문에 참여한 직장인들에게 내년도 채용을 가장 활발하게 할 것이라 기대하는 산업군이 어디인지 복수응답으로 꼽아보게 했다. 그 결과, 직장인들은 △IT/정보통신과 반도체, 2차전지, 디스플레이 등 △하이테크 분야를 각 응답률 48.0%와 46.2%로
김동섭 석유공사 사장, 2024 하반기 대한민국 봉사 대상 수상
한국석유공사 김동섭 사장이 지난 19일 한국유엔봉사단으로부터 ‘2024 하반기 대한민국 봉사 대상’을 수상했다.1971년 설립된 한국유엔봉사단은 UN의 평화·개발·인권 등 핵심가치를 실천하고, 다양한 사회공익사업을 전개하고 있는 사회봉사 단체로 우리 사회에서 나눔과 봉사를 헌신적으로 실천하고 있는 봉사자들에게 매년 이 대한민국 봉사 대상을 수여하고 있다.김동섭 사장은 2021년 6월 석유공사 사장 부임 이후 기업 슬로건을 ‘Better Energy for Us & Earth’로 선정하고 공사의 경
한미약품, 국가품질경영대회 국무총리 표창 수상
한미약품은 지난 20일 산업통상자원부 국가기술표준원 주최, 한국표준협회 주관으로 서울 코엑스에서 열린 ‘제50회 국가품질경영대회’에서 국가품질특별상 지속가능경영 부문 국무총리 표창을 수상했다고 22일 밝혔다.한미약품은 국내 제약업계 최초로 지속가능 혁신경영 목표와 성과를 담은 보고서를 발간해왔으며, 지속가능경영의 중요성을 선제적으로 인식해 ‘ESG그룹’이라는 전담 조직을 설치했다. 이를 통해 지속가능경영 계획의 수립, 운영, 평가, 피드백 활동 등을 체계적으로 실행하고 있다는 점에서 높은 평가를 받았