3일 IT매체 테크레이더에 따르면 글로벌 IT 기업 시스코의 보안 테스트에서 중국 인공지능 기업 딥시크의 R1 모델은 심각한 취약점을 드러냈다. 시스코는 함벤치 데이터세트에서 50개의 랜덤 프롬프트를 사용해 딥시크 R1의 허위 정보, 사이버 범죄, 불법 활동 등 다양한 유해 행동을 평가했다. 이처럼 AI 모델의 가이드라인과 사용 정책을 우회하기 위해 유해한 프롬프트를 사용하는 것을 '탈옥'이라고 부른다. 테스트 결
앤트로픽이 AI의 탈옥 저항성을 대폭 높이는 기술인 '입헌 분류자'를 발표했다. AI에서 탈옥은 프롬프트를 조작하거나 한 번에 많은 질문을 입력하는 방법이다. 대부분의 AI 모델은 위험한 정보를 출력하지 않도록 학습되어 있지만, 탈옥을 통해 AI 모델이 출력이 금지된 정보를 출력하도록 할 수 있다. 앤트로픽은 입헌 분류자를 개발하기에 앞서 무해한 것과 유해한 것을 정의하는 '헌법'을 작성한 후, 이를 AI 모델 클로드에 입력해 다양한 탈옥 방법과 언어에 대
중국 생성형 AI 딥시크에 대한 논란이 끊이지 않는 가운데, 딥시크 AI 모델이 한국어 사용자에게 유해한 발언을 제공할 위험이 높은 것으로 드러났다.생성형 AI 보안 기업 이로운앤컴퍼니의 AI 보안연구소가 딥시크 보안성을 테스트한 결과, 한국어 혐오 발언 요청 테스트에서 41.7%의 높은 취약성이 발견됐다.이는 이로운앤컴퍼니 ‘세이프엑스 레드팀’이 딥시크 R1 모델의 레드팀 테스트를 통해 AI 모델의 보안성을 다층적으로 분석한 결과다. 이
금산군은 올해 주민 삶의 질 향상을 위해 농촌 주거환경개선에 총력 대응한다. 주요 추진 사업은 △슬레이트 처리, △지붕개량, △빈집정비, △주택개량 등이며 이중 슬레이트 처리와 지붕개량, 빈집정비는 지원금 및 대상을 확대 추진한다. 군은 슬레이트 처리는 인체에 유해한 슬레이트를 처리하기 위해 총 9억4700만원을 투입한다. 주택 1동당 최대 지원액은 지난해 352만원 대비 98만원 상향된 450만원이며 비주택의 경우는 기존 축사‧창고였던 지원 대상을 노인 및 어린이 시설까지 확대했다. 단, 1동당 슬레이트 면적이 2
■ 딥시크, 보안 테스트 결과 충격…유해 프롬프트 공격 무방비중국 인공지능 기업 딥시크의 R1 모델이 글로벌 IT 기업 시스코의 보안 테스트에서 심각한 취약점을 드러냈다. 시스코는 함벤치 데이터세트에서 50개의 랜덤 프롬프트를 사용해 딥시크 R1의 허위 정보, 사이버 범죄, 불법 활동 등 다양한 유해 행동을 평가했다. 이처럼 AI 모델의 가이드라인과 사용 정책을 우회하기 위해 유해한 프롬프트를 사용하는 것을 '탈옥'이라고 부른다. 테스트 결과 R1은
낙동강 인근에 사는 주민이거나 일시적 활동을 한 환경단체 활동가의 코에서 녹조 독소인 마이크로시스틴이 검출됐다는 조사 결과가 나왔다.
국회 환경노동위원회 소속 이용우 더불어민주당 의원, 정혜경 진보당 의원, 환경운동연합, 낙동강네트워크 등은 3일 서울 종로구 환경운동연합에서 기자회견을 열고 '사람 콧속 녹조 독소 검출 결과'를 발표했다.
이는 지난해 10월 전체 97명 중 22명에 대한 연구 결과를 중간 발표한 이후 진행된 후속 연구 결과다. 당시 22명 중 11명의 코에서 인체에 유해한 남세균이 검출된 바 있다.
연구 결과
메타 안전 자문위원회가 최근 메타의 정책 변화에 대해 우려를 표명했다고 지난달 31일 IT매체 엔가젯이 전했다.메타 안전 위원회는 메타가 팩트체크 프로그램을 중단하고 새로운 정책을 추진한 것에 대해 "글로벌 안전보다 정치적 이념을 우선시할 위험이 있다"라고 경고했다. 위원회는 서한에서 "메타가 커뮤니티에 대한 보호를 줄임으로써 유해한 행동을 정상화하고 수년간의 사회적 진보를 저해할 위험이 있다"라고 지적했다. 이어 "개인이나 커뮤니티에 대한 지속적인 혐오를 해결하는 것이 여전히 메타의 최우선 과
주요키워드
인기기사
민주당 해양수산특별위원회, 수산단체 대표자 초청 간담회 개최
더불어민주당 해양수산특별위원회는 25일 국회 의원회관에서 22대 국회 주요 추진 과제를 점검하고 추진 사항을 보고하는 ‘2025년 수산단체 대표자 초청 간담회’를 개최했다.특위 출범을 앞두고 마련된 이번 간담회에서는 수산단체 경영 애로사항 청취하고 22대 국회의 수산분야 과제 이행 상황을 보고하며 향후 계획을 논의했다.간담회에는 문대림 의원을 비롯해 어기구 위원장, 송옥주 의원, 이원택 의원, 임호선 의원, 임미애 의원, 문금주 의원 등 국회 농림축산식품해양수산위원회 소속 민주당 의원들과 수산단체 대표자들이 참
박현수 인천일보 대표, 경기언론인클럽 이사장 취임
박현수 ㈔경기언론인클럽 제21대 이사장이 공식 취임했다.경기언론인클럽은 25일 오전 10시 경기문화재단 3층 아트홀에서 이사장 이·취임식 및 2025년 제1차 정기총회를 개최했다.이날 행사에는 이임하는 최윤정 제19·20대 이사장, 최맹식 감사 등 회원
영덕 원전, 주민수용성 기대 어려울 것
탈원전 정책 포기 이후 국내 첫 원전 건설 계획이 마련됐다. 이번 원전 건설 계획 수립은 지난 2015년 제7차 전력수급기본계획 이후 10년 만이다.
세계적 거부(巨富)들은 어떻게 성공했나? 신간 『부자들의 성공심리학』출간
『부자들의 성공심리학』이 출간됐다. 이 책은 세계적 부자들의 성공 요인을 분석하고, 부와 성공을 이루는 전략을 제시한다. 저자는 슈퍼리치들의 개인적 특성과 심리적 요인을 연구하며, 성공을 가능하게 한 핵심 요소를 구체적으로 정리했다.이 책은 심리학적 관점에서 부와 성공의 관계를 탐구한다. 저자는 30년간 영재 연구를 수행하며 경제적, 사회적으로 뛰어난 성과를 거둔 인물들을 분석했다. 책에서는 빌 게이츠, 일론 머스크, 워런 버핏, 스티브 잡스, 마크 저커버그, 손정의, 마윈 등 글로벌 슈퍼리치들이 부를 이루
김학성 웨이버스 대표, 한국공간정보산업협동조합 제11대 이사장 취임
한국공간정보산업협동조합 신임 이사장에 김학성 웨이버스 대표가 선출됐다.공간정보 통합 솔루션 기업 ㈜웨이버스는 오늘 김학성 대표이사가 한국공간정보산업협동조합 제11대 이사장으로 선출됐다고 밝혔다.이날 열린 한국공간정보산업협동조합 정기총회에서 신임 이사장으로 당선된 김학성 대표는 향후 4년간 조합을 이끌어 가게 된다. 그는 공간정보산업 분야 유일의 코스닥 상장기업인 웨이버스를 창업한 지 21년 만에 업계에서의 신뢰와 리더십을 다시 한번 증명하며 조합의 수장으로 발돋움했다.김학성 신임 이사장은 국내외 공
최신기사
암호화폐 투자심리, 극단적 공포 상태…2년 만에 최저 점수
비트코인 투자심리의 핵심 지표인 암호화폐 공포·탐욕 지수가 2년 만에 최저 점수로 떨어졌다. 27일 블록체인 매체 코인텔레그래프에 따르면 전날 비트코인이 9만달러 이하로 폭락하면서 암호화폐 공포·탐욕 지수는 '극단적 공포' 상태를 나타내는 10점을 기록했다. 이는 암호화폐 헤지펀드인 쓰리애로우캐피털이 몰락하기 시작한 2022년 6월 이후 최저 수준이자, 테라폼랩스의 테라 및 테라클래식USD 토큰이 폭락하고 셀시우스 토큰이 90% 급락한 이후 가장 낮은 수치다. 2022년 6월 1
정기명 여수시장, 한화솔루션 출근길 안전문화 캠페인
정기명 전남 여수시장이 한화솔루션㈜ 여수공장 대정비 사업장에서 '여수산단 출근길 안전문화 캠페인'을 펼쳤다.
28일 여수시에 따르면 정 시장은 전날 이경근 고용노동부 여수지청장, 김병기 한국가스안전공사 전남동부지사장, 김성철 한국산업안전보건공단 전남동부지사장, 박진만 한국산업단지공단 전남지역본부장, 김대연 한국전기안전공사 여수지사장, 안인수 한화솔루션㈜
전국최초, 해군부사관 양성 부산해군과학기술고 개교!
해군부사관 인력양성을 위한 부산해군과학기술고등학교가 전국 최초로 개교한다.오는 3월 4일 오후 2시 부산해군과학기술고 장국관에서 박형준 시장, 이대석 시의회부의장, 강정호 해군교육사령관, 김성수 해운대구청장, 해군 관계자, 교직원, 학부모, 학생 등이 참석한 가운데 학교 현판 제막식, 개교식, 입학식 등의 행사가 열릴 예정이다.개교식은 경과보고, 해군본부의 감사패 증정, 장학증서 전달, 참석 내빈 축사 및 격려사 등이 있을 예정이고, 이어서 입학식이 진행된다.지난 2024년 3월 부산시교육청-해군본부-해운대공고는 교육
비트코인 연내 강세장 또 온다 …"MVRV 지표 최고점 아직"
비트코인이 최근 급락하며 지난해 11월 이후 최저 수준을 기록한 가운데, 올해에도 이전과 같은 강세장이 다시 지속될 것이라는 분석이 제기됐다.27일 블록체인 매체 코인텔레그래프에 따르면 업계 전문가들은 비트코인의 시가총액 대비 실현 가치 비율이 아직 정점에 도달하지 않았다며, 이를 근거로 강세장이 찾아올 것으로 전망했다.어슈어 디파이의 최고경영자이자 암호화폐 분석가인 차포(C
“국가 위한 헌신, 잊지 않겠습니다!”
산청군은 25일 산청읍에 위치하고 있는 독립유공자 민용호 애국지사의 묘소를 찾아 참배했다고 밝혔다.이번 참배는 광복 80주년과 3·1절을 맞아 모두가 함께하는 독립유공자 묘소 참배 캠페인 일환으로 경남서부보훈지청 주관으로 추진됐다.참배에는 이승화 산청군수, 김상희 경남서부보훈지청장을 비롯해 윤진희 산청소방서장, 이용진 보훈아너스클럽 위원 등이 참여했다.이들은 1977년 건국훈장 ‘독립장’을 추서 받은 민용호 애국지사의 주요 공적을 낭독하고 헌화와 묵념을 통해 독립유공자의 숭고한 희생을 기렸다.이승화 군수는 “독립유공자들의 고귀한 희