앤트로픽 "AI 모델 사보타주 능력 측정해야 한다"
앤트로픽의 얼라인먼트 사이언스 팀이 인공지능의 발전에 따른 새로운 위험성을 지적했다고 20일 IT매체 테크크런치가 전했다.
얼라인먼트 사이언스 팀은 "AI가 더욱 유능해짐에 따라 사용자를 오도하거나, 이를 감독하기 위해 구축한 시스템을 전복할 수 있는 능력을 가진 모델과 같은 새로운 종류의 위험이 발생할 수 있다"고 경고했다.
따라서 모델의 사보타주 능력을 측정하는 방법을 모색해야 한다는 설명이다.
연구진은 AI의 사보타주 능력을 실험하기 위해 4가지 과제를 수행했다.
첫 번째...
얼라인먼트 사이언스 팀은 "AI가 더욱 유능해짐에 따라 사용자를 오도하거나, 이를 감독하기 위해 구축한 시스템을 전복할 수 있는 능력을 가진 모델과 같은 새로운 종류의 위험이 발생할 수 있다"고 경고했다.
따라서 모델의 사보타주 능력을 측정하는 방법을 모색해야 한다는 설명이다.
연구진은 AI의 사보타주 능력을 실험하기 위해 4가지 과제를 수행했다.
첫 번째...
리벨리온-사피온 합병법인 박성현 대표가 4일 열린 'SK AI 서밋'에서 AI 데이터센터 구축을 위한 리벨리온의 역할과 전략을 제시했다. 리벨리온은 AI 추론에 최적화된 AI 반도체를 설계·판매하는 스타트업으로, SK그룹과의 협력을 통해 글로벌 시장 진출을 가속화하고 있다.박 대표는 "AI 반도체는 보이지 않는 백본과 같은 존재"라며 "SK와 SK 생태계, 나아가 대한민국이 AI 전체 체인에서 가장 승부를 볼 수 있는 섹션"이라고 강조했다.현재 AI 반도체 시장은 엔비디아의
웹젠은 올해 3분기 연결 재무제표 기준 영업이익이 96억원으로 전년 동기 대비 4.2% 감소했다고 7일 공시했다. 같은 기간 매출액은 492억원으로 21.8% 늘었고, 당기순이익은 101억원으로 10.1% 감소했다. 직전 분기와 대비하면 매출은 2.3% 늘었으나, 영업이익은 18.4%, 순이익은 27.7% 줄었다.회사 측은 "8월 출시한 '뮤 모나크2'의 신작 흥행으로 기존 출시작들의 매출 감소를 일부 상쇄해 매출 증가를 견인했으나, 신작 출시 및 신작 개발 확대에 따른 비용이 영업이익에 영향을 미쳤다"
글로벌 자산운용사 스위스연합은행이 이더리움 기반 토큰화 머니 마켓 펀드 'uMINT'를 출시했다.지난 1일 블록체인 매체 더블록에 따르면 UBS는 기금을 구성하는 정확한 금융 상품을 명시하지는 않았지만, 보수적이고 위험을 관리하는 프레임워크를 기반으로 한 고품질의 통화 시장 상품에 대한 투자 기회를 투자자에게 제공한다고 밝혔다.UBS 아시아 지부 공동 대표인 토마스 카에기는 "다양한 자산 클래스에서 토큰화된 금융 자산에 대한 투자자들의 관심이 늘어나고 있다"며
역사에 따르면 다가오는 미국 대선에서 누가 승리하든 비트코인은 상승할 가능성이 높다는 분석이 나왔다. 4일 블록체인 매체 코인데스크는 미국 대선이 비트코인 강세의 촉매제라고 지적했다. 2012년 11월 5일 치러진 미국 대선 당시 비트코인은 11달러 안팎에서 맴돌았다. 이 주기의 정점은 2013년 11월에 발생했는데, 가격이 거의 1만2000%나 급등했고 비트코인은 1100달러 이상으로 치솟았다. 4년 뒤 2016년 11월 첫째 주에 비트코인 가격은 약 700달러였다. 2017년 12월
AI 기반 검색엔진 제작사인 퍼플렉시티가 미국 대통령 선거를 포함한 주요 선거 개표 상황을 실시간으로 추적하는 허브 사이트를 1일 공개했다.퍼플렉시티의 개표 실황 허브를 통해 미국 전국 및 주 단위로 대통령, 상원/하원 선거에 대한 정보를 실시간으로 확인할 수 있다. 허브는 투표 요건, 투표 시간 등 선거 관련 질문에 대한 답변과 투표 법안, 후보자, 정책 입장, 지지도에 대한 AI 요약 분석을 제공한다. 오픈AI는 최근 출시한 챗GPT 검색 서비스에서 선거 결과에 대
이스탄불에 본사를 둔 스타트업 인사이더가 5억달러 규모 투자를 유치했다고 1일 밝혔다.이번 투자는 제너럴 아틀란틱이 주도했다. 인사이더는 구매자 선호도에 따라 브랜드들이 마케팅 캠페인을 맞춤화할 수 있도록 지원하는 클라우드 플랫폼을 제공한다.고객 데이터 플랫폼에 기반한 인사이드 솔루션은 AI 기반으로 회사 고객 기록을 중앙 저장소에 모아 분석에 적합한 형식으로 정리해주고 사용자가 이커머스 카탈로그 특정 섹션을 방문할 때 마케팅 제안을 하도록 지원한다.인사이더 머신러
산림청은 한국수목원정원관리원과 국립세종수목원에서 ‘2024년 정원드림 프로젝트’를 통해 각 지역에 조성된 25개 정원 중 우수정원 6개소를 선정하고 시상식을 개최했다.‘정원드림 프로젝트’는 산림‧조경‧원예 등 정원분야를 전공한 대학생과 산림특성화고등학교 학생들이 참여해 지역의 자투리 공간에 정원을 조성하는 사업이다.올해는 ‘치유정원: 도시와 환경, 인간을 위한 정원’을 주제로 총 125명 청년·대학생이 참여했으며 지난 4월부터 10월까지 6개월 동안 세종, 대전, 춘천, 남양주, 남해ㆍ진
부산시는 8일 시청 국제회의장에서 '제32회 산업평화상 시상식'을 개최했다.지난 1993년 최초로 시상식을 개최한 이래 올해로 32회를 맞는 '산업평화상'은 산업현장에서 노사 간 상호신뢰를 바탕으로 노동환경 개선과 기업 생산성 향상, 산업재해 예방 등 산업평화에 공이 있는 자에게 시상한다.올해는 ▲산업평화상 부문 8명 ▲산업평화공로상 부문 2명, 총 10명이 산업평화상 수상자로 선정됐다.모범노동자 부문 수상자로는 ▲최판식 디알비노동조합
민주노총의 전 조직쟁의국장 석모씨가 간첩활동을 한 것이 드러나 15년의 중형이 선고된 것과 관련, 우리공화당이 이들의 간첩활동을 강력하게 비판하며 전면적인 수사를 촉구했다.우리공화당 조원진 대표는 8일 보도자료를 내고 “조합원이 100만이 넘는 민주노총의 핵심 중의 핵심인 조직쟁의국장이 간첩활동을 했다는 것은 그야말로 충격적이다. 재판부가 민노총 핵심 간부 3명에게 징역 5년에서부터 15년까지 중형을 선고한 것은 당연한 일”이라면서 “국민에 대한 사과와 반성 없이 간첩들이 선동하는 좌파단체에 대한 전면 수사가 필요하다”고 말했다.조
크래프톤는 산하 크리에이티브 스튜디오 렐루게임즈가 ‘마법소녀 카와이 러블리 즈큥도큥 바큥부큥 루루핑’에 새 에피소드를 선보였다고 8일 밝혔다.이 회사는 이를 통해 ‘우라미’ ‘불양배’ 등 새 등장인물과 대결하는 이야기를 감상할 수 있게 했다. 또 대결 점수를 판정하는 과정에서 서버를 거치지 않고 기기에서 바로 처리하는 '온디바이스' 방식을 적용해 보다 빠르고 정확한 결과를 받아볼 수 있게 했다.이 회사는 이 밖에 사전 녹음된 인플루언서의 목소리와 승부를 겨루는 레전드 모드에 '우정잉'을 추가했다.이달
최근 민주당의 특검 서명 운동과 관련하여 일부 정치인들이 인천교통공사를 상대로 서명 운동 허가를 요구하며 압박을 가하고 있다는 의혹이 있다. 교통시설과 같은 공공기관은 시민 편의를 위한 공간으로, 정치적 목적에 이용되어서는 안 되며, 공공의 중립성을 지켜야 할 의무가 있다.특히 이번 서명 운동이 이재명 당 대표의 선고를 앞두고 진행되고 있다는 점에서, 특정 정치세력의 정치적 목적을 위한 과도한 권력 남용이 아닌지 깊은 의구심을 갖지 않을 수 없다. 공공기관을 압박하여 특정한 정치적 메시지를 전달하려는 시도는
한국은 고령화 사회를 넘어 초고령 사회를 앞두고 있다. 평균 수명의 연장에 따라 노년층의 건강 상태도 비교적 많이 양호해 졌지만, 앞으로 노인과 소외 계층에 대한 사회적 지원과 관리의 확충이 더욱 필요한 것 또한 사실이다. 이러한 현실 속에 지역 주민들에게 최선의 의료 공적 서비스를 제공하고자 노력하고 있는 최진수 주무관을 만나본다. Q. 자기소개 부탁 드립니다.안녕하세요. 서울 묵1동 주민센터에서 방문 간호사로 근무하고 있는 최진수 주무관입니다. Q. 간호 공무원이라 하면 흔히 보건소에서 근무하는 모습을 떠올리게 됩
주요키워드
인기기사
의성군 비안향교, 조선시대 전통 경로잔치 ‘기로연’ 재현
경북 의성군이 전통 경로잔치 ‘기로연’을 개최해 지역 노인 문화 계승에 나섰다. 의성군은 최근 안계면 소재 비안향교가 지역 어르신 50여 명이 참석한 가운데 조선시대부터 이어져 온 기로연 행사를 진행했다고 2일 밝혔다. 기로연은 유교 전통에 따라 어르신들에 대한 존경과 감사를
넥슨, 캐주얼 RPG '환세취호전 온라인' 11월 21일부터 CBT 진행
넥슨이 ㈜슈퍼캣과 협력하여 개발한 신작 캐주얼 RPG '환세취호전 온라인'의 클로즈 베타 테스트가 오는 11월 21일부터 24일까지 진행된다고 4일 밝혔다. 이번 CBT는 모바일과 PC에서 참여할 수 있으며, 21일 오전 10시부터 시작될 예정이다.‘환세취호전 온라인’은 고전 게임 ‘환세취호전’의 IP를 현대적 트렌드에 맞춰 2.5D 도트 그래픽으로 재해석한 작품이다. 원작의 주요 캐릭터인 ‘아타호’, ‘린샹’, ‘스마슈’ 등을 플레이할 수 있으며, ‘먹기 대
한 그루의 나무가 만드는 커다란 변화
나무를 심는 일은 단순히 땅에 묘목 하나를 심는 것처럼 보일 수 있다. 하지만 그 한 그루의 나무가 불러일으키는 변화는 상상 이상이다. 나무는 우리에게 맑은 공기를 선물하고, 도시의 온도를 낮추며, 지구를 더 건강하게 만든다. 작은 묘목 하나가 자라 숲이 되면, 그 숲은 사람과 동물에게 쉼터가 되고 자연재해를 막아주는 든든한 방패 역할을 한다.특히 요즘처럼 기후변화가 심각한 상황에서는 나무 심기가 그 해법 중 하나로 주목받고 있다. 나무는 탄소를 흡수하고 산소를 내뿜으며, 지구의 온도 상승을 억제하는 데 큰 역할을 한다. 몇십 년
이동희 국립순천대 교수, 최고 권위 '한국 건축문화대상' 장관상 영예
이동희 국립순천대학교 건축학부 교수가 대한민국 건축분야 최고 권위의 '2024 한국건축문화대상' 시상식에서 국토교통부장관상을 받았다.
3일 이동희 교수에 따르면 '2024 한국건축문화대상' 시상식은 지난달 30일 오후 서울 송파구 올림픽공원 내 한성백제박물관에서 개최됐다.
올해 33회째를 맞는 한국건축문화대상은 1992년 제정된 상으
최신기사
DGB금융-대한변리사회, 금융산업 내 지식재산권 인식 제고 업무협약
DGB금융그룹은 8일 서울 서초구에 소재한 대한변리사회 회관에서 금융산업 내 지식재산권 인식 제고 및 DGB의 지식재산권 확보를 위한 업무협약을 체결했다고 밝혔다. 이번 업무협약은 대한변리사회가 금융회사와 맺는 최초의 업무협약으로, 금융업과 지식재산권 분야의 협력 확대에 중요한 의미를 지닌다. 협약식에는 DGB금융지주 성태문 전무와 대한변리사회 이창훈 부회장이 참석해 양 기관의 협력 의지를 다졌다.양 기관은 ▲DGB금융그룹이 주최하
경기도, 제6회 경기도민 정책축제 마쳐
경기도 숙의민주주의 실현의 장인 ‘제6회 경기도민 정책축제’가 8일 경기도 북부청사 평화누리홀에서 열렸다.올해로 6회째를 맞은 경기도민 정책축제는 올해부터 특정 이슈를 중심으로 경기도민의 생생한 의견을 듣고 정책에 반영하는 참여형 민주주의 실현의 장으로 추진했다.이를 위해 도는 도민 생활에 밀접한 교통정책 5가지를 선정해 지난 9월부터 10월까지 도내 14개 지역을 방문, 도민에게 홍보하고 의견을 수렴하는 사전 행사를 진행했다.행사에
대전시, 푸드테크 산업 육성 정책포럼 개최
대전시는 8일 시청 세미나실에서 관련 기업인 등 100여 명이 참석한 가운데 대전형 푸드테크 산업 육성을 위한 정책포럼을 개최했다.
이번 포럼에서는 대전형 푸드테크 산업의 육성 방향을 비롯해 식품 커스터마이징 기술을 활용한 메디푸드와 맞춤형 식단 등에 대해 심도 있는 논의가 진행됐다.
유득원 대전시 행정부시장은 “이번 포럼에서 제시된 혁신적 아이디어를
이재준 시장, 세계도시포럼 UN세션에서 기조연설
이재준 경기 수원시장이 이집트 카이로에서 열린 제12차 세계도시포럼 One UN 세션에서 기조연설을 하고, “수원시는 ‘도시의 주인이 시민’이라는 당연한 명제를 현실로 만들고 있다”고 말했다.7일 카이로 국제전시센터에서 열린 세계도시포럼 One UN 세션에서 ‘도시의 미래, 시민이 결정한다’를 주제로 연설을 한 이재준 시장은 “인구의 도시집중, 기후변화, 경제 양극화 등 다양한 도시 문제를 해결하려면 마을, 도시, 국가, 글로벌공동체가 힘을 모아야 한다”며 “수원시는 도시 위기를 기회로 바꾸는 열쇠를 ‘시민 참여’에서
대전시, 도심융합특구 지정… 본격 개발 착수
대전시가 도심융합특구 지정과 기본계획을 국토교통부로부터 승인받아 본격적인 개발사업에 돌입한다.
이번 도심융합특구는 산업, 주거, 문화 등 다양한 기능이 융합된 복합 혁신공간을 조성하여 기업 투자를 유치하고 일자리를 창출하는 것을 목표로 한다.
대전시에 따르면 이번 도심융합특구는 KTX 대전역세권과 옛 충남도청이 위치한 선화동 일원, 그리고 두 지역을 연