AI에 금지된 작업 시켰더니…사용자 속였다
인공지능 모델은 자신의 견해를 바꾸기를 원하지 않으며, 사용자에게 자신의 견해를 속일 수 있다는 사실이 드러났다.
18일 IT매체 테크크런치에 따르면 앤트로픽과 AI 연구 기관인 레드우드 리서치는 강력한 AI 시스템이 원치 않는 작업을 수행하도록 학습됐을 때 어떤 일이 일어나는지 살펴봤다.
구체적으로 연구팀은 모델에 정치적 중립 같은 원칙이 있고, 이것이 개발자가 재교육해 가르치고 싶어하는 원칙과 충돌한다면 어떻게 될지를 분석했다.
또한 모델에게 응답이 모니터링되어 재교육에 사용될 것임...
18일 IT매체 테크크런치에 따르면 앤트로픽과 AI 연구 기관인 레드우드 리서치는 강력한 AI 시스템이 원치 않는 작업을 수행하도록 학습됐을 때 어떤 일이 일어나는지 살펴봤다.
구체적으로 연구팀은 모델에 정치적 중립 같은 원칙이 있고, 이것이 개발자가 재교육해 가르치고 싶어하는 원칙과 충돌한다면 어떻게 될지를 분석했다.
또한 모델에게 응답이 모니터링되어 재교육에 사용될 것임...
네이버페이가 한국투자저축은행과 ‘디지털 금융 서비스 제공을 위한 전략적 업무협약’을 체결했다고 밝혔다.두 회사는 19일 경기도 성남시 분당구에 위치한 한국투자저축은행 본사에서 진행된 업무협약식에서 상호 협력체계를 구축하여 다양한 협력사업을 발굴하고, 사용자에게 새로운 혁신의 경험을 제공하기로 약속했다. 구체적으로 ▲차별화된 수신, 여신 디지털 금융 서비스 제공을 위한 협력 ▲데이터 기반의 대안신용평가를 활용한 혁신적 금융상품 제공 ▲양사 플랫폼 활성화를 위한 홍보 및 마케팅 상호 협력 등을 함께
DePIN 플랫폼 업링크가 레이어1 블록체인 아발란체 기반으로 공개됐다.업링크는 아발란체 네트워크에서 첫 DePIN 프로젝트가 됐고 더블록이 12일 보도했다.업링크는 기존 네트워크를 공유하고 소외 지역들에서 신규 인프라를 배치하는 사용자들에게 인센티브를 제공하는 방식으로 인터넷 연결성을 탈중앙화하는 것을 목표로 하고 있다아발란체 기반으로 업링크는 커뮤니티 관여, 토큰 기반 인센티브, 혁신적인
메르세데스 벤츠가 올해 말 출시를 목표로 개발 중인 2026년형 전기차 모델에 대한 관심이 뜨겁다. 16일 전기차 매체 일렉트릭에 따르면 올라 칼레니우스 벤츠 최고경영자는 "이 차량이 메르세데스 벤츠의 엔트리급 세그먼트의 새로운 장을 열 것"이라며 기대감을 불러일으켰다. 이는 CLA 전기차가 주행 거리, 효율성, 충전 측면에서 새로운 표준을 설정할 것이란 기대감을 반영한 것이다. 벤츠는 CLA의 주행 가능거리 테스트 결과 두 번의 10분 충전으로 최대 1270km를 주행할 수 있다고 밝
암호화폐 분야에서 AI 에이전트 코인의 시가총액이 총 1조5000억엔을 넘었다. 14일 블록체인 매체 코인포스트에 따르면 이를 견인한 것은 버츄얼 프로토콜, ai16z, 돌로스 더 불리 등의 종목이다. 특히 버츄얼은 거래소 신규 상장과 대규모 에이전트 응용 프로그램에 대한 기대감으로 지난 30일간 가격이 7배 이상 상승했다. 암호화폐에 있어 AI 에이전트란 2024년 하반기부터 주목받고 있는 카테고리로, 트루스터미널(Truth Termin
새로운 협동 게임 '스플릿 픽션'이 출시될 예정이다.13일 IT매체 테크레이더에 따르면 헤이즈라이트 스튜디오는 더 게임 어워드 2024에서 '스플릿 픽션'의 첫 번째 예고편을 공개했다.헤이즈라이트 스튜디오는 앞서 2인 협동 게임 '잇 테익스 투'를 선보이며 플레이어들의 관심을 받은 바 있다. 공개된 3분 분량의 영상에서는 '잇 테익스 투'와 마찬가지로 협동 플랫폼 퍼즐과 다양한 장소에서 진행되는 스릴 넘치
미국 보스턴에 본사를 둔 AI 스타트업 리퀴드AI가 AMD 주도 아래 2억5000만달러 규모 시리즈 A 투자를 유치했다고 13일 밝혔다.MIT에서 분사한 리퀴드AI는 현재 거대 언어 모델 기반 기술인 트랜스포머 기반 AI와는 다른 아키텍처를 활용한 생성형 AI 모델을 개발하고 있다. 리퀴드AI는 자사 '리퀴드 파운데이션 모델'과 관련해 기존 LLM들과 비슷하거나 나은 성능을 제공한다고 주장하고 있다.회사 측에 따르면 리퀴드AI 모델은 리퀴드 신경망(liqui
춘천시가 건조한 날씨 속에 산불 발생 위험을 경고하고 예방에 최선을 다하겠다고 19일 밝혔다.춘천시에 따르면 지난 18일 오후 1시 50분께 동면 월곡리 일대 야산에서 불이나 산림 0.23㏊를 태우고 1시간여 만에 진화됐다.조사 결과 이번 산불 원인은 인근 주택가에서 사용하는 가마솥 불티가 바람에 의해 산으로 옮겨붙어 발생한 것으로 추정된다.이처럼 겨울철에는 작은 불씨도 큰 산으로 번질 수 있는 만큼 주의해야 한다.먼저 산림과 가까운 곳에서는 논두렁과 밭두렁, 각종 쓰레기를 절대 소각하면 안 된다.또한 산림
서울시는 국민권익위원회가 주관한 '2024년도 공공기관 종합청렴도 평가'에서 1등급을 달성했다고 밝혔다.서울시가 청렴도 평가 최상위인 1등급을 달성한 것은 공직사회는 물론 서울시민의 신뢰를 동시에 얻으며 부정부패 없는 '대한민국 청렴 행정의 대표 모델'로 자리잡았음을 증명하는 성과라고 시는 강조했다. 종합청렴도는 부패인식과 경험을 측정한 '청렴체감도', 반부패 추진실적과 성과인 '청렴노력도' 점수를 더해 등급을 매긴 후 '부패실태'에 대한 감점을 부여해 점수를 산출하는 방식이다. 부문별(광
가수 유미가 연말 콘서트 ‘YOU ME STAR IS BORN’으로 팬들과 만난다. 이번 공연은 12월22일 오후 5시 서울 노들섬 라이브하우스에서 KGH 주최로 열린다. 음악과 성장에 대한 진정성을 담은 이번 무대는 관객과의 교감을 기록하며 특별한 추억을 선사할 예정이다.이번 콘서트는 30인조 오케스트라와 함께 준비됐다. 밴드 사운드만으로는 표현하기 어려웠던 유미의 명곡들이 오케스트라의 풍성한 연주를 통해 한층 깊고 감동적인 무대로 재탄생한다. 오케스트라와 함께 선보이는 무대는 관객들에게 유미 음악의 새로운 면모를 느끼게 할
국회 농림축산식품해양수산위원회 서삼석 의원이 18일 더불어민주당‘국정감사 우수의원’으로 7년 연속 선정됐다.더불어민주당은 매년 진행하는 국정감사에서 민생·개혁 등 입법과제 완수와 정부 실정을 바로잡는 등 상임위별로 의정활동에 모범을 보인 우수 국회의원을 발굴해 ‘국정감사 우수의원상’을 수여한다. 제22대 국회 첫 국정감사에서도 서 의원은 국회 농림축산식품해양수산위원회 7년의 관록으로 충실한 정책적 대안과 제도 개선 촉구를 통해 농어민 대변인의 진면목을 보여줬다는 평가다.서 의원은 20
제주콘텐츠진흥원은 한국콘텐츠진흥원의 지역특화콘텐츠 개발지원사업 평가 결과 우수 기관으로 선정됐다고 19일 밝혔다.우수 기관 선정에 따라 2025년 국고 사업비 3억 원과 2.75억 원의 추가 인센티브를 확보했다.지역특화콘텐츠 개발지원사업은 전국 16개 콘텐츠거점기관이 문화체육관광부와 각 지자체 지원으로 지역 고유의 문화․역사․인문․자연 요소 등을 활용, 콘텐츠기업 육성과 일자리 창출, 지역 콘텐츠산업 거버넌스를 운영하는 사업이다.이번 평가는 각 콘텐츠거점기관을 대상으로 2024년 사업성과와 중기
▲이현섭 부회장 아들 재용군 결혼=2025년 1월 18 12시 30분 롯데호텔 사파이어룸에서 강선아양과 화촉을 밝힌다. 축산신문, CHUKSANNEWS
인천광역시중구자원봉사센터는 지난 19일 어르신과 취약계층의 따뜻한 겨울나기를 위한 유자청과 안마봉을 영종 관내 노인요양시설에 전달했다.이번에 전달한 유자청은‘영종가족봉사단’이 안마봉은‘영종청소년봉사’활동으로 추운 겨울에 따뜻한 온정을 전하고 지역 어르신들이 건강하시기를 바라는 마음으로 정성껏 만들었다. 이번 봉사에 참여한 가족봉사단과 청소년봉사자들은 앞으로도 지속적인 봉사활동을 통해 지역과 소통하며 나눔을 실천하겠다고 다짐했다.중구센터에서는 소외계층을 위해 다양한 봉사활동 프
학교안전공제중앙회가 18일 '웹어워드 코리아 2024’에서 대상을 수상했다.웹어워드 코리아는 한국인터넷전문가협회가 주최하고 과학기술정보통신부 산
주요키워드
인기기사
심플랫폼, IPO 본격화 ··· 데이터 솔루션 선도기업 도약
인공지능 기반 데이터 솔루션 전문기업 심플랫폼은 한국거래소로부터 코스닥 상장을 위한 예비심사 승인을 받았다고 밝혔다.상장 주관사는 KB증권이며, 공모주 100% 신주로 구성된다. 주요 주주로는 임대근 대표, IBK금융그룹 IP창조 투자조합 제2호, 아이큐브드림 개인투자조합, 기타 주주가 46.63%의 지분을 보유하고 있다.앞서 심플랫폼은 기술특례 상장을 위해 기술보증기금과 한국평가데이터에서 기술성 평가를 통과했다. 심플랫폼은 상장 준비를 마치는 대로 증권신고서를 제출하고,
오후 6시 "키움증권" 오퀴즈 문제+정답!
OK캐쉬백 오퀴즈에서 "키움증권"관련 퀴즈를 제시했다.금요일인 12월 13일 오후 6시경 제시된 '키움증권'관련 두번째 문제는 "키움증권 크리스마스 주식 선물 이
'로스트아크' 올 겨울 신대륙 '림레이크' 공세
스마일게이트가 겨울 시즌을 맞아 대작 MMORPG '로스트아크'에 신대륙 '림레이크'와 새 클래스 '환수사' 등을 포함한 대규모 업데이트 공세를 이어간다.스마일게이트RPG는 14일 온라인게임 서울 마곡동에 위치한 코엑스 마곡 르웨스트에서 '로스트아크'의 겨울 쇼케이스 '2024 로아온 윈터'를 개최, 향후 업데이트 계획을 발표했다.'로아온'은 대규모 시즌 업데이트를 앞둔 '로스트아크'가 이에 앞서 모험가들에게 업데이트 로드맵을 공개하고, 다양한 전시 프로그램과 이벤트를 선보이는 특별 쇼케이스다. 반기마다 진행되며 개발
더 밝고 화사하게... 마이크로닉스 'EM1-Woofer' 전면 쿨링팬 업그레이드
한미마이크로닉스가 'EM1-Woofer' 케이스의 전면 쿨링팬을 업그레이드했다.이번 업그레이드는 케이스 디자인을 기존보다 아름답게 개선하기 위해 진행됐다. 새로운 전면 쿨링팬은 조명을 케이스 내부에 균일하게 퍼뜨려 더 세련되고 조화로운 외형을 연출한다. 이번 개선 사항은 블랙과 화이트 제품에 적용된다.우퍼는 스피커 위성 유닛 우퍼에서 영감을 받은 독창적인 가구 같은 디자인이 특징이다. 내부에는 M-ATX와 M-ITX 메인보드를 장착
[정월 대보름 이야기] '코로나19'로 잃어버린 정월 대보름, 내년에는 꼭 찾고 싶다(198)
결국에 서방을 잡아먹은 팔자 드센 여자로, 화냥년이 아닌 화냥년이란 나락으로 떨어져야만 한단 말인가? 머리를 흔드는 복녀는 이 노릇을 어이 한단 말인가? 땅이 꺼지게 장탄식이다. 유부녀가 사별도 아니고 멀쩡하게 살아있는 남편을 내팽개치고 떠난 삶이 과연 옳은 삶일까? 한때는 왕비, 국모의 자리까지 마땅히 내 것 인양 여겼건만 어떻게 되었던가? 졸지에 남편을 잃은 것도 서러운데 시조카로부터 겁탈을 당하고, 성병을 옮아오고, 폐경기에 들어섰건만 애를 가졌다는 오해에 시달리는 등 온갖 풍문 끝에 역사의 죄인으로, 왕가(王家
최신기사
오후 9시 "안전운전 OO포유" 캐시워크 돈버는퀴즈 문제+정답!
캐시워크 돈버는퀴즈에서 "안전운전 OO포유"관련 퀴즈를 제시했다.목요일인 12월 19일 오후 9시경 제시된 '안전운전 OO포유'관련 문제는 "차량용 에어컨 필터
오후 9시 "폴햄 겨울아이템" 오퀴즈 문제+정답!
OK캐쉬백 오퀴즈에서 "폴햄 겨울아이템"관련 퀴즈를 제시했다.목요일인 12월 19일 오후 9시경 제시된 '폴햄 겨울아이템'관련 문제는 "폴햄 ㅎ ㅍ 대비 겨울아이
오후 9시 "다이아팩트" 캐시워크 돈버는퀴즈 문제+정답!
캐시워크 돈버는퀴즈에서 "다이아팩트"관련 퀴즈를 제시했다.목요일인 12월 19일 오후 9시경 제시된 '다이아팩트'관련 문제는 "다이아몬드 가루 함유, 최장 100
경부고속도로 위 화성 동탄1·2신도시, 이달 모두 통한다
경기 화성시 동탄1·2신도시를 잇는 경부고속도로 직선화 구간 상부연결도로가 이달 모두 개통된다.화성시와 한국토지주택공사는 오는 23일 오전 6시부터 경부고속도로 지하 직선화 구간 상부연결도로 중 2·5번 도로 개통을 시작으로 30일 3·4번 도로 등 보조간선도로 4곳이 순차적으로 개통된다고 19일 밝혔다.'경부고속도로 지하 직선화 사업'은 경부고속도로 1.2㎞ 구간을 지하화해 경부고속도로로 인해 단절됐던 동탄1·2신도시를 한 개의 생활권으로 연결하는 교통망 개선 사업이다.앞서 지난 3월 지하화 구간 양방향 개통과 지난 8월
딸기 하면 생각나는 곳은…68% '충남 논산'
서울지역 소비자 10명 가운데 7명은 딸기 하면 생각나는 곳으로 '충남 논산'을 꼽았다.19일 충남도 농업기술원이 지난 7월부터 한달 보름동안서울 소비자 500명을 대상으로 설문조사를 벌인 결과, 응답자의 67.8%가 딸기를 떠올렸을 때 생각나는 곳으로 논산을 선택했다.경남 산청과 밀양이 각각 6%와 4.4%로 뒤를 이었다.논산 딸기에 대해 알고 있냐는 질문에 82.6%가 알고 있다고 답했고, 인지 경로는 TV가 31%로 가장 많았다.논산 딸기가 프리미엄 브랜드로 자리매김하기 위해 고려할 사항으로는 품질 48%, 신선