AI가 업무 보조를 벗어나 실제 업무를 수행하는 주체가 되면서 ‘누가 더 똑똑한 AI를 쓰느냐’가 아니라 ‘누가 더 안전하게 AI를 통제하느냐’로 평가의 기준이 달라지고 있다. AI를 통제하지 못하면 섀도우 AI와 에이전트 문제를 비롯해 예상하지 못했던 에이전트의 오작동, 과도한 권한이 부여된 에이전트의 권한 오남용, 공격자의 프롬프트 인젝션 등 다양한 문제가 발생할 수 있다.김동현 크라우드스트라이크 이사는 “AI가 기업의 핵심 인프라와 기본 업무 도구가 되고 있지만, 보안 체계와 거버넌스는 이 속도를 따라가지 못하고
앤트로픽 최고경영자 다리오 아모데이가 AI 개발 속도를 늦춰야 한다고 주장했다. 최근 몇 달 사이 이런 확신을 갖게 됐다며, 그 계기 중 하나로 오픈AI 에이전트의 '탈옥' 해킹 사건을 꼽았다. 지난 7월 오픈AI 에이전트가 테스트 환경을 벗어나 AI 플랫폼 허깅페이스를 해킹하고 흔적까지 지운 사건이 있었다고 12일 비즈니스인사이더가 보도했다.■ "6~12개월 내 인터넷 장악 가능"아모데이는 토요일 공개한 블로그
오픈AI 수석과학자 야쿠프 파호츠키가 새 모델 '아스트라' 공개 직후 인공지능 연구소들의 개발 속도를 조절할 필요가 있다고 공개적으로 제기했다.6일 비즈니스인사이더에 따르면 야쿠프 파호츠키는 블로그 글에서 기계 지능이 빠르게 고도화될 경우 발생할 결과에 사회가 충분히 대비하지 못하고 있다며, 내부적인 기술 대응만으로는 부족하다고 밝혔다.야쿠프 파호츠키는 자율성이 높아진 AI 에이전트의 보안 위협을 핵심 위험으로 꼽았다. AI 에이전트가 공개 인터넷의 보호된 시
엔비디아가 로컬 네트워크에 연결된 여러 PC에 인공지능 작업을 분산하는 무료 오픈소스 도구 '페어'를 공개했다.3일 IT매체 엔가젯 등에 따르면 이 도구는 사용하지 않는 PC의 연산 자원을 활용해 AI 에이전트의 작업 처리 속도를 높이고, 여러 작업이 한 시스템의 그래픽처리장치에 몰리면서 발생하는 성능 저하를 줄이는 데 초점을 맞췄다.페어는 '퍼스널 AI 라우터'의 약자다. 같은 네트워크에 연결된 PC 가운데 유휴 상태이거나 여유 연
AI 에이전트의 성능을 결정하는 것은 대규모 언어 모델 자체만이 아니다. 모델이 도구를 사용하고 결과를 검증하며 장시간 작업을 이어가도록 만드는 주변 소프트웨어인 하네스가 또 하나의 핵심 경쟁력으로 떠오르고 있다.25일 일본 매체 기가진에 따르면 AI 소프트웨어 개발사 이어렌딜은 이를 단순화해 '에이전트=모델+하네스'로 설명했다. 챗GPT나 클로드 같은 모델은 질문을 이해하고 답을 생성할 수 있지만 웹에서 최신 정보를 찾고, 파일을 수정하고, 계산 결
AI 에이전트가 개발사의 통제선을 우회해 외부 사이트를 소통 수단으로 활용한 정황이 드러났습니다. 디지털포스트가 아침 주요 ICT 뉴스를 전해드립니다.■ 오픈AI의 AI 에이전트들이 외부 사이트에 글을 쓰지 못하도록 한 통제를 우회해 해당 사이트를 통신망으로 활용한 사실이 드러났습니다. 로이터통신은 9일 외부 조사팀 6곳이 지난 5~7월 10곳 넘는 위키·온라인 저장 사이트 등에서 에이전트의 흔적을 확인했다고 보도했습니다. 일부 에이전트는 오래된 위키의 허점을 찾아 정보를 남겼습니다
소비자를 대신해 예금과 대출, 투자, 보험상품을 비교하고 거래까지 수행하는 AI 에이전트가 확산하면서 금융회사의 경쟁 방식도 달라질 것이라는 분석이 나왔다. 앞으로는 고객을 자사 앱에 붙잡아 두는 것보다 '누가 고객의 금융상품 선택을 조직하느냐'가 핵심 경쟁요소로 부상할 수 있다는 전망이다.토스 운영사 비바리퍼블리카의 금융경영연구소 토스인사이트는 'AI 파이낸스 연구 시리즈' 두 번째 보고서 'AI, 금융의 경쟁을 다시 그리다'를 발간했다고 11일 밝혔다.보고서는 AI 에이전트의 역할이 예금·대출 비교에
와이즈넛이 AI 에이전트 제작을 위한 올인원 도구 ‘와이즈 에이전트 랩스’를 조달청 디지털서비스몰에 등록했다고 9일 밝혔다.이번 등록으로 정부부처와 공공기관은 디지털서비스몰을 통해 와이즈 에이전트 랩스를 구매할 수 있게 됐다. 완성된 AI 솔루션을 도입하는 방식뿐 아니라 기관별 업무에 맞는 AI 에이전트를 직접 설계·제작할 수 있는 환경을 제공한다.와이즈 에이전트 랩스는 AI 에이전트의 설계·개발부터 학습, 검증, 배포, 운영관리, 개선까지 전 과정을 하나의 환경에서 수행할
농협중앙회가 범농협 임원 및 집행간부를 대상으로 한 인공지능 실전교육을 본격 가동했다. 3일 서울시 중구 본관에서 열린 「경영진 AI 아카데미」 1차 교육은 조직 전반의 AX를 경영진이 직접 주도하도록 설계된 실무형 프로그램이다.농협중앙회가 이날 밝힌 바에 따르면, 이번 교육은 생성형 AI와 AI 에이전트의 최신 동향, 국내외 기업의 AI 활용 사례, AI를 활용한 의사결정 방법론 등 세 축으로 구성됐다. 단순한 기술 개념 소개에 그치지 않고 경영 현안과 실제 업
앤트로픽이 클로드의 사이버보안 학습·평가 과정에서 실제 외부 시스템에 무단 접근한 사건이 발생하자 테스트 환경의 격리와 실시간 감시를 강화했다. AI 에이전트의 능력이 커지면서 모델 자체의 정렬뿐 아니라 모델을 시험하는 인프라 보안도 새로운 위험요인으로 떠오른 모습이다.1일 IT 매체 비즈니스인사이더에 따르면 앤트로픽은 모델이 테스트 환경을 공격적으로 탐색하거나 이탈을 시도하고, 예상치 못하게 인터넷에 접속할 경우 이를 실시간으로 감지하는 분류기를 배치했다. 이상 행동이 포착되면 도구 실행
주요키워드
인기기사
울산가톨릭문인협회, 첫 사화집 ‘봄 빛, 가을 소금’ 출간
울산가톨릭문인협회가 37인 사화집 을 출간했다. 지난 2024년 2월15일 창립 후 울산 지역 천주교 성지 순례와 문학사진전 순회 전시, 신앙의 색채: ‘예술로 그리다’전 참여 등 꾸준히 활동 반경을 넓혀온 울산가톨릭문인협회의 첫 사화집이다. 이 책에는 시 41편, 시조 9편, 동시 2편, 평론 1편, 동화 1편, 소설 1편, 기획 ‘신앙 산문’ 1편이 실려 있다. 기획으로 실린 김영곤 신부의 ‘신앙의 기억’은 신앙의 기억을 보존하고 다음 세대에 전하는 일이 곧 신앙의 계승이며 역사 만들
“일도 돌봄도 숲에서 함께”…국립진안고원산림치유원 가족형 워케이션
국립진안고원산림치유원은 9월3일부터 5일까지 한국산림복지진흥원 직원 가족을 대상으로 ‘가족형 산림워케이션’을 운영했다.이번 프로그램은 양육기 근로자
"또 예산이 없다네요"... 자원순환가게, 시민참여 못따라가는 보상
“시에 예산이 없어 종량제 봉투를 더 이상 못 준다네요.” 남동자원순환가게를 이용하는 한 주민의 얘기다.올해로 시행 6년 차를 맞이한 인천자원순환가게는 올바른 재활용품 분리배출과 지속 가능한 자원순환 문화를 조성한다는 취지로 출발했다.특히, 올해부터 수도권매립지에 직매립이 전면 금지됨에 따라 시는 자원을 장기간 순환시키면서 폐기물 감량 조처로 이 사업을 이끌어 오고 있다.인천자원순환가게는 인천광역시가 2021년 전국 광역시 중 최초로 3개 구 17개소에서 시범운영으로 시작한 사업이다.이후 2022년 8개 구 56곳, 2023년 82
에경연, 글로벌 에너지시장·AI 전력수요 해법 모색
에너지경제연구원이 개원 40주년을 맞아 글로벌 에너지시장과 기후정책 변화부터 인공지능 시대 전력수요와 전력망 혁신까지 에너지정책의 미래 방향을 논의한다.국제에너지기구 사무총장을 비롯한 국내외 전문가들이 에너지안보와 산업경쟁력을 아우르는 정책 과제를 짚는다.에너지경제연구원은 오는 17일 오전 11시부터 오후 4시 20분까지 서울 엘타워 7층 그랜드홀에서 ‘개원 40주년 기념 정책세미나’를 개최한다.이번 세미나는 ‘에너지·기후·번영의 미래를 그리다’를 대주제로 열린다. 글
김승원 '신약 로비' 의혹, 경찰 재수사 검토
김승원 법무부 장관 후보자를 둘러싼 '코로나19 신약 임상시험 승인 청탁' 의혹이 7일 여야 전면전 양상으로 번졌다. 더불어민주당은 당 차원의 전담 대응팀을 꾸려
최신기사
복지수요 폭증 인천 남동구, 일손 태부족
인천 남동구 기초생활수급자 수 등 사회복지 수요가 폭발적으로 증가하고 있으나 이를 전담할 현장 인력이 턱없이 부족해 행정 과부하와 복지 사각지대 발생 우려가 커지고 있다.13일 남동구에 따르면 구 사회복지직 공무원 현원은 204명에 불과한 것으로 집계됐다.
예천 ‘3DIVA’ 뮤지컬 갈라콘서트 성료
예천문화관광재단은 지난 12일 예천군문화회관에서 열린 ‘3DIVA 뮤지컬 갈라콘서트’를 성황리에 마무리했다고 밝혔다.뮤지컬 배우 홍지민과 리사, 송은혜는 대중에게 사랑받아 온 뮤지컬 명곡을 각자의 개성이 돋보이는 솔로 무대와 세 배우의 하모니가 어우러진 합동
지방어항 목표 '삼목항 거점화' 시동
인천시가 어촌정주어항인 영종구 삼목항을 다기능 어항으로 개발하기 위해 구체적 어항 개발계획 수립에 나섰다. 삼목항의 지방어항 지정을 목표로 정부와 협의도 이어간다.
대구시, 우즈베키스탄 지방정부와 협력 확대 모색
대구시는우즈베키스탄 지방정부와의 교류·협력 성과를 공유하고, 양국 지방정부 간 실질적인 협력 확대 방안을 모색키로 했다.대구시는 지난 11일 서울에서 개최된 ‘한-우즈베키스탄 지방정부 협력 포럼’에 참가했다.대한민국시도지사협의회와 주한우즈베키스탄대사관이 공동 주최한 이번 포럼에서 대구
구미시, 청소년 예술체험 ‘아트브릿지’ 하반기 운영
구미지역 청소년들이 객석을 넘어 무대 뒤까지 직접 경험하며 문화예술과 한층 가까워진다.구미시는 청소년들이 공연과 전시를 관람하고 무대 뒤 공간과 공연 제작 과정까지 체험하는 문화예술교육 프로그램 ‘아트브릿지 구미’ 하반기 프로그램을 본격 운영한다고 밝혔다