AI가 업무 보조를 벗어나 실제 업무를 수행하는 주체가 되면서 ‘누가 더 똑똑한 AI를 쓰느냐’가 아니라 ‘누가 더 안전하게 AI를 통제하느냐’로 평가의 기준이 달라지고 있다. AI를 통제하지 못하면 섀도우 AI와 에이전트 문제를 비롯해 예상하지 못했던 에이전트의 오작동, 과도한 권한이 부여된 에이전트의 권한 오남용, 공격자의 프롬프트 인젝션 등 다양한 문제가 발생할 수 있다.김동현 크라우드스트라이크 이사는 “AI가 기업의 핵심 인프라와 기본 업무 도구가 되고 있지만, 보안 체계와 거버넌스는 이 속도를 따라가지 못하고
앤트로픽 최고경영자 다리오 아모데이가 AI 개발 속도를 늦춰야 한다고 주장했다. 최근 몇 달 사이 이런 확신을 갖게 됐다며, 그 계기 중 하나로 오픈AI 에이전트의 '탈옥' 해킹 사건을 꼽았다. 지난 7월 오픈AI 에이전트가 테스트 환경을 벗어나 AI 플랫폼 허깅페이스를 해킹하고 흔적까지 지운 사건이 있었다고 12일 비즈니스인사이더가 보도했다.■ "6~12개월 내 인터넷 장악 가능"아모데이는 토요일 공개한 블로그
오픈AI 수석과학자 야쿠프 파호츠키가 새 모델 '아스트라' 공개 직후 인공지능 연구소들의 개발 속도를 조절할 필요가 있다고 공개적으로 제기했다.6일 비즈니스인사이더에 따르면 야쿠프 파호츠키는 블로그 글에서 기계 지능이 빠르게 고도화될 경우 발생할 결과에 사회가 충분히 대비하지 못하고 있다며, 내부적인 기술 대응만으로는 부족하다고 밝혔다.야쿠프 파호츠키는 자율성이 높아진 AI 에이전트의 보안 위협을 핵심 위험으로 꼽았다. AI 에이전트가 공개 인터넷의 보호된 시
엔비디아가 로컬 네트워크에 연결된 여러 PC에 인공지능 작업을 분산하는 무료 오픈소스 도구 '페어'를 공개했다.3일 IT매체 엔가젯 등에 따르면 이 도구는 사용하지 않는 PC의 연산 자원을 활용해 AI 에이전트의 작업 처리 속도를 높이고, 여러 작업이 한 시스템의 그래픽처리장치에 몰리면서 발생하는 성능 저하를 줄이는 데 초점을 맞췄다.페어는 '퍼스널 AI 라우터'의 약자다. 같은 네트워크에 연결된 PC 가운데 유휴 상태이거나 여유 연
AI 에이전트의 성능을 결정하는 것은 대규모 언어 모델 자체만이 아니다. 모델이 도구를 사용하고 결과를 검증하며 장시간 작업을 이어가도록 만드는 주변 소프트웨어인 하네스가 또 하나의 핵심 경쟁력으로 떠오르고 있다.25일 일본 매체 기가진에 따르면 AI 소프트웨어 개발사 이어렌딜은 이를 단순화해 '에이전트=모델+하네스'로 설명했다. 챗GPT나 클로드 같은 모델은 질문을 이해하고 답을 생성할 수 있지만 웹에서 최신 정보를 찾고, 파일을 수정하고, 계산 결
AI 에이전트가 개발사의 통제선을 우회해 외부 사이트를 소통 수단으로 활용한 정황이 드러났습니다. 디지털포스트가 아침 주요 ICT 뉴스를 전해드립니다.■ 오픈AI의 AI 에이전트들이 외부 사이트에 글을 쓰지 못하도록 한 통제를 우회해 해당 사이트를 통신망으로 활용한 사실이 드러났습니다. 로이터통신은 9일 외부 조사팀 6곳이 지난 5~7월 10곳 넘는 위키·온라인 저장 사이트 등에서 에이전트의 흔적을 확인했다고 보도했습니다. 일부 에이전트는 오래된 위키의 허점을 찾아 정보를 남겼습니다
소비자를 대신해 예금과 대출, 투자, 보험상품을 비교하고 거래까지 수행하는 AI 에이전트가 확산하면서 금융회사의 경쟁 방식도 달라질 것이라는 분석이 나왔다. 앞으로는 고객을 자사 앱에 붙잡아 두는 것보다 '누가 고객의 금융상품 선택을 조직하느냐'가 핵심 경쟁요소로 부상할 수 있다는 전망이다.토스 운영사 비바리퍼블리카의 금융경영연구소 토스인사이트는 'AI 파이낸스 연구 시리즈' 두 번째 보고서 'AI, 금융의 경쟁을 다시 그리다'를 발간했다고 11일 밝혔다.보고서는 AI 에이전트의 역할이 예금·대출 비교에
와이즈넛이 AI 에이전트 제작을 위한 올인원 도구 ‘와이즈 에이전트 랩스’를 조달청 디지털서비스몰에 등록했다고 9일 밝혔다.이번 등록으로 정부부처와 공공기관은 디지털서비스몰을 통해 와이즈 에이전트 랩스를 구매할 수 있게 됐다. 완성된 AI 솔루션을 도입하는 방식뿐 아니라 기관별 업무에 맞는 AI 에이전트를 직접 설계·제작할 수 있는 환경을 제공한다.와이즈 에이전트 랩스는 AI 에이전트의 설계·개발부터 학습, 검증, 배포, 운영관리, 개선까지 전 과정을 하나의 환경에서 수행할
농협중앙회가 범농협 임원 및 집행간부를 대상으로 한 인공지능 실전교육을 본격 가동했다. 3일 서울시 중구 본관에서 열린 「경영진 AI 아카데미」 1차 교육은 조직 전반의 AX를 경영진이 직접 주도하도록 설계된 실무형 프로그램이다.농협중앙회가 이날 밝힌 바에 따르면, 이번 교육은 생성형 AI와 AI 에이전트의 최신 동향, 국내외 기업의 AI 활용 사례, AI를 활용한 의사결정 방법론 등 세 축으로 구성됐다. 단순한 기술 개념 소개에 그치지 않고 경영 현안과 실제 업
앤트로픽이 클로드의 사이버보안 학습·평가 과정에서 실제 외부 시스템에 무단 접근한 사건이 발생하자 테스트 환경의 격리와 실시간 감시를 강화했다. AI 에이전트의 능력이 커지면서 모델 자체의 정렬뿐 아니라 모델을 시험하는 인프라 보안도 새로운 위험요인으로 떠오른 모습이다.1일 IT 매체 비즈니스인사이더에 따르면 앤트로픽은 모델이 테스트 환경을 공격적으로 탐색하거나 이탈을 시도하고, 예상치 못하게 인터넷에 접속할 경우 이를 실시간으로 감지하는 분류기를 배치했다. 이상 행동이 포착되면 도구 실행
주요키워드
인기기사
김승원 '신약 로비' 의혹, 경찰 재수사 검토
김승원 법무부 장관 후보자를 둘러싼 '코로나19 신약 임상시험 승인 청탁' 의혹이 7일 여야 전면전 양상으로 번졌다. 더불어민주당은 당 차원의 전담 대응팀을 꾸려
대구시, ‘제31회 대구광역시 조경상’ 공모
대구시는 도시경관을 아름답게 가꾸는 데 시민들의 적극적인 참여를 유도하고자 ‘제31회 대구광역시 조경상’을 공모한다. 대구시 조경상은 주변 경관과 조화를 이루고 도시경관 향상...
녹십자수의약품, 임직원·가족·대학생 원팀 유기견 봉사
녹십자수의약품은 지난 5일 경기 용인에 있는 유기견 보호소 ‘행복한강아지들이 사는 집’에서 유기견 봉사 활동을 진행했다. 이번 봉사는 사내 봉사단체인 ‘가치그린봉사단’ 활동 일환이다. 임직원과 가족 22명, 대학생 브랜드 서포터즈 11명 등 총 33명이 참여했다. 특히 대학생 서포터즈들이 임직원 및 가족들과 한 팀을
에경연, 글로벌 에너지시장·AI 전력수요 해법 모색
에너지경제연구원이 개원 40주년을 맞아 글로벌 에너지시장과 기후정책 변화부터 인공지능 시대 전력수요와 전력망 혁신까지 에너지정책의 미래 방향을 논의한다.국제에너지기구 사무총장을 비롯한 국내외 전문가들이 에너지안보와 산업경쟁력을 아우르는 정책 과제를 짚는다.에너지경제연구원은 오는 17일 오전 11시부터 오후 4시 20분까지 서울 엘타워 7층 그랜드홀에서 ‘개원 40주년 기념 정책세미나’를 개최한다.이번 세미나는 ‘에너지·기후·번영의 미래를 그리다’를 대주제로 열린다. 글
‘기술개발인의 날’ 첫 국가기념식…기술인 101명·단체 포상
‘2026 기술개발인의 날’ 기념식이 7일 페어몬트 앰배서더 서울에서 열렸다.기념식에는 한성숙 국무총리와 송기헌 국회 과학기술정보방송통신위원장, 구혁채 과학기술정보통신부 차관 등 산·학·연 주요 인사가 참석했다.이날 민간 연구개발과 기술경영에 기여한 유공자에게 훈장 3점과 포장 4점, 대통령표창 20점, 국무총리표창 28점 등 정부포상 55점이 수여됐다. 부총리표창 35점과 한국산업기술진흥협회장상인 우수연구자상 11점도 수여됐다.과학기술훈장 혁신장은 세계 최초 1Gb 낸드플래시 양산과 수직 적층 낸드플래시 개발에 기여
최신기사
구미시, 청소년 예술체험 ‘아트브릿지’ 하반기 운영
구미지역 청소년들이 객석을 넘어 무대 뒤까지 직접 경험하며 문화예술과 한층 가까워진다.구미시는 청소년들이 공연과 전시를 관람하고 무대 뒤 공간과 공연 제작 과정까지 체험하는 문화예술교육 프로그램 ‘아트브릿지 구미’ 하반기 프로그램을 본격 운영한다고 밝혔다
대구 국제물주간 폐막…물·에너지·AI 융합 협력 확대
대한민국 대표 글로벌 물산업 행사인 ‘대한민국 국제물주간 2026’이 3일 간의 일정을 마무리하고 지난 11일 폐막된 가운데 이번 행사가 물·에너지·AI 융합기술의 미래를 제시하는 한편, 지역 물기업의 비즈니스 기회를 크게 넓혔다는 평가가 나오고 있다.특히, K
지방어항 목표 '삼목항 거점화' 시동
인천시가 어촌정주어항인 영종구 삼목항을 다기능 어항으로 개발하기 위해 구체적 어항 개발계획 수립에 나섰다. 삼목항의 지방어항 지정을 목표로 정부와 협의도 이어간다.
김천시립예술단, 「한가위 달빛 콘서트」 개최
김천시 문화예술회관은 오는 9월 17일 오후 7시 30분 율곡동 안산공원 야외공연장에서 2026 김천시립예술단 가을음악회 「한가위 달빛 콘서트」를 개최한다.이번 공연은 풍요로운 한가위를 앞두고 시민들과 함께 가을의 정취를 느끼며 일상에 특별한 감동을 선사하기 위해 마련됐다. 김천시립국악단과 김천시립합창단이 함께 무대에 올라 국악과 합창의 조화로운 선율을 선보이며, 국악가요와 민요, 대중가요, 사물놀이 등 다양한 장르의 음악을 한자리에서 만나볼 수 있다. 또한 국악인 오정해・곽지은・민정민, 가수 전미경 등이 출연해 우리 음악의
초등학교 투신 시도 관련 학폭 신고...학폭심의위, "학폭 아니다"
지난해 제주에서 발생한 초등학생 투신 시도 사건과 관련해 가해 학생으로 지목된 학생과 피해를 호소하는 학생이 각각 제기한 학교폭력 사안이 학교폭력심의위원회에서 학교폭력이 아니라는 결정이 내려진 것으로 알려졌다.‘정치하는엄마들’과 학교폭력 피해를 호소하는 학부모는 지난 11일 성명을 내고 지난해 11월 투신을 시도했던 학생을 도와준 A학생이 지난 5월 학생 2명을 학교폭력으로 신고하자 다음날 이중 한 명으로부터 학교폭력으로 맞신고를 당했다고 밝혔다.‘정치하는엄마들’은 또 “투신을 시도했던 B학생이 7월 24일 자신을 괴롭힌 학생을 학