인공지능 기반 유해성 감소 기업 유마니텍이 '가디언 에이전트'를 출시했다. 이 플랫폼은 대형언어모델의 환각 현상과 딥페이크, 신원 도용 등 디지털 신원 위협을 방어하는 데 초점을 맞췄다.3일 실리콘앵글에 따르면, 유마니텍은 새로운 자문위원회를 구성하고 투자 유치에도 성공했다. 유마니텍은 틱톡과 엑스 등 주요 플랫폼과 법 집행 기관이 개인 정보 보호와 경쟁, 지정학적 문제로 데이터를 공유하기 어려운 상황에서도, 유해
인공지능 챗봇이 사실과 다른 정보를 그럴듯하게 전달하는 환각 현상이 여전히 발생하고 있어, 사용자의 주의와 검증이 필수적이라는 지적이 나왔다.15일 IT매체 테크레이더에 따르면, 챗GPT, 제미나이 등 주요 AI 모델은 훈련 데이터 기반 패턴을 예측해 답변을 생성하는 과정에서 잘못된 정보나 존재하지 않는 세부 데이터를 포함할 수 있다. 날짜, 이름, 구체적 사실이 포함된 답변도 실제 근거가 없을 수 있어, 사용자 스스로 검증할 필요가 있다.환각의 특징 중 하나는
AI의 최신 모델조차도 웹 검색 기능을 활용해도 약 30% 확률로 사실과 다른 정보를 생성하는 것으로 나타났다.10일 온라인 매체 기가진은 스위스 연방공과대학 로잔과 유럽 AI 연구기관 ELLIS 연구팀의 보고서를 인용해, AI의 사실 오류, 즉 할루시네이션을 정밀하게 측정할 수 있는 새로운 벤치마크 할루하드를 개발했다고 전했다. 할루하드는 단발성 질문이 아닌 현실적인 3턴 대화 형식으로 진행되며, 법률·연구·의학·프로그래밍 등 4개 전문 분야의 950개 문제를 기
몽고DB가 보이지 AI’ 모델을 자사 플랫폼에 내재화하며 엔터프라이즈 AI 시장 공략에 나선다. 몽고DB는 샌프란시스코에서 열린 ‘닷로컬’ 행사에서 ‘보이지 AI’의 임베딩 및 리랭킹 모델을 몽고DB 플랫폼에 직접 통합한다고 16일 밝혔다.이를 통해 개발자는 데이터를 외부로 이동하거나 중복 생성할 필요 없이, 단일 시스템 내에서 환각 위험성을 줄인 고성능 AI 애플리케이션을 구축할 수 있게 됐다. 대규모 환경서 정확도 일관성 확보이번 협력으로 몽고DB
챗GPT 등 생성형 AI와의 대화가 일부 사용자에게 정신적 영향을 미치며 'AI 정신병' 우려가 커지고 있다.21일 온라인 매체 기가진은 캐나다 몬트리올대 정신의학·중독학부 임상 조교수인 알렉상드르 후동 박사의 연구 결과를 인용해, 생성형 AI가 정신적으로 취약한 사용자의 정신병 증상을 악화시키거나 새로운 증상을 유발할 가능성이 있다고 전했다. AI 정신병은 공식 진단명은 아니지만, AI와의 상호작용으로 형성·강화되는 환각, 망상, 사고 혼란 등의 증상을 설명하기 위해 연구자들이 사용하는 용어다
주요키워드
인기기사
[임상 이후를 설계하라] ④ 유상증자·CB는 ‘면죄부’가 아닌 ‘독촉장’… 성과 없는 시간 소진은 ‘독’
최근 제약바이오 업계에서는 유상증자, 전환사채, 교환사채, 로열티 선현금화 등 다양한 방식의 자금 조달이 이어지고 있다
울산과학대(기계공학부) ‘육성형 전문기술학과’ 시범지정
울산과학대학교 기계공학부가 법무부 지정 ‘육성형 전문기술학과’ 운영대학에 시범 지정됐다. 법무부는 지난 5일 높은 수준의 한국어 능력을 갖추고 지역 중소기업에서 필요로 하는 ‘중간수준 이상의 기술력’을 갖춘 전문대 유학생을 체계적으로 육성하기 위해 울산과학대를 포함해 전국 16개 전문대학에 학교당 1개 학과씩 ‘육성형 전문기술학과’를 시범 지정했다. 이번 시범 지정은 저학력·단순노무의 외국인근로자를 해외에서 직접 도입하던 기존의 방식에서 벗어나 국내 전문대학을 활용해 적정 임금을 받으며 우리 사회에 안정적으로 정착할 수 있는 우수
정부, 통합돌봄 전국 확대...공무원 인건비 6개월치 "찔끔"
정부의 통합돌봄 지원 사업을 맡을 공무원 인건비가 한시적으로 책정돼 제주특별자치도의 예산 부담이 가중될 우려를 낳고 있다.8일 제주도 따르면 오는 3월 돌봄통합지원법 시행에 맞춰 통합돌봄 체계 구축을 위해 사회복지직·간호직·보건직 공무원 91명을 신규 채용한다.보건복지부는 통합돌봄 공무원 62명을 채용해 도내 43개 읍·면·동과 6개 보건소 등에 각각 1명을 배치하도록 했다. 도는 3만명 이상 동지역과 수요가 많은 보건소를 감안해 29명을 추가 증원, 모두 91명을 채용한다.그런데 복지부는 지자체가 통합돌봄 전담인력을 채용해야 한다
안민석 경기도교육감 예비후보, '안심캠프' 선거사무소 개소
안민석 경기도교육감 예비후보가 8일 김상곤 전 교육부 장관과 전 김누리 중앙대학교 교수, 이강철 노무현대통령 청와대 시민사회수석, 강남훈 전 기본사
60조원대 비트코인 오지급… 빗썸 사태로 드러난 중앙화 거래소 ‘장부 리스크’
가상자산 거래소 빗썸에서 발생한 60조원대 비트코인 오지급 사고를 계기로 중앙화 거래소의 장부 거래 구조와 내부통제 체계가 도마 위에 올랐다. 거래소가 실제 보유한 물량을 크게 웃도는 코인이 전산상 생성·유통됐다가 회수되는 과정이 드러나면서, 이용자들 사이에서는 이른바 ‘돈 복사’ 논란까지 제기되고 있다.8일 가상자산 업계에 따르면 빗썸과 같은 중앙화 거래소는 고객이 입금한 코인을 자체 지갑에 보관한 뒤, 매매가 이뤄질 때마다 블록체인에 직접 기록하지 않고 내부 데이터베이스상의 잔고만 변경하는 방식으로 운영된다
최신기사
"설 명절에도 춘천 일상을 지킨다" 육동한 시장 민생 점검에 나서
설 연휴를 앞둔 14일, 육동한 춘천시장이 지역 곳곳을 돌며 ‘연휴에도 멈추지 않는 현장’을 찾았다. 육동한 시장은 이날 아침 7시 주요 도로와 상가 밀집 지역의 환경 정화를 책임지는 환경미화원들과 식사를 함께하며 현장의 애로사항을 들었다. 육 시장은 “시민이 체감하는 깨끗한 명절은 여러분의 손에서 시작된다”며 감사의 뜻을 전했다.이어 설 연휴 응급의료 비상진료체계를 점검하기 위해 인성병원, 한림대춘천성심병원, 강원대병원을 차례로 방문했다. 이날 육동한 시장은 각 응급의료센터에서 당직 운영 상황과 인력 배치, 환자 대응 체계를 확인
충청권 경유 초고압 송전선로… 김광운 의원 “지방의회와 주민 의견 적극 반영해야”
초고압 송전선로 건설 사업이 충청권의 방어선 구축으로 이어지고 있다. 주민들은 물론 충청 정치권과 공공기관의 저항도 갈수록 높아지고 있다.이런 가운데 충청광역연합의회가 이를 막아서기 위한 정치적 행위를 보이고 있다. 김광운 의원은 13일 열린 제8회 임시회 제2차 본회의 5분자유발언에서 수도권 전력 수요 충당을 목적으로 추진 중인 초고압 송전선로 건설 사업의 즉각적인 중단과 전면 재검토를 강력히 촉구했다.김 의원은 “수도권을 위한 345kv급 초고압 송전선로 사업이 지방의회와 주민 의견을
한국도로공사 수도권본부, 설맞이 장애인 가정에 ‘온기 나눔’ 실천
한국도로공사 수도권본부가 설 명절을 앞두고 지역사회 소외계층을 위한 따뜻한 나눔 행보에 나섰다.도로공사 수도권본부는 지난 13일, 경기도 고양시장애인종합복지관을 찾아 지역 내 취약계층 장애인 가정을 지원하기 위한 나눔 행사를 진행했다고 밝혔다.이번 행사는 민족 대명절인
속 뻥 뚫리는 드라이브코스
14일 한국관광공사는 명절 스트레스 싹 날려줄 속 뻥 뚫리는 드라이브코스 3곳을 소개했다. 바다 위로 시원하게 뻗은 해안도로부터 굽이진 숲길 끝...
명절 집중단속에도 음주·무면허 운전 여전…추석 기간 일평균 293건 적발
설·추석 명절 연휴 기간 집중 단속에도 불구하고 음주·무면허 운전이 평시 수준을 웃돌거나 비슷한 수준을 유지하고 있는 것으로 나타났다. 특히 추석 연휴 기간 음주운전 적발 건수는 일부 연도에서 연중 평균을 초과하는 등 명절 교통 안전에 적신호가 켜졌다는 지적이다.14일 송언석 국민의힘 원내대표가 경찰청으로부터 제출받은 자료에 따르면, 최근 5년간 명절 연휴 기간 음주·무면허 운전 적발 건수는 집중 단속에도 불구하고 평시 수준을 웃돌거나 유사한 수준을 보였다.경찰청 자료에 따르면 2025년 음주운