인공지능과의 채팅에서 개인 정보를 언급하면 안 되는 또 다른 이유가 밝혀졌다. 17일 IT매체 나인투파이브맥에 따르면 미국 캘리포니아대학교 샌디에이고와 싱가포르 난양기술대학교의 보안 연구원들은 챗봇이 채팅에 포함된 모든 개인 데이터를 수집해 자신의 서버에 업로드하도록 명령하는 새로운 공격 방법을 공개했다.이를 통해 대규모언어모델은 채팅에서 이름, 신분증 번호, 결제 카드 정보, 이메일 주소, 우편 주소 등의 개인 정보를 수집해 해커에게 직접 보내도록 명령할 수 있다.