AI 에이전트에 대한 관심이 뜨겁다. AI 에이전트는 디지털 직원으로서 충분히 업무를 수행할 수 있으며, 사용자를 위한 비서 역할을 충실히 해 보다 스마트한 일상을 누릴 수 있도록 도울 수 있다. 그러나 AI 에이전트 사용이 일상화되면, AI의 답변이 정확한지 판단하지 않고 무조건 믿게 되어 잘못된 결정을 내릴 수 있다. AI는 실수할 수 있으며, 편향된 답변을 도출할 수도 있다. 그러나 모든 AI 답변의 진위 여부를 따지는 사람은 많지 않다.이러한 문제를 해결하는 방법으로 AI 모델에 대한 레드팀 테스트가 제안된다.