앤트로픽이 인공지능의 행동을 실험하고 평가하는 오픈소스 프레임워크 '블룸'을 공개했다.22일 실리콘앵글에 따르면, 블룸은 연구자가 정의한 특정 행동을 유도하고, 시나리오를 만들어 AI가 해당 행동을 얼마나 자주, 심각하게 나타내는지 평가하는 도구다. 이는 AI 모델 평가 과정에서 발생하는 반복적인 작업을 줄이고, AI가 인간의 가치와 판단에 얼마나 부합하는지를 측정하는 데 중점을 두고 있다.예를 들어, AI가 잘못된 정보를 퍼뜨려 사용자 참여를 극대화하는 행동은 수익을 높이지