마이크로소프트, 애플, 메타 등 빅테크 기업들이 거대언어모델이 아닌 소형언어모델를 선보이며 작지만 강하다는 점을 집중 부각하고 있다.마이크로소프트는 파이-3 시리즈, 애플은 오픈ELM을 선보였다. 이중 마이크로소프트는 파이3 시리즈 중 가장 소규모 모델인 파이-3 미니에 대해 일부 작업에선 오픈AI GPT-3.5 수준 역량을 보여준다고 강조해 눈길을 끈다. 참가로 파이-3 미니 매개변수는 38억개고, GPT 3.5는 1750억개다. 메타도 최근 라마3 시리즈 중 상대적으로 작은 규모인