AI21랩스(AI21 Labs)가 오늘 새롭게 공개한 ‘잠바 리즈닝 3B(Jamba Reasoning 3B)’는 초소형 언어모델(SLM)로서 생성형 AI의 경제성을 근본적으로 바꾸겠다는 야심을 담고 있다. 이 모델은 서버가 아닌 로컬 기기에서 직접 실행할 수 있도록 최적화돼, 연산 자원을 크게 아끼는 동시에 지연시간도 줄일 수 있는 점이 특징이다. AI21랩스는 이를 통해 AI 탄력성과 프라이버시, 그리고 운영비용 측면에서 대기업뿐 아니라 중소기업에게도 실질적인 혜택을 제공할 수 있다고 강조했다.
잠바 리즈닝 3B는 AI21랩스가 자체 개발한 하이브리드 SSM-트랜스포머 아키텍처를 기반으로 한다. SSM(State Space Model)은 현재 상태를 예측한 뒤, 다음… 더보기


답글 남기기