AI 코딩 도구 커서(Cursor)의 전문가 혼합형(Mixture-of-Experts·MoE) 모델 학습 기술이 엔비디아($NVDA) GB300 GPU 512개 환경에서 전체 처리량을 41% 높였다는 보도가 나왔다. GPU 사이의 데이터 전송과 계산을 겹쳐 실행해 학습 병목을 줄이는 방식이다.
중국 모니터링 채널 동찰 비팅(Beating)은 5일 커서가 전문가 혼합형 모델 학습용 오픈소스 커널 ‘Mixture-of-Kittens(MoK)’를 공개했다고 전했다. 단일 전문가 혼합형 레이어 시험에서는 공개 대안보다 최대 2.37배 빠른 성능을 기록했다는 주장도 제시했다.
전문가 혼합형은 하나의 모델 안에 여러 전문가 네트워크를 두고 입력에 따라 일부만 호출하는 구조다. 계산량을 줄이면서…  더보기