맥북에서 초당 131토큰 나오는
코딩 모델이 무료로 풀렸습니다.
400억 파라미터 모델인데
실제로는 25억만 돌려 씁니다.
내 맥에서 되는지 정리했습니다
[댓글 @diggit.ai]
1/ 무슨 모델인가
Recursive의 코딩 모델 Flint입니다.
전체 40B 중 2.5B만 쓰는 구조입니다.
[댓글 @diggit.ai]
2/ 속도
M4 Pro 맥북 프로에서 초당 약 131토큰.
비슷한 모델은 58~69토큰이었습니다.
체감 속도가 두 배 가까이 차이 납니다.
[댓글 @diggit.ai]
3/ 성능
SWE-Bench Verified에서
500억 파라미터 미만 모델 중 최고였습니다.
6개 평가 평균에서는
알리바바 Qwen3.8 27B만 앞섰습니다.
[댓글 @diggit.ai]
4/ 쓰기 전에 볼 것
일부 테스트에는 RAM 48GB 이상이 필요했습니다.
내 맥 메모리부터 확인해 보세요.
Apache 2.0이라 무료로 쓰고 고칠 수 있습니다.
[댓글 @soshimja]
M1max 32gb에선 어림없겠져? ㅠㅠ
[댓글 @withfox]
커스텀으로 깎으면 될지도요