자동차-마이크로소프트,CPU에서 돌아가는 AI 모델 개발

[디지털투데이 황치규 기자]마이크로소프트가 CPU에서도 돌아가는AI 모델 ‘비트넷 b1.58 2B4T’를 개발했다고 테크크런치가 16일(현지시간) 보도했다.

비트넷은기존 모델 대비 메모리와 연산 효율을 극대화한 것이 특징이다. 가중치를 -1, 0, 1 3가지 값으로만 표현해 하드웨어 부담을 줄였다. 이를 통해 CPU에서도 빠르게 작동할 수 있다는게 회사측 설명이다.

마이크로소프트 연구진은 “비트넷 b1.58 2B4T는 20억개 매개변수를 갖춘 첫 1비트 AI 모델로, 메타 라마3.2 1B, 구글 제미나이3 1B, 알리바바 큐웬2.5 1.5B와 비교해도 성능이 뛰어나다”고 강조했다.

마이크로소프트는 비트넷을 MIT 라이선스로 공개했다. 애플 M2 칩을 포함한 일부 CPU에서도 실행 가능하다.