자동차-더 작고 가벼워지는 AI…MS, CPU만으로 대형 시스템 성능 구현

[디지털투데이 AI리포터] 마이크로소프트(MS)가 1.58비트로 작동하는 AI 모델을 개발해 CPU만으로도 대형 시스템과 유사한 성능을 구현했다고 18일(현지시간) IT매체 아스테크니카가 전했다.

이 모델은 -1, 0, 1의 3가지 값만 사용하는 ‘삼진법’ 구조로 설계돼 메모리와 에너지를 획기적으로 절감한다. 기존 AI 모델이 16~32비트 부동소수점을 사용하는 것과 달리, MS는 1비트 수준까지 정밀도를 낮추면서도 성능을 유지하는 기술을 구현했다고 한다.

MS 연구진은 "이 모델은 0.4GB 메모리만으로 작동하며, 기존 모델보다 85~96% 적은 에너지를 소비한다"고 전했다. 또한 최적화된 커널을 활용해 CPU만으로도 초당 5~7토큰을 생성할 수 있어 인간의 읽기 속도와 유사한 성능을 보인다는 설명이다.

그러나 연구진은 "1비트 모델이 어떻게 기존 모델과 유사한 성능을 내는지 아직 완전히 이해하지 못했다"며 추가 연구가 필요하다고 강조했다.

그럼에도 MS의 이번 연구는 AI 모델이 더 작고 효율적으로 발전할 가능성을 열었으며, 향후 고성능 GPU 없이도 강력한 AI 시스템을 구현할 수 있는 길을 제시했다고 매체는 전했다.