안녕하세요! 오늘도 흥미로운 테크 소식을 들고 왔어요. 요즘 개발 환경에서 AI 도구는 정말 필수적인 존재가 되었죠? 그런데 이 AI를 사용하는 데 드는 비용이 생각보다 만만치 않다는 사실, 알고 계셨나요?
💡 AI 코딩 비용을 획기적으로 줄인 비결
최근 영국 핀테크 기업인 레볼루트(Revolut)가 아주 놀라운 소식을 전해왔어요. 약 2,000명의 엔지니어가 사용하는 AI 코딩 도구의 추론 비용을 1년이 채 안 되는 기간 동안 약 90%나 줄였다고 합니다. 그 비결은 바로 기존에 쓰던 클로드(Claude) 같은 모델 대신, 중국 Z.ai가 개발한 오픈 웨이트(Open Weights) 모델인 GLM을 자체 서버의 기본값으로 설정한 것이었어요.
💡 오픈 웨이트 모델이 주는 의미
여기서 말하는 '오픈 웨이트' 모델은 모델의 가중치가 공개되어 있어, 기업이 자신의 서버에 직접 올려서 사용할 수 있는 모델을 뜻해요. 외부 API를 호출하는 방식이 아니라 자체 서버에서 모델을 구동함으로써 비용 효율성을 극대화하고 데이터 보안이나 제어권을 높일 수 있는 아주 강력한 방법이죠.
개인적으로 이번 소식을 보며 느낀 점은, 이제는 무조건 거대 모델을 쓰는 것보다 우리 서비스와 환경에 최적화된 모델을 직접 운영하는 것이 얼마나 중요한지를 보여주는 사례라는 점이에요. 앞으로 기업들이 범용적인 AI를 넘어, 특정 목적에 특화된 모델을 직접 구축하거나 효율적으로 운영하는 트렌드가 더욱 가속화될 것 같아요.
기술의 발전이 비용 절감이라는 실질적인 비즈니스 가치로 이어지는 과정이 정말 흥미롭네요. 다음에도 유익한 소식으로 찾아올게요!