반응형

안녕하세요, 리키입니다. 오늘은 우리가 흔히 생각하는 네트워크 저장 장치(NAS)를 가지고 지역 인공지능(AI)을 구동하려는 것에 대해 이야기해 보려고 합니다.

많은 분들이 NAS를 홈랩(homelab) 환경에 추가하면 사진이나 파일을 백업하고, 젤리핀(Jellyfin)이나 플렉스(Plex) 같은 미디어 서버를 돌리거나 구독 서비스를 대체할 수 있어서 좋다고 생각하더군요. 실제로 NAS는 편리하고 가격도 합리적이라 인기가 많습니다. 하지만 여기에 지역 AI를 구동하는 용도로 NAS를 구매하는 것은 현실적으로는 조금 어렵다는 점을 말씀드리고 싶습니다.

NAS는 파일 공유나 미디어 스트리밍 같은 작업에는 훌륭하지만, AI 작업에는 적합하지 않다는 것이 핵심입니다. 대부분의 주요 NAS 제조사들은 전력 소모를 최소화하면서 파일을 제공하는 데 중점을 둔 저전력 CPU를 사용합니다. 아무리 고성능의 NAS라도 램(RAM)이 32기가바이트 이상이라 하더라도, AI 작업에서 필요한 처리 속도, 즉 초당 토큰(tokens per second) 처리 능력은 매우 제한적입니다. 결국 사용자는 타이핑 속도보다 느리게 텍스트를 생성하는 기계를 기다리게 될 수 있는 것이죠.

만약 이미 NAS가 있다면 AI 용도로 사용하는 데는 전혀 문제가 없습니다. 다만, 특정 목적을 가지고 NAS를 구매하는 것은 지양해야 합니다. 만약 공간 효율성과 에너지 효율성을 동시에 고려한다면, NAS에만 집중하기보다는 다른 더 효율적인 대안들을 알아보시는 것이 좋다고 생각합니다.

결론적으로, 컴팩트하고 에너지 효율적인 AI 구동 환경을 원하신다면 NAS 대신 다른 옵션을 고려해 보시는 것이 좋습니다. 예를 들어, 구형 노트북을 NAS로 활용하는 경우, 노트북의 내장 배터리가 일종의 무정전 전원 장치(UPS) 역할을 하여 정전 시에도 데이터 무결성을 보호하는 숨겨진 장점을 가질 수 있습니다. 여러분도 이러한 기술적인 맥락을 이해하고 현명한 선택을 하시길 바랍니다.



참고 원문: https://www.howtogeek.com/dont-buy-nas-for-local-ai/

반응형

+ Recent posts