하버드 비즈니스 리뷰(HBR)에서 생성형 AI 배포 시 새로운 가치 창출 방안을 모색하라는 기사가 나왔습니다. 솔직히 말해서, 이런 뻔한 소리를 HBR씩이나 되는 곳에서 해야 하나 싶습니다. 마치 "숨 쉬면서 살아라" 수준의 조언이죠. 투자자 입장에서 보자면, 이런 기사는 시간 낭비 그 이상도 이하도 아닙니다.
문제는 '새로운 가치'라는 추상적인 개념에 있습니다. 기업들이 생성형 AI에 뛰어드는 이유는 딱 하나, 돈 냄새를 맡았기 때문입니다. 비용 절감, 생산성 향상, 새로운 시장 개척. 이 세 가지 외에 다른 이유는 없습니다. 그런데 HBR은 마치 새로운 철학적 가치를 창출해야 하는 것처럼 포장합니다. 이건 본질을 흐리는 행위입니다.
생성형 AI의 핵심은 데이터입니다. 데이터가 없으면 LLM이고 RAG이고 다 헛수고입니다. 데이터의 질, 데이터의 양, 데이터를 얼마나 효율적으로 활용할 수 있는가가 성공의 열쇠입니다. 기업들은 '새로운 가치'를 찾기 전에 데이터 전략부터 점검해야 합니다. 데이터 파이프라인이 제대로 구축되어 있는지, 데이터 보안은 확실한지, 데이터 분석 역량은 충분한지. 이런 기본적인 질문에 답하지 못하면 생성형 AI는 그저 비싼 장난감에 불과합니다.
특히 온디바이스 AI에 대한 기대감이 높지만, 현실은 냉혹합니다. 칩 설계 기술, 전력 효율, 그리고 개인 정보 보호라는 세 가지 난관을 극복해야 합니다. NPU 성능 경쟁은 이미 치열하고, 배터리 수명은 여전히 문제입니다. 게다가 사용자의 데이터를 안전하게 보호하면서 AI 기능을 제공하는 것은 매우 복잡한 문제입니다. 단순히 서버에서 연산하던 것을 폰으로 옮겨온다고 해결될 문제가 아닙니다.
과거 유사한 기술 트렌드를 살펴볼 필요가 있습니다. 예를 들어, 빅데이터 열풍 당시 많은 기업들이 하둡(Hadoop)을 도입했지만, 실제로 데이터를 활용하여 의미 있는 결과를 도출한 기업은 극히 드물었습니다. 생성형 AI도 마찬가지입니다. 기술 도입 자체에 집중하기보다는, 비즈니스 모델과의 연계, 데이터 전략, 그리고 인력 양성이라는 세 가지 핵심 요소에 집중해야 합니다.
경쟁사 현황을 보면, 아마존, 구글, 마이크로소프트 같은 거대 기업들은 이미 막대한 자원을 투입하여 생성형 AI 플랫폼을 구축하고 있습니다. 중소기업들은 이들과 직접 경쟁하기보다는, 특정 분야에 특화된 솔루션을 개발하거나, 거대 기업들의 플랫폼을 활용하는 전략을 택해야 합니다. 예를 들어, 법률, 의료, 금융 등 전문 분야에 특화된 에이전틱 AI 솔루션은 충분히 경쟁력이 있습니다.
결론적으로, HBR의 기사는 '새로운 가치'라는 모호한 개념으로 기업들을 현혹하고 있습니다. 투자자들은 이런 뜬구름 잡는 이야기에 현혹되지 말고, 데이터, 기술, 그리고 비즈니스 모델이라는 세 가지 핵심 요소에 집중해야 합니다. 생성형 AI는 분명 파괴적인 잠재력을 가지고 있지만, 제대로 활용하지 못하면 그저 돈 먹는 하마가 될 뿐입니다. 팩트만 봅시다. 숫자가 말해줄 겁니다. 진짜 돈 냄새가 나는 곳은 어디인지.