[Tech Insight]구글 ‘B2C 데이터 복리 루프’의 비밀이 B2B SW에 풀리고 있다

[디지털투데이 황치규 기자]기업용 소프트웨어와 넷플릭스, 틱톡, 아마존 같은 B2C 서비스는 결이 많이 다르다. 넷플릭스, 메타, 아마존, 틱톡, 구글 같은 서비스들은 사용자가 클릭하고, 그냥 넘어가고, 멈추고, 이탈하는 모든 행동을 포착하고 분석해 시스템을 개선하는데 활용해왔다.

파운데이션 캐피털 자야 굽타Jaya Gupta) 파트너에 따르면 이들 서비스가 지난 20여년 간 쌓아온 경쟁력의 본질은 한마디로 데이터 복리 루프(compounding loop)로 요약된다.

사용자 행동 데이터를 모아 시스템을 개선하고, 개선된 시스템이 더 많은 사용자를 끌어들여 더 많은 데이터를 만드는 선순환 구조다. 이같은 구조가 제대로 돌아갈수록 경쟁자가 따라잡기는 점점 어려워진다.

반면 기업용 소프트웨어는 이런 루프를 활용할 수 없었다. 의사 결정이 많이 없어서가 아니다. 굽타 파트너에 따르면 B2C 서비스들처럼 관찰하는게 어려웠기 때문이다.

.이런 가운데 굽타 파트너는 최근 소셜 미디어 X(트위터)에 공유한 글을 통해 LLM의 부상과 함께 기업용 소프트웨어도 이제 데이터 복리 루프를 경쟁력을 활용할 수 있는 길이 열리고 있다고 강조해 눈길을 끈다.

그는 "기업용 소프트웨어 회사들이 가치를 높일 수 있는 새로운 무기는 기업용 소프트웨어가 한 번도 갖지 못했던 복리 루프다. 소비자 플랫폼이 클릭과 스크롤을 학습했다면 기업용 소프트웨어에선 데이터 복리 루프는 기업 의사결정 과정을 학습한다"면서 "재택근무와 비동기 협업이 일상화되면서 의사결정들도 디지털 흔적을 남기기 시작했다. 댓글, 문서 수정 이력, 티켓, 승인 기록, 통화 녹취가 바로 그것들"이라고 말했다.

그에 따르면 B2C 서비스는 단일 사용자가 하나의 인터페이스 안에서 행동한다. 기업 의사결정은 다르다. 영업, 재무, 법무, 운영, 보안, 경영진이 각자 다른 이해관계와 권한을 갖고 밀당하는 가운데 이뤄진다. 클릭이 아니라 협상으로 결정이 난다. 지금까지 기업들은 행동과 결과를 잇는 추론 과정을 측정할 수단이 없었다.

기업 시스템은 최종 상태를 기록하도록 설계돼 최종 숫자가 어떤 과정으로 거쳐 나오는 것인지는 보여주지 않는다. 수정된 계약서는 최종 조항을 보여주지만, 어떤 대안들이 거부된 것인지는 파악하기 힘들다.결정의 맥락은 회의실, 누군가의 머릿속, 이메일 스레드, 잡담, 서로 연결되지 않는 시스템들 사이에 흩어져 있었다. 이같은 데이터를 저장할 이유도 별로 없었다. 의사결정 데이터는 프로세스 부산물로 취급됐다.

하지만 최근 상황은 바뀌고 있다. 의사 결정 데이러를 저장하고 추적할 수 있는 흐름이 만들어지고 있다.

굽타 파트너는 3가지를 이유로 들었다. 무가 기록 가능한 공간으로 넘어왔다는 점, LLM을 통해 비정형 데이터 계산이 가능해졌다는 점, 에이전트로 인해 의사 결정을 자동으로 기록할 수 있다는 것이 그것. 그는 "원격·비동기 업무가 일상화되면서 댓글, 문서 제안, 티켓 히스토리, 승인 흐름, 통화 녹취 안에 의사 결정과 관련한 흔적이 쌓이고 LLM을 통해 전사, 채팅 로그, 문서 코멘트 데이터에서 의사결정 흔적을 추출할 수 있다"고 말했다.

에이전트와 관련해서는 "에이전트가 가격 제안을 내놓으면, 영업 담당자가 할인율을 25%에서 30%로 바꾸며 "경쟁사 X 대응 필요"라는 메모를 단다. 이렇게 수정한 것이 의사결정 흔적이다. 모델 제안은 시스템이 옳다고 본 구조화된 선행값이고, 사람의 수정은 모델이 놓친 판단 신호"라고 말했다.

굽타 파트너에 따르면 세일즈포스, 서비스나우, 워크데이 같은 B2B SaaS 회사들은 기존 플랫폼에서 이같은 환경을 구현하기 쉽지 않다.

이들 업체는 자사 기존 플랫폼 위에 에이전트를 탑재하고 있지만 이들 에이전트는 현재 상태 저장이라는 아키텍처를 그대로 상속받는다. 그는 "할인이 승인되면 맥락은 사라진다. 의사결정 시점 상태를 재현할 수 없으니, 결정에 대한 감사(audit)도 학습도 선례 활용도 할 수 없다. 스노우플레이크, 데이터브릭스 같은 데이터 웨어하우스들도 ETL(Extract, Transform, Load)을 통해 결정 이후 데이터를 받는다. 결정의 결과물만 있고, 결과가 나오기까지의 추론은 없다"고 지적했다.

반면 손에 가진게 없는 에이전트 기반 스타트업들은 의사 결정을 학습하고 분석할 수 있는 시스템을 구축하는데 상대적으로 유리한 구조다. 그는 "에이전트가 워크플로를 실행하기 때문에, 결정이 확정되는 순간 맥락을 포착할 수 있다. ETL 이후가 아니라 실시간으로, 정식 기록으로 저장된다"고 말했다.

이렇게 되면 AI로 할 수 있는 일의 품질도 확 끌어올릴 수 있다.

굽타 파트너는 "법률, 보험, 의료, 금융, 조달, 보안. 모든 산업에는 수십 년간 쌓인 전문가 판단들이 있다. 문서화된 적도, 학습된 적도, 실제로 쓸 수 있는 형태로 정리된 적도 없는 것들이다. 전문가들이 시간당 2000달러를 받는 이유가 바로 이것"이라며 "최고 전문가 수준은 조직이 수십 년간 쌓아온 경험과 판단에서 나온다. 이제 이런 데이터를 포착하고 구조화하고 학습할 수 있게 됐다"고 말했다.