AI UX는 화면이 아니라 시간을 설계하는 일이다

AI 제품의 UX를 이야기할 때 사람들은 대개 눈에 보이는 것부터 떠올립니다. 입력창은 어떻게 생겨야 하는지, 답변은 어떻게 스트리밍할지, 생각 중이라는 상태를 어떻게 보여줄지, 출처는 어디에 붙일지, 사용자가 답을 고치고 다시 요청하게 하려면 어떻게 해야 할지. 모두 중요한 문제입니다.

그런데 AI 제품을 오래 만들다 보면 화면은 그대로인데 경험이 좋아지는 순간을 자주 겪습니다. 검색 품질을 높이면 답변이 더 정확해지고, 검증 단계를 넣으면 근거 없는 주장이 줄어듭니다. 시스템이 자신의 능력과 한계를 정확히 드러내면 못 하는 일을 하겠다고 약속하지 않고, 기억 구조를 개선하면 사용자가 같은 맥락을 거듭 설명할 필요도 줄어듭니다.

반대의 경우도 마찬가지입니다. 화면이 아무리 잘 만들어져 있어도 그럴듯하게 틀린 답을 내놓고, 무엇을 하는지도 모른 채 오래 기다리게 하고, 못 하는 일을 하겠다고 말하고, 지난주에 설명한 내용을 오늘 다시 묻는다면 경험은 금세 무너집니다. 이건 화면의 문제는 아닙니다. 하지만 사용자는 그것을 분명히 경험으로 느낍니다.

경험의 경계

그렇다고 사용자가 겪는 모든 것을 설계의 대상이라 부를 수는 없습니다. 대상과 대상이 아닌 것을 가르는 기준은 사용자에게 직접 보이느냐가 아니라, 그 경험이 사용자의 시스템 이해를 바꾸고 그 이해가 다음 행동으로 이어지느냐에 있습니다.

서버가 어떤 인프라 위에서 돌아가는지, 모델을 훈련하는 데 얼마가 드는지는 사용자의 시스템 이해에 대부분 직접 들어오지 않습니다. 반대로 이 AI는 모르면 모른다고 한다, 전에 말한 맥락을 기억한다, 근거가 부족하면 단정하지 않는다는 경험은 사용자가 시스템을 바라보는 방식을 바꿉니다. 그리고 그 이해는 다음 질문을 던지는 방식, 답을 믿는 정도, 시스템에 맡기는 일의 범위까지 바꿉니다.

그래서 설계 대상은 화면보다 넓고 제품 품질 전체보다는 좁습니다. 사용자가 시스템을 어떻게 이해하고 무엇을 기대하게 되는지, 그 이해가 행동을 어떻게 바꾸는지까지입니다. 이 영역은 세 레이어로 나눠볼 수 있습니다. 사람이 AI와 어떻게 상호작용하는지, AI가 사람에게 어떻게 행동하는지, 그리고 그 상호작용이 쌓이면서 다음 경험이 어떻게 달라지는지입니다.

세 레이어는 사용자가 제품을 쓰면서 차례로 던지게 되는 질문이기도 합니다. 처음에는 어떻게 쓰는지 묻습니다. 며칠 뒤에는 이 답을 믿어도 되는지 가늠합니다. 몇 주가 지나면 이 제품이 나를 알아가고 있는지 묻게 됩니다. 화면을 고치는 일은 첫 번째 질문에만 답할 수 있습니다. 뒤의 두 질문에는 시스템이 행동하는 방식과 시간이 쌓이는 방식이 답합니다.

Interaction

사람과 AI의 상호작용

첫 번째 레이어는 가장 익숙합니다. 사용자가 의도를 전달하고 시스템이 과정과 결과를 돌려주는 접점입니다. 입력, 대화, 스트리밍, 진행 상태, 근거 제시, 피드백, 수정, 실패와 복구가 모두 여기에 들어갑니다. 생성형 AI가 등장하면서 한 가지 조건이 크게 달라졌습니다. 시간입니다.

기존 SaaS에서는 버튼을 누른 뒤 가능한 한 빨리 결과를 보여주는 것이 좋은 경험인 경우가 많았습니다. AI는 그렇지 못할 때가 많습니다. 답을 만들고, 정보를 검색하고, 문서를 읽고, 도구를 실행하고, 결과를 다시 검증해야 할 수도 있기 때문입니다. 같은 15초라도 경험은 전혀 다릅니다. 아무 설명 없이 로딩만 도는 15초와, 지금 자료를 찾는지, 찾은 내용을 확인하는지, 답의 근거를 검증하는지 알 수 있는 15초는 다르게 느껴집니다. 실제 지연은 같아도 체감 지연과 신뢰는 달라집니다.

물론 많이 보여준다고 좋은 것은 아닙니다. 사용자가 알 필요 없는 내부 과정까지 드러내면 판단해야 할 것만 늘어납니다. 중요한 것은 공개하는 양이 아니라, 지금 상황을 이해하고 다음 판단을 내리는 데 필요한 만큼 보여주느냐입니다.

System Behavior

AI가 행동하는 방식

두 번째 레이어부터는 전통적인 인터페이스 설계만으로 설명하기 어려워집니다. AI는 정해진 화면을 돌려주는 시스템이 아닙니다. 사용자의 의도를 해석하고, 필요한 맥락을 판단하고, 정보를 찾고, 도구를 고르고, 결과를 만듭니다. 때로는 어떤 행동을 할지 말지를 스스로 정하기도 합니다. 사용자는 인터페이스가 아니라 행동하는 시스템을 상대하게 됩니다.

좋은 AI는 항상 답하는 AI가 아니다

생성형 AI는 모르는 것을 아는 것처럼 자연스럽게 말할 수 있습니다. 그래서 좋은 경험은 모든 질문에 답하는 경험과 같지 않습니다. 어떤 상황에서는 “지금 정보만으로는 확인하기 어렵습니다”, “이건 확인된 사실이 아니라 추론입니다”, “근거가 부족해 단정하기 어렵습니다”, “현재는 이 작업을 수행할 권한이 없습니다”라고 말하는 편이 낫습니다. 사용자는 내부의 검증 단계를 보지 못하지만 결과를 거듭 겪으며 판단을 만듭니다. 이 AI는 모르는 것을 아는 척하지 않는다. 이 판단이 쌓이면 신뢰가 됩니다.

Capability와 Communication은 일치해야 한다

AI가 어떤 외부 시스템에 접근할 수 없는 상황에서 사용자에게 “제가 확인해볼게요”라고 답한다고 해봅시다. 화면에는 문제가 없고 오류도 나지 않습니다. 하지만 사용자가 이해한 능력과 실제로 할 수 있는 일 사이에는 이미 간극이 생겼고, 사용자는 오지 않을 결과를 기다립니다. 할 수 있는 것은 할 수 있다고, 할 수 없는 것은 할 수 없다고 말해야 합니다. 좋은 경험은 실패가 없는 제품이 아니라 실패하는 방식까지 예측 가능한 제품에서 나옵니다.

세 레이어는 서로 부딪힌다

세 레이어는 늘 같은 방향으로 움직이지는 않습니다. 검증을 더하면 답의 신뢰는 올라가지만 결과까지 걸리는 시간은 길어집니다. 상태를 더 많이 보여주면 이해는 쉬워지지만 지나치면 판단할 것이 늘어납니다. 기억을 적극 활용하면 반복 설명은 줄지만, 오래됐거나 잘못된 기억을 꺼내는 순간 신뢰가 무너집니다. 설계는 세 레이어를 모두 최대화하는 일이 아니라 제품의 성격에 따라 무엇을 앞에 두고 어디에서 균형을 잡을지 정하는 일입니다.

Compounding

상호작용이 쌓여 달라지는 다음 경험

세 번째 레이어는 한 번의 상호작용을 넘어섭니다. 지속적으로 쓰는 제품이라면 오늘의 상호작용이 내일의 경험을 조금이라도 더 낫게 만들어야 합니다. 처음에 사용자는 많은 것을 설명합니다. 조직에서 쓰는 용어, 지금 하는 프로젝트, 중요하게 보는 판단 기준, 이전에 검토했다가 접은 방향과 그 이유. 문제는 다음 대화입니다. 다음 주에도 같은 설명을 처음부터 다시 해야 한다면 사용자에게 그 관계는 초기화된 셈입니다.

Memory와 Compounding은 다르다

기억은 정보를 가진 상태이고, Compounding은 그 정보가 다음 상호작용의 가치를 실제로 높이는 상태입니다. 수천 개를 저장해도 관련 없는 것만 꺼내오면 경험은 좋아지지 않습니다. 사용자를 많이 알아도 오래된 정보를 지금도 사실인 것처럼 쓰면 오히려 위험합니다. 모든 대화를 저장해도 매번 같은 맥락을 다시 설명해야 한다면 아무것도 쌓이지 않은 것과 다르지 않습니다. 관건은 저장한 정보의 양이 아니라 과거의 상호작용이 미래의 가치를 실제로 키우느냐입니다.

Compounding은 오류도 함께 쌓는다

쌓인다고 해서 늘 좋아지는 것은 아닙니다. 잘못된 맥락이 쌓이면 아무것도 기억하지 않는 것보다 나쁠 수 있습니다. 시스템이 사용자를 많이 알수록 그 사용자에 대해 더 자신 있게 틀릴 수도 있습니다. 그래서 Compounding에는 축적만큼 정정과 삭제가 중요합니다. 무엇을 잊게 할 수 있는가, 틀린 기억을 어떻게 고치고 그 정정이 이후에도 유지되는가, 필요할 때 초기화할 수 있는가. 시간이 가치를 복리로 키울 수 있다면 오류도 복리로 커질 수 있습니다. 핵심은 더 많이 기억하는 것이 아니라 더 정확한 맥락이 다음 경험을 계속 더 낫게 만드는 것입니다.

측정하는 방법도 달라진다

세 레이어는 저마다 다른 방식으로 측정해야 합니다. Interaction은 비교적 직접 잽니다. 요청 뒤 처음으로 의미 있는 상태가 나타날 때까지의 시간(Time to First Signal), 틀린 결과를 고치는 데 드는 턴 수나 편집량(Correction Cost) 같은 지표입니다. System Behavior는 시스템이 말한 것과 실제로 한 일이 일치하는지를 봅니다. 하겠다고 약속한 일을 실제로 끝낸 비율(Promise Fulfillment Rate)은 로그로 잴 수 있습니다. 다만 근거가 붙었는지, 불확실성을 얼마나 드러냈는지 같은 지표는 무엇을 기준으로 누가 판정하느냐가 먼저 정해져야 합니다. 판정 기준이 없는 지표는 아직 지표가 아니라 후보이고, 후보를 지표처럼 대시보드에 올리면 측정하는 것이 아니라 측정하는 척하는 것입니다.

Compounding은 더 긴 시간을 두고 봐야 합니다. 핵심 지표 중 하나는 이전에 제공한 맥락을 다시 설명해야 하는 빈도(Re-explanation Rate)입니다. 가장 단순한 질문은 이것입니다. 이 제품을 오래 쓴 사람이 처음 쓰는 사람보다 같은 일을 할 때 설명과 수정은 더 적게, 결과는 더 낫게 얻는가. 여기엔 함정이 있습니다. 오래 쓴 사람의 경험이 좋아진 것이 다 시스템 덕은 아닙니다. 사용법에 익숙해졌을 수도, 만족하지 못한 사람은 이미 떠났을 수도 있습니다. 시스템이 쌓은 맥락의 효과만 보려면 같은 사용자와 같은 작업을 놓고, 축적된 맥락을 제공한 조건과 그렇지 않은 조건을 비교해야 합니다. 그리고 어떤 지표든 하나가 더 필요합니다. 지표 값의 변화가 실제 신호인지 단순한 흔들림인지 가를 기준입니다.

한 번의 상호작용을 잘 끝내면 좋은 AI 기능이 됩니다. 오늘의 상호작용이 내일을 더 낫게 만들기 시작하면 제품의 성격이 달라집니다. 그 축적은 저절로 가치가 되지 않습니다. 무엇을 남기고 무엇을 버리고 무엇을 고치고 언제 다시 꺼낼지를 함께 설계할 때만 시간이 자산이 됩니다. 그렇지 않으면 시간은 그냥 쌓인 로그로 남거나, 시스템이 사용자를 자신 있게 오해하는 근거가 됩니다. 새롭게 설계해야 할 대상은 화면이 아니라 시간이 경험으로 축적되는 방식입니다.