Agent UX는 화면이 아니라 의사결정이다

Agent UX는 화면이 아니라 의사결정이다.

많은 사람들은 고민한다. 에이전트의 인터페이스는 어떻게 생겨야 하나. 버튼은 어디에 두나. 에이전트가 무엇을 하는지 어떻게 보여주나. 전부 화면에 대한 질문이다. 그런데 내가 생각하는 Agent UX는 화면 문제가 아니다.

돌이켜보면 나는 줄곧 한 가지를 고민했다. 사람이 정말로 원하는 정보에 도달하게 하는 것.

디자인은 그 방법이었고, 꽤 좋았지만 충분하지 않은 순간이 왔다. 디자인이 나빠져서가 아니라 정보가 너무 많아진 탓이다.

이제 정보는 너무 쉽게 생산된다. 판단의 병목은 더 이상 정보에 도달하는 방법이 아니라, 정보의 과부하다. 방법이 문제일 때는 더 나은 경로를 디자인하면 되지만 넘치는 게 문제일 때는 다른 길을 찾아야 한다.

경로가 늘면 정보도 같이 늘기 때문이다.

이제 사람에게 필요한 건 더 나은 지도가 아니다. 사람을 대신해 탐색하고, 더 많은 정보가 아니라 더 나은 의사결정을 들고 돌아오는 무언가다. 그게 에이전트다.

그리고 그것이 내가 생각하는 Agent UX다.

마이크로소프트의 Guidelines for Human-AI Interaction(Amershi 외, CHI 2019)이 이걸 정면으로 짚는다. 18개 가이드라인 중 세 번째는 이렇게 적혀 있다.

"맥락에 기반해 서비스의 시점을 정하라. 사용자의 현재 작업과 환경에 기반해 언제 행동하거나 개입할지를 정하라."

에이전트의 가치는 곁에 있다는 데 있지 않다. 언제 끼어들지를 안다는 데 있다. 나는 이걸 맥락적 개입(contextual intervention)이라 생각한다. 적절한 순간, 적절한 맥락에서 끼어들어 사람의 판단 수준을 끌어올리는 것.

이 한 줄이 UX 분야 전체를 재정의한다.

좋은 Agent UX는 에이전트가 어떻게 보이느냐로 측정되지 않는다. 에이전트가 곁에 있었기 때문에 사람이 더 잘 결정했느냐로 측정된다.

그래서 Agent UX의 진짜 질문은 처음부터 화면에서 시작되지 않는다.

신뢰: 사람은 언제 에이전트를 믿어야 하나 위임: 무엇을 맡기고 무엇을 쥐나 투명성: 에이전트가 무엇을 하는지, 개입할 수 있는 시점에 보이나 복구: 에이전트가 틀렸을 때 사람은 어떻게 되돌리나

모두 화면 너머에 있다. 에이전트가 어떻게 기억하는가. 어떻게 추론하는가. 무엇에 근거를 두는가. 경험은 화면에 그려지기 한참 전에 이미 결정된다.

이제 이걸 이론으로 떠들 필요가 없다. 해야 한다고 주장할 필요도 없다. 그냥 만들고 증명하면 된다.

• MSO(Multi-Swarm Orchestrator): 에이전트들을 오케스트레이션해 사람을 대신해 탐색하고 행동하게 한다. 사람이 실행에 빠져 허우적대지 않도록. https://github.com/WMJOON/multi-swarm-orchestrator

• MSM(지식베이스 / 시맨틱 모델): 지식을 온톨로지로 구조화해, 에이전트의 판단이 단순 검색이 아니라 근거 위에 서게 한다. https://github.com/WMJOON/markdown-scaffolding-multihop

• UUG(user utterance grounding): 에이전트가 움직이기 전에 사람이 실제로 무엇을 뜻하는지 읽는다. https://github.com/WMJOON/user-utterance-grounding

이 셋 모두 같은 목표를 지향한다. 더 많은 정보가 아니라 더 나은 의사결정.

나는 Agent UX를 표면부터 온톨로지까지 내려가서 설계해보려 한다. 신뢰와 개입이 실제로 결정되는 곳이다. UX 디자이너라는 틀은 화면에서 멈추고, 리서처라는 틀은 논문에서 멈추고, 엔지니어는 시스템에서 멈춘다.

문제를 해결하는 방법은 세 이름이 만나는 지점에 있고, 이제는 굳이 경계를 둘 필요가 없다.

정보 과다의 시대에 좋은 Agent UX란, 사람을 대신해 탐색하고 맥락 속에서 개입해 사람이 더 잘 결정하게 만드는 것이다.

경험은 이미 시스템에서 결정된다. 나는 그게 정확히 어떻게 되는지 계속 검증해볼 생각이다.