This is the phase, Human-AI Communication

Human-Computer Interaction에서 Human-AI Communication 으로

0. 서론

본 글은 오늘날 AI 시스템 설계의 중심축이 Human–Computer Interaction(HCI)에서 Human–AI Communication(HAC)으로 이동하고 있다는 점을 논의하는 포지션 페이퍼다. 이 전환은 단순한 인터페이스 스타일의 변화가 아니라, 인간의 제한된 인지 능력과 정보 환경의 급격한 팽창, 그리고 AI가 판단 과정 내부로 편입되기 시작한 현실이 결합한 결과로 이해할 수 있다. 본 글은 첫째, 인간의 의사결정이 본래 제한된 합리성 위에서 이루어진다는 점을 확인한다. 둘째, 정보 폭증과 인지부하의 증가는 사용자가 단순 도구가 아니라 읽기, 비교, 검토, 판단 보조를 수행하는 상대를 필요로 하게 만든다는 점을 논한다. 셋째, 이러한 조건 아래에서 AI는 더 이상 입력에 반응하는 객체가 아니라 의미 해석, grounding, 판단 조정에 개입하는 시스템이 되며, 그 결과 설계 단위는 interaction보다 communication에 가까워진다고 주장한다. 마지막으로 본 글은 이러한 변화가 상태 기반 대화 설계, reflective layer, confirmation boundary, decision support architecture를 요구한다는 점을 제시한다.

1. 문제 제기

오늘날 지식노동 환경은 단순한 정보 부족의 문제가 아니라 정보 과잉의 문제에 더 가깝다. 실무자는 동시에 다수의 문서, 메시지, 지표, 회의 기록, 정책 조건을 처리해야 하며, 그 과정에서 무엇이 중요한지 선별하고 어떤 기준으로 비교할지 결정해야 한다. 이 상황에서 사용자가 필요로 하는 것은 더 빠른 클릭이나 더 보기 좋은 화면만이 아니다. 오히려 핵심은 정보 압축, 중요도 판별, 대안 비교, 반례 점검, 실행 전 검토와 같은 인지적 지원이다.

이 점은 실제 사용 장면에서 분명하게 드러난다. 사용자는 이제 AI에게 "문서를 열어줘"보다 "이 회의에서 실제로 결정된 것만 정리해줘", "세 옵션을 어떤 기준으로 비교해야 하는지 알려줘", "내가 놓친 리스크가 있는지 봐줘", "바로 보내기 전에 반대 관점에서 검토해줘"라고 요청한다. 이러한 요청은 기능 수행을 넘어 의미 해석과 판단 보조를 요구한다.

따라서 현재의 핵심 변화는 더 강한 모델이나 더 자연스러운 UI의 등장이 아니다. 더 중요한 변화는 사용자가 자신의 인지 부담 일부를 AI에게 이전하고, AI가 해석과 판단 보조의 일부를 맡기 시작했다는 점이다. 이 지점에서 설계의 기본 질문은 "어떻게 상호작용을 최적화할 것인가"에서 "어떻게 의사소통과 판단 조정을 설계할 것인가"로 이동한다.

2. 이론적 배경

2.1 제한된 합리성과 인간의 인지적 한계

Herbert Simon은 인간의 의사결정을 완전 정보와 무한 계산 능력을 전제하는 고전적 합리성 모델로 설명할 수 없다고 보았다. Simon은 현실의 인간이 제한된 지식과 제한된 계산 능력 안에서 판단한다는 점을 강조하며, 행동 이론은 이러한 제약을 반영해야 한다고 설명했다. 이는 인간의 판단이 본래 불완전한 정보 환경과 인지 제약 아래에서 이루어진다는 점을 의미한다.
Herbert A. Simon – Prize Lecture: Rational Decision-Making in Business Organizations

이 관점은 오늘날 AI 논의의 출발점이 되어야 한다. 사용자가 AI를 찾는 이유는 단순히 자동화 선호 때문이 아니라, 인간이 처리해야 하는 정보의 양과 속도가 인지 능력의 한계를 지속적으로 압박하고 있기 때문이다.

2.2 HCI의 기본 전제

전통적 HCI는 인간과 계산 시스템 사이의 상호작용과 이를 가능하게 하는 인터페이스 설계를 핵심 주제로 삼아 왔다. ACM CS2013 HCI 설명도 인간의 활동과 계산 시스템 사이의 상호작용, 그리고 그 상호작용을 구성하는 인터페이스의 설계와 평가를 중심 범주로 제시한다.
HCI – CS2013 Version – CS2023

이 프레임에서 시스템은 주로 입력을 받아 처리하고 출력을 제공하는 상호작용 대상이다. 물론 HCI 내부에도 협업, 커뮤니케이션, 지능형 시스템에 대한 논의가 존재해 왔다. 그러나 중심 모델은 여전히 interactive system이며, 설계 단위는 대체로 입력, 피드백, 흐름, 오류 예방이다.

2.3 Language Model의 등장이 바꾼 것

대형 언어모델은 사용자의 발화를 단순 명령이 아니라 맥락 속 표현으로 받아들이고, 그 의미를 추정해 다음 응답을 생성한다. GPT-3 논문은 작업이 텍스트 맥락을 통해 지정될 수 있음을 보여주며, 모델과의 상호작용이 전통적 명령 체계와 다른 방식으로 구성될 수 있음을 시사했다.
Language Models are Few-Shot Learners

이어 InstructGPT 논문은 모델 성능의 핵심 문제가 단순 정답률이 아니라 사용자의 의도를 더 잘 따르는 것임을 보여주었다. 이는 AI 시스템의 중심 문제가 입력 처리보다 의도 해석과 정렬에 있음을 명확히 한다.
Training Language Models to Follow Instructions with Human Feedback

2.4 Communication과 Grounding

Clark와 Brennan은 communication을 단순 정보 전달이 아니라, 참여자들이 현재 목적에 충분한 수준까지 서로의 이해를 맞추는 grounding 과정으로 설명한다. 이 관점에서 의사소통은 본질적으로 맥락, 해석, 오해 가능성, 복구 절차를 수반한다.
Grounding in Communication

이 개념은 AI 시스템에 매우 직접적으로 적용된다. AI가 개입한 순간 시스템의 핵심 문제는 "정확히 반응하는가"를 넘어 "사용자와 시스템 사이의 의미 정렬이 충분히 이루어졌는가"가 된다.

3. 핵심 논지: Interaction에서 Communication으로

본 글의 핵심 주장은 다음과 같다.

AI 시스템이 인간의 판단 과정에 편입되기 시작한 현재, 시스템 설계의 기본 단위는 interaction보다 communication에 더 가까워지고 있다.

이 주장은 세 단계로 설명할 수 있다.

3.1 정보 폭증은 도구가 아니라 보조 판단자를 요구한다

정보량이 제한되고 작업이 명확할 때, 사용자는 주로 효율적인 도구를 필요로 한다. 계산기, 문서 편집기, 검색창, 대시보드는 이 수준에서 충분히 강력하다. 그러나 정보가 폭증하면 문제의 성격이 바뀐다. 사용자는 더 이상 정보 접근만을 원하지 않는다. 대신 다음과 같은 지원을 원한다.

무엇이 중요한지 압축해 주는 기능
서로 충돌하는 전제를 찾아내는 기능
어떤 기준으로 옵션을 비교해야 하는지 제안하는 기능
현재 판단의 리스크를 드러내는 기능
실행 전에 다시 검토하게 만드는 기능

예를 들어 문서 12개, 관련 메일 30개, 회의록 4개가 동시에 걸려 있는 상황에서 사용자가 필요한 것은 파일 탐색 속도가 아니라 판단 프레임이다. 이때 AI는 검색 도구보다 읽기 부담을 줄이고 비교 구조를 잡아 주는 보조 판단자로 경험된다.

3.2 요청은 명령이 아니라 표현이 된다

전통적 interactive system에서는 사용자의 의도가 상대적으로 명확하게 입력된다고 가정할 수 있었다. 반면 AI 시스템에서는 요청이 종종 정리되지 않은 판단 상태를 그대로 드러내는 표현으로 주어진다.

예를 들어 다음과 같은 발화를 보자.

"이거 어떻게 보는 게 맞아?"
"내 생각이 맞는지 모르겠어"
"바로 진행해도 될까?"
"뭔가 찜찜한데 뭐가 문제지?"

이러한 발화는 버튼 클릭이나 명시적 명령과 다르다. 여기에는 모호한 의도, 불완전한 맥락, 아직 정리되지 않은 판단 상태가 함께 들어 있다. 따라서 시스템은 단순 반응보다 해석, 재질문, 구조화, uncertainty signaling을 수행해야 한다.

3.3 설계 문제는 응답 생성이 아니라 의사소통 조정이 된다

이 조건 아래에서 좋은 시스템은 단순히 응답을 잘 생성하는 시스템이 아니다. 더 중요한 것은 응답이 놓이는 구조를 조정하는 것이다. 즉 시스템은 최소한 다음과 같은 기능을 가져야 한다.

사용자의 현재 상태를 파악하는 기능
그 상태에 맞는 response policy를 선택하는 기능
설명, 선택 구조, 검토, 실행 통제의 순서를 조정하는 기능
high-stakes 상황에서 reflective checkpoint를 삽입하는 기능
transactional 단계에서 confirmation과 boundary를 분명히 하는 기능

따라서 AI 시스템은 대화를 처리하는 구조가 아니라, 대화를 구조화하고 전환하고 통제하는 구조로 재개념화될 필요가 있다.

4. 왜 Agent는 Coworker로 인식되기 시작하는가

MIT Sloan Management Review와 BCG의 2025년 보고서는 응답자의 76%가 agentic AI를 tool보다 coworker에 더 가깝게 본다고 제시한다. 해당 보고서는 agentic AI가 단일 명령 수행 도구가 아니라, 여러 단계의 작업을 수행하고 적응하며 맥락에 맞추어 움직이는 autonomous teammate처럼 행동한다고 설명한다.
The Emerging Agentic Enterprise: How Leaders Must Navigate a New Age of AI

이 진술은 AI를 인간과 동일시하자는 의미가 아니다. 오히려 다음과 같이 해석하는 것이 정확하다.

AI가 작업 흐름의 한 단계를 맡기 시작했다
AI가 읽기, 요약, 비교, 검토, 초안을 통해 다음 판단의 전제를 제공한다
AI의 출력이 사람의 의사결정에 직접 영향을 미친다
인간은 AI를 사용한다기보다 AI와 인지적 분업을 수행하게 된다

이 점은 일상적인 업무 예시에서도 확인된다.

첫째, AI가 회의록을 단순 정리하는 수준이라면 여전히 tool에 가깝다. 그러나 AI가 논의된 쟁점을 분류하고, 합의된 항목과 미결 항목을 나누고, 다음 단계에서 누가 무엇을 결정해야 하는지 제안하기 시작하면 이는 이미 진행 구조에 개입하는 coworker에 가깝다.

둘째, AI가 문서를 검색해 주는 수준이라면 검색 도구다. 그러나 AI가 "이 선택은 비용 기준에서는 적절하지만 운영 복잡도 기준에서는 위험하다"거나 "당신의 가정이 지나치게 낙관적이다"라고 말하기 시작하면, 사용자는 AI를 단순 검색창으로 경험하지 않는다. 이미 AI는 판단 과정의 상대가 된다.

셋째, AI가 승인 프로세스를 자동 실행하는 것만으로는 automation이다. 반면 "이 건은 자동 승인 범위를 벗어나므로 인간 검토가 필요하다"라고 경계를 판단하고 escalation을 제안하면, AI는 실행 엔진이 아니라 decision flow의 일부가 된다.

따라서 AI를 coworker로 인식한다는 말의 실질적 의미는 AI가 인간의 인지 노동 분업 안으로 들어왔다는 데 있다. 이는 곧 인터페이스 설계만으로는 충분하지 않으며, 인간과 AI가 어떻게 의미를 맞추고 판단을 조정할 것인지에 대한 communication 설계가 필요함을 뜻한다.

5. 설계 함의

위 논의를 받아들인다면, AI 시스템 설계는 적어도 다음과 같은 방향 전환을 필요로 한다.

5.1 상태 기반 구조

사용자는 항상 동일한 상태에 있지 않다. 어떤 순간에는 이해를 원하고, 어떤 순간에는 선택을 원하며, 어떤 순간에는 실행 직전 검토를 원한다. 따라서 시스템은 단일 응답 스타일이 아니라 상태별 정책을 가져야 한다.

하나의 실용적 분해는 다음과 같다.

Exploratory: 이해와 상황 파악
Decision / Advisory: 선택지 구조화와 trade-off 제시
Decision / Reflective: 검토, uncertainty, bias check
Support / Instructional: 실행 방법 안내
Support / Transactional: 실제 행동과 confirmation

5.2 Reflective layer의 필요성

AI 시스템이 판단 과정에 들어오는 순간 가장 큰 리스크는 단순 오류보다 무비판적 수용이다. 따라서 Decision과 Transactional 사이에는 reviewability, uncertainty disclosure, counter-case, handback을 담당하는 reflective layer가 필요하다.

5.3 Confirmation과 Boundary 설계

실행 가능성이 있는 단계에서는 confirmation과 boundary가 핵심이 된다. 사용자가 정말 실행 의도를 가진 것인지, 실행 권한이 있는지, high-risk 조건에 해당하는지를 구조적으로 점검해야 한다. 이는 단순 안전 장치가 아니라 의사소통 설계의 일부다.

5.4 좋은 응답보다 좋은 판단 구조

궁극적으로 중요한 것은 문장이 얼마나 유창한가가 아니다. 더 중요한 것은 사용자가 과도한 인지부하 속에서도 더 나은 판단을 하도록 돕는 구조가 설계되어 있는가이다. Deloitte의 2026 Human Capital Trends도 AI가 업무 전반에 들어온 상황에서 인간과 AI의 역할 분담, 판단, 책임 구조를 의도적으로 설계해야 한다고 제시한다.
2026 Global Human Capital Trends

6. 결론

본 글은 현재의 AI 시스템 전환을 Human–Computer Interaction에서 Human–AI Communication으로의 이동으로 해석할 것을 제안했다. 이 전환은 단순한 UI 변화가 아니다. 그 배경에는 인간의 제한된 인지 능력, 정보 환경의 급격한 팽창, 그리고 AI가 판단 과정 내부로 편입되기 시작한 현실이 함께 놓여 있다.

이 조건 아래에서 AI 시스템은 더 이상 입력에 반응하는 대상만으로 이해될 수 없다. AI는 의미 해석, grounding, 판단 조정, 실행 경계 설정에 개입하는 구조가 된다. 따라서 앞으로의 핵심 질문은 "어떤 인터페이스를 만들 것인가"에 머무르지 않는다. 더 중요한 질문은 "인간의 인지부하와 판단 리스크를 줄이기 위해 어떤 의사소통 구조를 설계해야 하는가"이다.

요약하면, 우리는 인터페이스를 설계하던 단계에서 의사소통과 판단 구조를 설계하는 단계로 이동하고 있다. 이것이 바로 본 글이 This is the phase, Human AI Communication이라는 제목으로 주장하고자 하는 바이다.