LLM은 누구에게 말하고 있는가 — 의미 밀도 불일치와 유창성 환상

요약

LLM의 발전에 따라 작문 능력도 올라간다. 문법이 정확하고, 구조가 깔끔하고, 논리적으로 보인다. 문제는 이 "잘 쓴" 텍스트가 누구를 위한 것인지 아무도 정의하지 않았다는 점이다. LLM 출력은 RLHF와 instruction-tuning을 거치면서 특정 정보 밀도 구간으로 수렴한다(균질화). 반면 인간의 최적 처리 밀도는 working memory, 전문성, 도메인 지식에 따라 개인마다 크게 다르다(개인차). 이 두 현상이 만나면 구조적 불일치가 발생한다. 그리고 이 불일치를 인식하지 못하게 만드는 메커니즘이 있다 — 유창성 환상(fluency illusion). AI가 생성한 텍스트가 "읽기 쉽기" 때문에 독자는 자신이 이해했다고 믿지만, 실제로는 프레이밍을 수용했을 뿐이다.

이 글은 세 가지 독립 연구 흐름 — LLM 출력 균질화, 인간 이해력 개인차, LLM-인간 간 갭 — 을 종합하고, 의사결정이 Agent에게 위임되는 AX 환경에서 이 불일치가 왜 거버넌스의 문제가 되는지를 논한다.

1. LLM은 "잘" 쓴다 — 하지만 한 가지 방식으로만

LLM의 텍스트 품질이 올라갔다는 사실은 누구나 체감한다. 그런데 최근 연구들은 품질 향상의 이면에서 일어나는 현상을 포착하고 있다. 출력이 균질화되고 있다.

Doshi & Hauser(2024)는 InstructGPT와 공동 작성한 에세이가 비지원 작성보다 어휘·내용 다양성이 낮다는 것을 실증했다. 627,000건 이상의 arXiv 논문을 분석한 2025년 연구는 GPT 지원 수정이 연구자들의 작문 스타일을 공통 "GPT 스타일"로 수렴시키고 있음을 보고했다 — 특히 비원어민과 주니어 연구자에서 변화가 두드러졌다. Nature HASS(2025)의 스타일 분석은 더 직접적이다. AI 시스템은 밀집된 스타일 클러스터를 형성하는 반면, 인간 저자는 훨씬 넓은 스타일 범위를 보인다.

이 수렴은 우연이 아니다. 구조적 원인이 있다.

RLHF가 다양성을 희생시킨다. 2025년 연구("Verbalized Sampling")는 RLHF와 instruction-tuning이 모델을 좁은 응답 집합으로 편향시키는 mode collapse를 유발한다고 보고했다. 정렬(alignment) 과정이 일관성과 안전성을 확보하는 대가로 출력의 다양성을 잃는 것이다. "Artificial Hivemind" 연구(2025)에서 측정한 결과, 동일 프롬프트에 대한 응답 간 pairwise similarity가 0.8을 초과하는 경우가 79%였다.

포맷이 의미를 압축한다. "The Price of Format"(arXiv/ICLR, 2025)은 포맷 템플릿 자체가 출력 다양성을 억제한다는 것을 보여줬다. LLM에게 "목록으로 정리해줘", "표로 만들어줘"라고 요청하는 순간, 개방형 입력에서도 의미적으로 유사한 출력이 생성된다. 이 현상을 논문은 "diversity collapse"라 명명했다.

피드백 루프가 수렴을 가속한다. Shumailov et al.(Nature, 2024)은 AI 생성 데이터로 후속 모델을 학습시키면 원본 분포의 꼬리(tail)가 소실되는 비가역적 결함이 발생함을 증명했다. 2025년 4월 기준 신규 웹페이지의 74% 이상이 AI 생성 텍스트를 포함한다는 추정을 감안하면, 이 recursive model collapse는 이미 진행 중이다.

플롯 수준에서도 반복된다. PNAS(2025)에 게재된 "Echoes in AI"는 GPT-4에게 카프카 스타일로 단편을 100번 쓰게 한 뒤, 50/100에서 경찰관이 "두 번째 좌회전을 하세요"라고 말하고, 16/100에서 빵집이 등장한다는 것을 발견했다. 인간 작성 텍스트에서는 이런 반복이 거의 관찰되지 않는다.

정리하면, LLM은 점점 더 잘 쓰지만, 점점 더 한 가지 방식으로만 쓴다. 출력은 특정 정보 밀도 구간, 특정 문체, 특정 구조로 수렴한다. 이것이 첫 번째 축이다.

2. 인간은 저마다 다르게 읽는다

두 번째 축은 인간 쪽에 있다. 같은 텍스트를 읽어도 사람마다 처리 능력이 다르다 — 이건 직관적으로 당연하지만, 그 차이의 구조와 크기는 직관을 넘어선다.

Working memory가 독해력을 결정한다. Daneman & Carpenter(1980)는 Reading Span Test를 개발하면서, working memory 용량이 독해력과 Verbal SAT 점수의 가장 강한 예측 변수임을 보였다. 단순 저장 척도(digit span, word span)는 예측력이 약했고, 처리와 저장을 동시에 요구하는 복합 척도만이 의미 있는 예측자였다. 1996년 메타분석(Daneman & Merikle)이 이 결과를 재확인했다.

이것은 한 가지를 의미한다. 동일한 텍스트의 "난이도"는 텍스트의 속성이 아니라 독자-텍스트 상호작용의 속성이다. 현대 가독성 연구에서 정보 밀도/주제 접근성의 평가자 간 일치도가 0.00-0.40으로 나온 것은 이 때문이다(Crossley et al.).

전문성이 최적 밀도를 뒤집는다. McNamara et al.(1996)의 실험은 이 분야의 고전이다. 연구진은 텍스트의 응집도(coherence)를 조작하고 독자의 사전 지식을 측정한 뒤, 교차 효과를 관찰했다.

결과는 반직관적이었다.

저지식 독자: 고응집 텍스트(명시적 연결, 스캐폴딩)에서 더 잘 학습
고지식 독자: 저응집 텍스트에서 오히려 더 잘 학습 — 텍스트의 공백이 능동적 추론을 강제하고, 이 추론 과정이 기존 스키마와 새 정보를 통합시킴

이 발견을 확장한 것이 Kalyuga et al.(2003)의 전문성 역전 효과(Expertise Reversal Effect) 다. 초보자에게 효과적인 교수법이 전문가에게는 비효과적이거나 오히려 해롭다. 전문가는 이미 스키마 기반 내부 안내를 보유하고 있어서, 외부 안내가 중복(redundancy)이 되고 외재적 인지 부하를 증가시킨다.

이 연구의 함의는 명확하다. "좋은 텍스트"는 보편적으로 존재하지 않는다. 최적 정보 밀도는 수용자의 전문성에 의존하며, 고정된 밀도는 반드시 일부 독자에게 부적합하다.

지식의 저주가 이 문제를 보이지 않게 만든다. Camerer, Loewenstein, & Weber(1989)가 명명한 curse of knowledge는 더 많은 정보를 가진 주체가 타인의 이해 수준을 예측할 때 자기 지식을 무시하지 못하는 현상이다. Fisher & Keil(2016)은 이를 전문성 맥락으로 확장했다. 전문가는 설명 능력에 대한 자신감이 높지만 그 자신감은 근거가 없다. "meta-forgetting" — 자동화하거나 망각한 정보의 양을 인식하지 못하는 것 — 이 원인이다. MIT Sloan의 보고에 따르면 의사가 환자의 이해도를 20-30% 과대추정한다.

정리하면, 인간의 최적 처리 밀도는 넓은 대역에 분산되어 있고, 전문성에 따라 최적 지점이 뒤집히며, 이 차이를 정확히 추정하는 것 자체가 인지적으로 어렵다. 이것이 두 번째 축이다.

3. 두 축이 만나면 — 의미 밀도 불일치

첫 번째 축: LLM 출력이 특정 밀도 구간으로 수렴한다. 두 번째 축: 인간의 최적 처리 밀도는 개인마다 다르다.

이 두 축이 교차하면 구조적 불일치(Semantic Density Mismatch) 가 발생한다.

의료 분야에서 이 불일치의 실증이 가장 강하다. ChatGPT가 생성한 환자 교육 자료의 Flesch-Kincaid Grade Level을 측정한 다수의 연구 결과:

의료 분야	ChatGPT FK Grade Level	권장 수준
척추 기형 수술	13.9	6학년
폐암	12.56	6학년
척수 손상	14.84	6학년

미국 성인의 평균 독해 수준이 8학년이고, 일반 대중 대상 자료의 권장 수준이 6-7학년인 상황에서, ChatGPT는 일관되게 10-15학년 수준의 텍스트를 생성한다. 권장 수준 대비 4-8학년의 갭이 존재한다.

이 갭이 LLM의 캘리브레이션 능력으로 해결될 수 있을까? 2025년 MDPI 연구는 4개 LLM(Claude 3.5, Llama, Gemini Pro, GPT-4)에게 4가지 독자 프로필을 지정하고 텍스트를 생성하게 했다. 결과: 독자 능력과 생성된 텍스트 복잡도 사이에 일관된 정렬이 없었다. LLM은 프롬프트로 타겟 독자를 지정해도 신뢰할 만한 난이도 조절에 실패한다.

불일치는 "너무 어려움"만이 아니다. 양방향이다.

초보자에게: LLM 출력이 과밀(over-dense) → Semantic Category Benchmark의 과설명 경계(I_max) 초과 → 의미 중심 분열
전문가에게: LLM 출력이 과지도(over-guided) → 전문성 역전 효과 발동 → 능동적 처리 억제, 피상적 수용

LLM의 "평균적으로 잘 쓴" 출력이 대부분의 개별 독자에게는 최적이 아닌 이유가 여기에 있다. 평균에 맞춘 텍스트는 평균인 사람에게만 적합하고, 평균인 사람은 거의 없다.

4. 유창성 환상 — 불일치를 은폐하는 메커니즘

의미 밀도 불일치가 존재한다면, 왜 이 문제가 잘 인식되지 않는가? 유창성 환상(fluency illusion) 때문이다.

AI 생성 텍스트는 문법적으로 정확하고, 구조적으로 깔끔하며, 읽기에 쉽다. 이 인지적 용이함(processing fluency)이 독자에게 "나는 이 내용을 이해했다"는 감각을 만든다. 문제는 이 감각이 실제 이해와 분리된다는 것이다.

MDPI Information(2025)의 리뷰는 작문, STEM, 튜터링, 평가 전 영역에서 동일한 패턴을 보고했다. AI 생성 유창한 응답이 학습자의 자신감을 높이되, 깊은 개념적 이해는 향상시키지 않는다. 자신감과 이해가 분리되는 것이다.

Frontiers in Education(2025)의 연구는 더 구체적이다. AI 생성 요약이 고성과자의 점수를 악화시킨 반면, 소크라테스식 챗봇은 저성과자의 점수를 향상시켰다. 같은 AI 기술이 학습자 수준에 따라 정반대 효과를 낸 것이다. 이것은 전문성 역전 효과의 AI 맥락 재현이다.

2026년에 등장한 "LLM Fallacy" 개념은 이 현상을 인지적 귀인 오류로 격상시켰다. 사용자가 LLM 지원 출력을 자기 역량의 증거로 오해석하는 것이다. LLM이 도와준 보고서를 "내가 잘 쓴 보고서"로 인식하고, LLM이 구성한 프레이밍을 "내가 도달한 결론"으로 받아들인다. 유창성과 저마찰 상호작용이 인간-기계 기여의 경계를 불분명하게 만든다.

이 메커니즘이 의미 밀도 불일치와 결합하면 다음 구조가 완성된다:

LLM이 특정 밀도로 수렴한 텍스트를 생성한다
이 밀도가 독자의 최적 밀도와 맞지 않는다
하지만 텍스트가 유창하기 때문에 독자는 불일치를 인식하지 못한다
독자는 "이해했다"고 믿으며 LLM의 프레이밍을 수용한다
수용된 프레이밍이 이후 의사결정의 전제가 된다

유창성이 불일치를 은폐하고, 은폐된 불일치가 편향 전파의 조건을 만든다.

5. 평준화 효과 — 품질 분포의 압축

균질화와 유창성 환상의 조합은 또 하나의 현상을 만든다. 평준화 효과(Leveling Effect) — 저성과자의 출력 품질은 올라가되, 고성과자의 출력 품질은 정체하거나 하락하여 전체 품질 분포가 압축되는 것이다.

Cropley(2025, University of South Australia)는 이를 수학적으로 모델링했다. 창의성을 효과성(effectiveness)과 독창성(novelty)의 곱으로 정의하면, 확률 시스템에서 이 곱의 최대값은 0.25(양쪽 모두 중간 수준일 때)다. 효과성과 독창성을 동시에 최대화하는 것 — 인간 전문가가 일상적으로 해내는 것 — 은 확률 시스템의 구조적 한계를 넘어선다. 실제로 LLM의 창의적 출력은 인간 대비 40-50th percentile로 평가된다.

Springer IJAIED(2025)의 대학원생 전문 작문 연구는 실증이다. 저성과 작성자가 가장 큰 수혜를 받았고, 고성과 작성자의 변화는 한계적이거나 없었다. LAK 2025의 에세이 연구도 같은 패턴을 보고했다. GenAI를 적극 활용한 집단에서 약한 작성자의 품질은 올라갔지만, 전체 품질 분포가 좁아졌다.

이것을 의사결정 맥락으로 옮기면, AI 지원 의사결정이 확산될 때 조직 내 판단 품질의 분포도 압축될 수 있다. "평균적으로 괜찮은 판단"이 늘어나지만, "탁월한 판단"은 줄어든다. Agent가 "일반적으로 그럴듯한" 분석을 생성하면, 약한 분석자는 도움을 받지만, 강한 분석자의 독창적 통찰이 Agent의 프레이밍에 의해 억제될 수 있다 — 전문성 역전 효과의 조직적 확장이다.

6. AX에서 이것이 거버넌스의 문제가 되는 이유

지금까지의 논의를 AX — 워크플로우상의 의사결정 권한 일부를 Agent에게 위임하는 것 — 의 맥락에 놓으면, 의미 밀도 불일치는 기술적 불편을 넘어 거버넌스의 문제가 된다.

위임된 의사결정에서 프레이밍이 곧 판단이다. Agent가 주간 보고서를 생성할 때, 어떤 항목을 "리스크"로 분류하고, 어떤 항목을 "진행 중"으로 처리할지는 Agent의 프레이밍 선택이다. 이 보고서를 읽는 의사결정자가 Agent의 밀도와 자신의 최적 밀도 사이의 불일치를 인식하지 못하면(유창성 환상), Agent의 프레이밍이 검토 없이 판단의 전제가 된다.

조직 특성에 따라 불일치의 위험 지점이 다르다.

위계가 높은 조직에서 탑다운으로 AX를 전개하면, Agent의 출력이 넓은 범위의 의사결정자에게 동시에 전달된다. 그런데 C-level과 실무자의 최적 정보 밀도는 다르다. Agent가 "하나의 밀도"로 보고서를 쓰면, 한쪽은 과밀이고 다른 쪽은 과소가 된다. 유창성 환상이 양쪽 모두에서 불일치를 은폐하면, 같은 보고서를 읽고 다른 것을 이해한 채 합의했다고 믿는 상황이 만들어진다.

위계가 낮은 조직에서 바텀업으로 Agent를 도입하면, 각 팀이 서로 다른 Agent를 사용하고 서로 다른 밀도의 출력을 소비한다. 이때 Agent 간 출력 밀도의 차이가 팀 간 의사소통의 새로운 장벽이 될 수 있다.

간소화가 해결책이 될 수 있을까? arXiv(2025)의 4,563명 대상 RCT는 LLM 출력을 명시적으로 간소화했을 때 정답률이 3.9% 절대 증가한다고 보고했다. 간소화가 효과적이라는 것이다. 하지만 LLM의 기본 동작(default behavior)은 적절히 간소화된 출력을 생성하지 않는다("SimplifyMyText", arXiv 2025). 캘리브레이션은 가능하지만 자동으로 일어나지 않는다. 의도적 설계가 필요하다.

7. 설계 원칙

이 연구들을 종합하면 세 가지 설계 원칙이 도출된다.

원칙 1: 밀도는 텍스트의 속성이 아니라 관계의 속성이다.

"이 텍스트가 적절한 밀도인가?"는 잘못된 질문이다. "이 텍스트가 이 독자에게 적절한 밀도인가?"가 올바른 질문이다. Semantic Category Benchmark의 I_min ~ I_max는 절대 구간이 아니라 수용자에 의존하는 상대 구간이다. Agent의 Upstream 설계에서 "출력을 읽는 사람이 누구인가"를 정의하는 것이 밀도 캘리브레이션의 전제 조건이다.

원칙 2: 유창성을 신뢰 신호로 사용하지 않는다.

AI 생성 텍스트의 인지적 용이함은 내용의 정확성·적합성·완전성과 독립적이다. 유창성에 기반한 수용은 프레이밍의 무비판적 수용으로 이어진다. 의사결정 환경에서는 유창성과 별개로 — Agent의 출력에 대안 프레이밍이 제시되었는지, uncertainty가 보존되었는지, source trace가 남아있는지를 검증하는 구조가 필요하다.

원칙 3: 평준화를 수용하되 꼬리를 보존한다.

Leveling effect는 부정적이기만 한 현상이 아니다. 저성과자의 품질이 올라가는 것은 조직 전체의 baseline을 높인다. 문제는 분포의 꼬리 — 탁월한 통찰, 비관습적 프레이밍, 예외적 판단 — 가 함께 사라지는 것이다. Shumailov et al.의 recursive model collapse에서 꼬리 소실이 비가역적이었듯, 조직의 판단 다양성에서도 한 번 사라진 꼬리는 복원이 어렵다. Agent의 출력을 "기본값"으로 사용하되, 기본값에 동의하지 않을 자유 — 그리고 그 동의하지 않음이 가치 있다는 인식 — 를 구조적으로 보존해야 한다.

결론

LLM은 점점 더 잘 쓴다. 하지만 "잘 쓴다"는 것은 하나의 밀도 구간에서 하나의 방식으로 잘 쓴다는 뜻이다. 인간은 저마다 다른 밀도에서 가장 잘 이해한다. 이 불일치가 존재하고, 유창성 환상이 그것을 은폐하며, 평준화 효과가 다양성을 압축한다.

의사결정이 Agent에게 위임되는 AX 환경에서, 이 세 현상은 단순한 가독성 문제를 넘어선다. Agent의 출력 밀도가 곧 조직의 판단 전제가 되고, 유창성 환상이 비판적 검토를 억제하고, 평준화가 탁월한 판단의 공간을 줄인다.

해결의 출발점은 간단하다. LLM이 누구에게 말하고 있는지를 먼저 묻는 것이다.

참고문헌

LLM 출력 균질화

Doshi, A.R. & Hauser, O. (2024). Homogenizing effect of large language models on creative diversity. ScienceDirect. Link
(2025). The Homogenizing Effect of Large Language Models on Human Expression and Thought. arXiv. Link
Kreminski, M. et al. (2024). Homogenization Effects of Large Language Models on Human Creative Ideation. C&C 2024. PDF
(2025). Divergent LLM Adoption and Heterogeneous Convergence Paths in Research Writing. arXiv. Link
(2025). Stylometric Comparisons of Human vs AI-Generated Creative Writing. Nature HASS. Link
(2025). The Price of Format: Diversity Collapse in LLMs. arXiv/ICLR. Link
(2025). Verbalized Sampling: How to Mitigate Mode Collapse and Unlock LLM Diversity. arXiv. Link
(2025). Artificial Hivemind: LLM Homogeneity Study. Link
(2025). Echoes in AI: Quantifying Lack of Plot Diversity in LLM Outputs. PNAS. Link
Shumailov, I. et al. (2024). AI models collapse when trained on recursively generated data. Nature. Link

인간 이해력 개인차

Sweller, J. (1988). Cognitive Load During Problem Solving. Cognitive Science, 12(2), 257-285. Link
Daneman, M. & Carpenter, P.A. (1980). Individual Differences in Working Memory and Reading. JVLVB, 19(4), 450-466. Link
McNamara, D.S. et al. (1996). Are Good Texts Always Better? Cognition and Instruction, 14, 1-43. Link
Kalyuga, S. et al. (2003). The Expertise Reversal Effect. Educational Psychologist, 38(1), 23-31. Link
Camerer, C., Loewenstein, G., & Weber, M. (1989). The Curse of Knowledge in Economic Settings. JPE, 97(5). PDF
Fisher, M. & Keil, F.C. (2016). The Curse of Expertise. Cognitive Science, 40(5). Link

LLM-인간 간 갭

Steyvers, M. et al. (2024). What large language models know and what people think they know. Nature Machine Intelligence. Link
(2025). GenAI-Powered Text Personalization. MDPI Applied Sciences. Link
Cropley, D. (2025). A Mathematical Ceiling on LLM Creativity. University of South Australia. Coverage
(2025). LLM-based Text Simplification and its Effect on User Comprehension and Cognitive Load. arXiv. Link
(2025). Fluency Illusion: A Review on Influence of ChatGPT in Classroom Settings. MDPI Information, 17(3). Link
(2026). The LLM Fallacy. arXiv. Link
(2025). Differential effects of GPT tools on comprehension. Frontiers in Education. Link