김소형 / 전북대학교 / LLM 할루시네이션의 도덕 존재론적 진단: 찰스 테일러의 매개적 인식론 비판과 접촉 이론을 중심으로 / 2026 신진연구자지원사업(인문사회) / 24,464 / 12개월 / 2026 신진연구자지원사업(인문사회)
접수과제정보
접수번호2026010831
연구요약문
연구목표
(한글 2000자 이내)
본 연구의 최종 목표는 거대 언어 모델(LLM)의 할루시네이션 현상을 단순한 기술적 오류가 아닌, 근대 ‘매개적 인식론’의 구조적 한계가 공학적으로 구현된 필연적 결과물로 진단하고, 찰스 테일러의 ‘접촉 이론’과 ‘도덕 실재론’을 통해 AI 시대 인간 이성의 도덕 존재론적 대안을 모색하는 데 있다.
이를 위해 본 연구는 세 가지 단계적 과제를 수행한다. 첫째, LLM의 트랜스포머 구조가 지닌 확률적 토큰 예측 방식이 왜 ‘진실의 무게’를 담지할 수 없는지를 공학 문헌(Bender, 2021; Xu, 2024; Karpowicz, 2025)과 윤리학 문헌(Frankfurt, 1988; Hicks, 2024)의 교차 분석을 통해 실증적으로 규명한다. 둘째, 테일러의 “Overcoming Epistemology”(1995)와 드레이퍼스·테일러 공저Retrieving Realism(2015)을 중심으로, 데카르트-로크의 매개적 인식론이 컴퓨터주의를 거쳐 LLM 설계의 암묵적 배경으로 기능해 온 사상사적 계보를 추적하고, 할루시네이션의 원인을 ‘실재와의 접촉 부재’에서 비롯되는 구조적 병리로 재규정한다. 셋째, 테일러의 ‘강한 평가’ 개념과 ‘도덕적 지평’ 논의를 LLM의 RLHF(인간 피드백 기반 강화학습) 메커니즘과 대조 분석함으로써, 기존의 공학적·규범적 차원에 머물러 있던 AI 윤리 담론을 인간 고유의 가치 판단 능력을 회복하는 존재론적 차원으로 재구성하기 위한 철학적 토대를 정립한다.
본 연구는 궁극적으로 ‘왜 기계적 연산은 도덕적 무게를 가질 수 없는가’라는 존재론적 물음에 답함으로써, 할루시네이션 현상을 AI의 기술적 한계를 넘어 근대적 이성관의 한계를 드러내는 철학적 징후로 자리매김하고자 한다.
기대효과
(한글 2000자 이내)
[학문적 기여도]
첫째, 테일러 철학의 적용 영역을 기술철학으로 확장한다. 테일러의 매개적 인식론 비판과 접촉 이론은 그간 근대성 비판, 자유주의-공동체주의 논쟁, 세속화 담론 등의 맥락에서 주로 논의되어 왔다. 본 연구는 이 이론적 자원을 생성형 AI라는 동시대적 현상에 적용함으로써, 테일러 철학이 기술 시대의 존재론적 물음에 대해서도 유효한 해석 틀을 제공할 수 있음을 입증한다. 이는 테일러 연구의 외연을 넓히는 동시에, 기술철학 분야에 새로운 이론적 자원을 도입하는 효과를 기대할 수 있다.
둘째, AI 윤리 담론의 존재론적 전환을 촉발한다. 현재 AI 윤리 논의는 편향 제거, 투명성 확보, 책임 귀속 등 규범·정책적 차원에 집중되어 있다. 본 연구는 이러한 논의의 전제 자체를 물으며, AI가 왜 구조적으로 도덕적 주체일 수 없는지를 ‘접촉’과 ‘강한 평가’라는 존재론적 범주를 통해 해명한다. 특히, LLM의 RLHF가 수행하는 선호의 수치적 최적화와 테일러적 의미의 질적 구별 사이의 결정적 차이를 밝힘으로써, 기존 담론이 간과해 온 근본적 물음을 학술적 의제로 부상시킨다.
셋째, 공학과 인문학 사이의 학제적 대화를 위한 매개 언어를 구축한다. 본 연구는 Bender, Xu, Karpowicz 등의 공학 문헌과 테일러, 드레이퍼스의 철학 문헌을 ‘매개적 인식론 비판’이라는 하나의 문제의식 아래 통합적으로 조명한다. 이 작업은 공학과 인문학이 각기 다른 언어로 기술해 온 동일한 현상, 즉 실재와의 단절에서 비롯되는 구조적 오류를 하나의 프레임 안에서 대화시키는 시도로서, 향후 AI 관련 학제적 연구의 방법론적 선례가 될 수 있다.
[사회적 기여도]
첫째, AI 리터러시 교육의 인문학적 토대를 제공한다. 할루시네이션이 특정 기술의 일시적 결함이 아니라 특정한 인식 패러다임의 구조적 귀결이라는 본 연구의 진단은, 시민들이 생성형 AI의 한계를 근본적 차원에서 이해하고 그 결과물을 비판적으로 평가하는 역량을 갖추도록 돕는다. 이는 현재 기능적 활용법 위주로 설계된 AI 리터러시 교육에 철학적 깊이를 더하는 데 기여할 수 있다.
둘째, AI 윤리 정책 수립의 이론적 기반을 보강한다. ‘왜 AI에게 윤리적 판단을 위임할 수 없는가’에 대한 철학적 근거를 제공함으로써, AI 규범 설계 과정에서 기술적 효율성만이 아닌 존재론적 조건에 대한 고려가 포함되어야 함을 논증한다. 이는 국내외 AI 윤리 가이드라인 수립 논의에 인문학적 관점을 환류시키는 데 기여할 것이다.
연구요약
(한글 2000자 이내)
[연구 목적]본 연구는 LLM의 고질적 문제인 할루시네이션을 단순한 기술적 결함이나 데이터 부족 문제가 아닌, 근대 매개적 인식론이 초래한 구조적 귀결로 진단하는 데 목적이 있다. 데카르트-로크 이래 서양 근대 철학을 지배해 온 매개적 인식론은 인간의 마음이 ‘표상’이라는 내적 매개물을 통해서만 세계를 인식할 수 있다고 전제하는데, 본 연구는 이 인식론적 전제가 컴퓨터주의를 거쳐 LLM 설계의 암묵적 배경으로 기능하고 있음을 밝힌다. 나아가 찰스 테일러의 반(反)표상주의 철학, 특히 ‘접촉 이론’과 ‘강한 평가’ 개념을 통해, 현재의 확률론적AI 윤리 담론을 ‘실재와의 접촉’을 회복하는 존재론적 차원으로 재구성하고자 한다.
[연구 내용]본 연구는 다음의 세 단계로 진행된다.
① 현상 진단: LLM의 트랜스포머 구조와 할루시네이션의 상관관계를 분석한다. Bender(2021)의 ‘확률적 앵무새’ 개념, Xu(2024)의 계산 가능 함수의 한계 증명, Karpowicz(2025)의 벡터 통합 과정의 정보 왜곡 논증 등 최신 공학 문헌을 종합하고, 여기에 Frankfurt(1988)의 ‘허튼소리(bullshit)’ 개념과 Hicks(2024)의 윤리적 재범주화 논의를 결합하여, 할루시네이션이 ‘실재와의 접촉 부재’에서 비롯되는 필연적 병리 현상임을 논증한다. 이 단계에서 핵심적으로 밝히는 것은, LLM의 언어가 지시체 없는 자기 참조적 기호 체계에 갇혀 있어 외부 세계와의 대조를 통한 ‘교정 가능성’이 원천적으로 배제되어 있다는 점이다.
② 원인 분석: 테일러의 “Overcoming Epistemology”(1995)와 Retrieving Realism(2015)을 주 텍스트로 삼아, 매개적 인식론의 사상사적 계보를 추적한다. 데카르트가 사유하는 주체(res cogitans)를 연장적 세계(res extensa)로부터 분리시킨 이래, 로크가 마음을 관념들의 내적 처리 장치로 재정의하고, 이 도식이 컴퓨터주의를 거쳐 LLM의 설계 원리에 이르기까지의 인식론적 전제의 공유 관계를 밝힌다. 이를 통해 LLM을 세계와 단절된 ‘유리된 표상’ 체계로 규정하고, ‘유리된 이성’이 왜 필연적으로 도덕적 무능력에 이르는지—접촉 없이는 가치의 위계를 세울 수 없고, 위계 없이는 어떤 판단도 도덕적 무게를 갖지 못한다는 논리—를 해명한다.
③ 대안 방향 제시: Retrieving Realism 4-6장의 ‘접촉’ 개념을 통해, 접촉이 단순한 감각 입력이 아니라 세계 안에 위치한 행위자의 실천적 관여임을 밝히고, 이것이 정보의 양적 축적으로 대체될 수 없음을 논증한다. 이어서Sources of the Self(1989) 1부의 ‘강한 평가’ 논의를 LLM의 RLHF 메커니즘과 대조 분석한다. LLM의 선호 순위화(preference ranking)가 테일러적 의미의 질적 구별—‘어떤 삶이 더 고귀한가’를 판별하는, 자아 정체성과 불가분하게 결합된 가치 판단—과 결정적으로 구별되는 지점을 해명하고, AI 윤리 담론이‘무엇을 규제할 것인가’라는 규범적 물음을 넘어 ‘왜 기계적 연산은 도덕적 무게를 가질 수 없는가’라는 존재론적 물음으로 전환되어야 할 철학적 근거를 정립한다.
[연구 방법] 문헌 연구를 기초로 하되, 세 가지 방법론을 결합한다.
첫째, 텍스트 해석학적 분석으로, 테일러·드레이퍼스의 1차 문헌에서 ‘매개적 인식론’, ‘접촉’, ‘강한 평가’, ‘도덕적 지평’ 등 핵심 개념의 논증 구조와 내적 연관성을 재구성한다.
둘째, 사상사적 계보 추적으로, 데카르트-로크의 매개적 인식론이 컴퓨터주의를 거쳐 LLM에 이르는 인식론적 전제의 공유 관계를 ‘구조적 동형성’이 아닌 ‘인식론적 전제의 공유’로 설정하여, 철학적 분석과 공학적 기술 사이의 범주 혼동을 방지한다.
셋째, 비판적 종합으로, ①단계의 공학·윤리학 문헌의 기술적·규범적 논증을 ②, ③단계의 철학적 프레임 안에서 재해석하여, 개별 학문 분야에서 독립적으로 수행되어 온 논의들을 ‘매개적 인식론 비판’이라는 하나의 문제의식 아래 통합적으로 조명한다.
키워드(Keyword)
(한글 250자 이내)
할루시네이션, 거대 언어 모델, 매개적 인식론, 접촉 이론, 도덕 실재론, 강한 평가, 찰스 테일러, 유리된 이성
키워드
(영어 500자 이내)
Hallucination, Large Language Model, Mediational Epistemology, Contact Theory, Moral Realism, Strong Evaluation, Charles Taylor, Disengaged Reason
닫기