'AI가 한 말인데요' — 이 변명이 법정에서 박살 난 날

당장 앞으로 6개월이 가장 뜨거울 거다. 2026년 8월 2일, EU AI Act의 Article 50 투명성 의무가 시행된다. 이것은 AI 생성 콘텐츠에 대한 투명성 표시를 강제하는 조항인데, 뮌헨 판결과 맞물리면 구글에게 이중 압박이 된다. 하나는 법원이 "네 AI의 말은 네 말이다"라고 선고한 것이고, 다른 하나는 EU가 "네 AI가 만든 콘텐츠라는 걸 투명하게 밝혀라"라고 요구하는 것이다. 구글은 당연히 이 판결에 항소할 것이다. 이 판결은 가처분(임시 금지 명령)이라 확정 판결은 아직이고, 상급 법원에서 뒤집힐 가능성도 분명히 있다. 하지만 항소 과정 자체가 최소 6~12개월은 걸릴 것이고, 그동안 이 판결을 선례로 인용하는 유사 소송이 유럽 전역에서 줄줄이 제기될 거다. 나는 2026년 하반기에만 유럽에서 최소 20~30건의 AI 할루시네이션 관련 소송이 새로 제기될 것으로 본다.

소송의 가속화는 이미 현실이다. Damien Charlotin의 법률 데이터베이스에 따르면, 전 세계 AI 할루시네이션 관련 법적 사건은 1,450건을 돌파했고, 하루에 10개 법원에서 동시에 AI 관련 판결이 나오는 날도 있다. 2026년 1분기에만 미국 법원의 AI 할루시네이션 관련 제재 합계가 14만 5천 달러를 넘었다. Norton Rose Fulbright의 2026 기업소송 동향 조사는 AI 관련 기업 법적 노출이 "초기 예상을 완전히 초월하는 속도로 심화"되고 있다고 경고한다. 법률 분야의 AI 허위 인용 건수만 봐도, 2023년 4월에서 2025년 5월 사이 120건이었던 것이 2025년 12월에는 660건으로 18개월 만에 5.5배나 폭증했고, 지금은 하루 4~5건씩 새로운 사건이 터지고 있다. 나는 뮌헨 판결이 이 흐름에 확실한 가속 페달을 밟을 거라고 확신한다.

중기적으로 6개월에서 2년 사이를 보면, 미국과 유럽의 규제 격차가 본격적으로 드러날 거다. 미국에서는 2026년 3월에 발의된 Trump America AI Act가 섹션 230 폐지를 포함하고 있지만, 약 300페이지짜리 법안이 의회를 통과하려면 상당한 정치적 협상이 필요하다. Moody's가 분석한 대로 AI 챗봇은 콘텐츠를 "생성"하므로 제3자 콘텐츠 면책을 규정한 섹션 230의 적용이 원래부터 어렵지만, 이것이 법원 판례로 확립되려면 시간이 걸린다. 반면 유럽은 뮌헨 판결이라는 선례를 이미 확보했고, EU DSA와 AI Act라는 법적 프레임워크가 가동 중이다. 72개국이 이미 AI 정책을 보유하고 있고, 2025년에만 미국 주 차원에서 1,100개 이상의 AI 관련 법안이 발의되어 약 100개가 통과되었다는 사실은, 규제 모멘텀이 이미 되돌리기 어려운 수준이라는 걸 보여준다. 이 속도라면 2027년 말까지 미국에서도 AI 생성 콘텐츠에 대한 최소한의 연방 차원 규제가 등장할 가능성이 높다.

한국의 경우를 별도로 짚어볼 필요가 있다. 국내에서는 AI 기본법 입법 논의가 진행 중이고, 방통위·과기정통부 등 복수의 규제 기관이 각자 관할권을 주장하는 혼선이 있다. 네이버와 카카오 등 국내 대형 플랫폼이 AI 검색 서비스를 확대하는 상황에서, 뮌헨 판결과 같은 법리가 국내에서 적용될 경우 어느 기관이 주도적으로 집행할지도 불분명하다. 하지만 한국은 IT 수용 속도가 세계 최고 수준이라 AI 서비스의 확산 속도도 빠른 만큼, 할루시네이션 피해 사례가 축적될수록 규제 압력도 빠르게 커질 것이다. 나는 2027년 안에 국내에서도 AI 생성 정보로 인한 명예훼손 민사소송이 최소 수십 건 이상 제기될 것으로 예측한다. 지금은 판결 사례가 없어 보이지 않지만, 피해자들이 뮌헨 선례를 알게 되는 순간 상황은 달라진다.

이 규제 환경의 변화는 AI 산업 자체를 구조적으로 재편할 가능성이 높다고 본다. 나는 앞으로 1~2년 안에 'AI 책임 보험'이라는 새로운 금융 상품이 등장할 거라고 예측한다. 기업들이 AI 할루시네이션으로 인한 소송 리스크를 헤지하기 위해 보험을 들 것이고, 보험사들은 AI 시스템의 정확도와 안전성을 평가하는 독립적 감사 시스템을 요구할 거다. 이건 자동차 보험이 자동차 안전 기준을 끌어올린 것과 같은 메커니즘이다. 또한 구글은 독일 및 유럽에서 AI 오버뷰의 동작 방식을 수정할 가능성이 높은데, 출처 표시 강화, 불확실한 정보에 대한 경고 문구 추가, 또는 특정 민감한 쿼리에서 AI 오버뷰 자체를 비활성화하는 형태가 될 수 있다. Alphabet의 검색 광고 수입이 2025년 기준 2,245억 달러로 전체 매출의 55.7%를 차지하는 상황에서, AI 오버뷰의 법적 리스크는 핵심 수익원에 대한 직접적 위협이라는 점에서 경영진의 최우선 의제가 될 수밖에 없다.

장기적으로 2~5년을 바라보면, 나는 결국 AI 생성 콘텐츠에 대한 완전히 새로운 법적 카테고리가 만들어질 거라고 확신한다. 출판사와 플랫폼이라는 이분법은 인쇄 시대와 초기 인터넷 시대에 만들어진 것이다. AI는 이 두 카테고리 어디에도 완전히 들어맞지 않는다. AI는 콘텐츠를 생성하지만 전통적 의미의 편집 의도가 없고, 플랫폼처럼 매개하지만 원본을 변형한다. 유럽의회 연구 보고서가 지적한 대로, EU DSA와 AI Act 사이에는 이미 "AI 생성 콘텐츠의 투명성, 리스크 평가, 콘텐츠 모더레이션" 관련 의무가 교차하는 복잡한 상호작용이 존재한다. 나는 2028년쯤이면 적어도 EU에서는 'AI 콘텐츠 생성자(AI Content Generator)'라는 새로운 법적 지위가 출판사와 플랫폼 사이에 정의될 거라고 본다. 이 카테고리는 출판사보다는 낮지만 플랫폼보다는 높은 수준의 책임을 부과하고, AI 시스템의 불확실성 수준을 투명하게 공개하는 의무를 핵심으로 할 것이다.

더 근본적으로는, 인간과 AI 사이의 정보 신뢰 구조 자체가 바뀔 거다. 지금은 AI가 생성한 답변을 사용자가 무비판적으로 수용하는 구조다. 법원도 지적했듯이, AI 오버뷰 사용자 대부분은 하단의 출처 링크를 클릭하지 않는다. 근데 여기서 진짜 아이러니한 건, 출처 링크를 표시하는 것 자체가 오히려 사용자에게 "이 답변은 신뢰할 만하다"는 잘못된 인상을 준다는 연구 결과다. 이것은 투명성의 역설이다 — 투명하게 보이는 것이 실제 투명성을 대체하고, 할루시네이션을 포함한 답변조차 "신뢰 가능"해 보이게 만든다. 법적 책임이 강화되면, AI 시스템은 자신의 답변에 대한 확신 수준(confidence level)을 표시해야 할 것이고, 사용자는 이것을 참고해서 정보를 판단하는 새로운 리터러시를 개발해야 한다. 나는 이것이 5년 안에 AI 인터페이스의 표준이 될 거라고 본다. 영양성분 표시가 식품 산업을 바꿨듯이, "할루시네이션 확률 표시"가 AI 산업을 바꿀 것이다.

시나리오별로 풀어보겠다. 가장 낙관적인 불 시나리오에서는, 뮌헨 판결이 상급 법원에서도 유지되고 EU AI Act Article 50 시행과 함께 AI 투명성 의무가 글로벌 표준으로 확산된다. 구글을 비롯한 빅테크들이 법적 리스크를 심각하게 받아들여 AI 정확도에 대한 대규모 투자를 단행하고, Alphabet의 이론상 최대 벌금 노출(연매출 7% = 약 282억 달러)이 강력한 인센티브로 작용해 현재 91%인 AI 오버뷰 정확도를 97~98%까지 끌어올린다. 이 과정에서 할루시네이션 비율이 현재 프론티어 모델 기준 3.1~19.1% 범위에서 1% 미만으로 떨어지고, AI에 대한 사회적 신뢰가 전반적으로 상승한다. GDPR이 데이터 보호 투자를 유도했듯이, AI 책임법이 AI 안전 투자를 유도하면서 "책임 있는 AI"가 경쟁 우위가 되는 시대가 열리는 거다. 이 시나리오의 실현 확률을 나는 약 25%로 본다.

가장 개연성 높은 베이스 시나리오는 "글로벌 규제 격차 지속"이다. 뮌헨 판결은 가처분이므로 항소 과정에서 상당 부분 완화되거나 적용 범위가 축소될 가능성이 있다. 구글은 독일 및 일부 유럽 국가에서만 AI 오버뷰의 동작을 수정하고, 미국을 비롯한 나머지 시장에서는 기존 서비스를 유지한다. 미국의 섹션 230 개혁은 정치적 교착 상태에 빠져 2028년 이전에 통과되기 어렵고, AI 소송은 늘어나지만(현재 1,450건에서 2027년 3,000건 이상으로 증가 예상) 대규모 집행 전에 개별 합의로 마무리되는 패턴이 반복된다. 구글은 연간 약 5~10억 달러 규모의 할루시네이션 관련 합의금과 법무 비용을 "비즈니스 비용"으로 흡수하고, 실질적 서비스 변화는 제한적이다. 나는 이 시나리오의 확률을 약 50%로 본다.

비관적인 베어 시나리오는 두 갈래로 나뉜다. 한쪽은 과잉 규제다 — 출판사 책임 기준이 모든 AI 시스템에 엄격하게 적용되면서, AI가 모든 답변에 면책 조항을 삽입하고 민감한 주제에 대해서는 아예 답변을 거부하는 "겁쟁이 AI"가 되는 시나리오다. 이 경우 AI 검색의 유용성은 급감하고, 사용자들은 전통적 링크 검색으로 회귀한다. 다른 한쪽은 빅테크 면책 고착화다 — 구글이 독일 판결을 항소에서 무력화하고, 미국 섹션 230 개혁이 무산되면서 향후 10년간 AI 책임 논의가 후퇴하는 시나리오다. 이 경우 AI 할루시네이션 피해는 계속 증가하지만 법적 구제 경로는 닫힌 채로 남는다. EU가 2026년 5월 7일 Digital Omnibus 잠정 합의로 AI Act Annex III 고위험 AI 기한을 2027년 12월로 연기한 건, 규제 완화 압력이 실재한다는 신호이기도 하다. 이 두 베어 시나리오의 합산 확률을 나는 약 25%로 본다.

물론 내 전망이 틀릴 수 있는 조건도 있다. AI 기술이 예상보다 빠르게 발전해서 할루시네이션 비율을 0.1% 미만으로 끌어내린다면, 법적 책임 논의 자체가 무의미해질 수 있다. 또한 구글이 AI 오버뷰를 폐기하고 완전히 새로운 형태의 AI 검색을 출시한다면, 뮌헨 판결의 법리적 기반이 흔들릴 수 있다. 하지만 현재 26개 주요 모델의 할루시네이션 비율이 22~94% 범위이고, 프론티어 모델도 3.1~19.1%의 오류율을 보이는 현실에서, 기술적 해결이 법적 해결보다 빨리 올 거라는 기대는 비현실적이라고 본다. 독자에게 실질적 조언을 하자면, AI 오버뷰나 AI 검색 결과를 사업적 의사결정이나 개인 평판과 관련된 정보 확인에 사용할 때는 반드시 원본 출처를 직접 확인하는 습관을 들여야 한다. 특히 자신의 회사나 이름이 AI 검색에서 어떻게 표시되는지를 정기적으로 모니터링하는 것을 강력히 권한다. 뮌헨의 두 출판사처럼, 언제 AI가 당신의 기업을 사기꾼으로 만들어버릴지 아무도 모르기 때문이다.