Large-Language Models as a Cognitive Virus

LLM 사용이 전염병처럼 인구 수준에서 퍼지는 상황을 수학 모델로 묘사한 논문이다. 채택이 임계점을 넘으면 인지 능력이 급격히 무너지는 도미노 전이와 기술 고착이 일어날 수 있고, 예방이 회복보다 쉽다는 것을 보인다.

이 논문은 한마디로 LLM(대형 언어 모델) 사용이 바이러스처럼 사람 사이에서 퍼지는 과정을 전염병 수학 모델로 그린 것이다. 사람을 '안 씀 → 자율적으로 씀(스스로 검증하고 생각하는 힘 유지) → 지속적으로 의존함'의 세 상태로 나누고, 사회적 전파·회복·집단 강화가 맞물리는 방정식을 세웠다. 그 결과 전파 강도가 임계값(tipping point, 급격히 상태가 바뀌는 분기점)을 넘으면 인구 전체가 급격히 의존 상태로 넘어가 평균 인지 역량이 순식간에 떨어질 수 있고, 한번 넘어가면 조건을 예전으로 되돌려도 쉽게 회복되지 않는 히스테리시스(되돌아가지 않는 현상, 기술 고착)가 생긴다. 같은 틀에서 '인지 면역화' 조건도 제시한다. AI 접촉 자체를 막는 게 아니라, 스스로 검증하는 습관과 AI 없이 문제를 푸는 훈련을 유지하는 것이 핵심이라는 결론이다.

핵심 요약

• 사람을 세 상태(미사용 U, 자율 사용 C, 지속 의존 D)로 나눈 인구 동역학(전염병식 확산) 모델에서, 전파율이 임계 구간을 넘으면 자율 집단과 의존 집단이 공존하던 상태가 급격히 의존 쪽으로 넘어가는 이중안정성(두 안정 상태가 공존하는 구간)이 나타났다.
• 예시 파라미터(ρ=0.10, κ=0.40)에서 임계값 λSN=0.40과 λTC=0.50 사이에 히스테리시스가 생긴다. 즉 채택이 한번 폭주하면 전파 압력을 예전 수준으로 낮춰도 저절로 이전 상태로 돌아오지 않는다(기술 고착).
• 지속 의존 비율은 D*=(µ/σ)C*로 정해진다. 의존으로 빠지는 속도 µ를 줄이거나 회복 속도 σ를 높이면 (훈련, 검증 습관, 의도적인 인지 마찰) 의존 규모를 줄일 수 있다.
• 인지 역량 예시값(자율 1.0, 자율적 사용 0.5, 지속 의존 0.1)을 대입하면 평균 역량도 같은 히스테리시스를 따라간다. 개개인의 채택이 완만해도 인구 전체에서는 급락할 수 있다는 게 핵심이다.
• '인지 면역화'는 AI 접촉 차단이 아니라, 스스로 검증하고 맨머리로 문제를 푸는 습관과 교육 설계를 유지하는 것이라고 정의했다. 예방이 회복보다 훨씬 쉽다는 결론.
• 논문이 인용한 실험 근거: '먼저 생각하고 나중에 ChatGPT' 프로토콜이 이후의 독립적 창의성을 높였고, 무제한 AI 사용은 도구를 쓰는 동안의 성과는 올려도 도구 없이 할 때의 성과와 이해·기억은 낮췄다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.