Large Language Models Do Not Always Need Readable Language

LLM 간 통신에서 인간 가독성을 포기하고 정보 밀도를 극대화하는 'BabelTele' 텍스트 압축 표현을 제안한 연구.

LLM을 독자로 할 때 자연어의 인간 가독성 제약을 풀면, 모델은 이모지·기호·다언어 단편을 혼합한 고밀도 텍스트(BabelTele)를 자발적으로 생성한다. 원문의 27.9% 길이로 99.5% 의미 보존율을 달성했으며, 문서 QA·에이전트 메모리·다중 에이전트 통신 등 downstream 태스크에서 성능 저하 없이 컨텍스트 오버헤드를 크게 줄였다. Gemini, GPT, Claude, Qwen, DeepSeek 등 다양한 모델이 제로샷으로 서로의 압축을 해독할 수 있어, 모델 간 효율적 통신의 새로운 패러다임을 제시한다.

핵심 요약

• 인간 가독성 없이 의미만 보존하는 'BabelTele' 압축 표현 개념 최초 제안 — 원문의 27.9% 길이로 99.5% 의미 보존
• Gemini·GPT·Claude·Qwen·DeepSeek 등 이기종 모델 간 제로샷 호환 — 한 모델이 압축한 텍스트를 다른 모델이 파인튜닝 없이 해독 가능
• 다중 에이전트 통신에서 토큰 39~44% 절감하면서 태스크 점수 96.6~99.7% 유지
• 에이전트 메모리 벤치마크(LoCoMo)에서 요약(Summary) 대비 더 높은 정확도(96.48% vs 94.20%)를 더 적은 토큰으로 달성
• LongBench v2 코드 저장소 QA에서 컨텍스트 윈도우 초과 시 단순 절단보다 BabelTele 압축이 오히려 정확도 향상 (Qwen3.6-Max 55.17%→62.07%)
• BabelTele 이해도는 모델 크기와 단조 관계가 아님 — 모델별 압축 형태에 대한 강인성이 핵심 변수

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.