CoT의 치명적 약점인 '오류 연쇄 전파'를 원자 단위 분해로 해결. 각 원자가 독립적으로 검증되므로 하나의 실패가 전체 추론을 무효화하지 않음.
불필요한 역사적 정보를 제거함으로써 컨텍스트 윈도우 사용량과 추론 비용을 절감합니다. 마르코프 속성(memoryless)이 핵심. AoT는 독립 프레임워크이자 기존 CoT, ToT, RAG 등과 결합 가능한 전처리 도구로 기능.
수학자가 증명을 할 때 핵심 보조정리(lemma)를 먼저 독립적으로 증명하고 조합하는 것처럼, AoT는 인간 전문가의 분할정복(divide-and-conquer) 전략을 프롬프팅으로 구현한 것.
AoT에서 원자적 질문이 갖춰야 할 두 가지 핵심 조건
① 자기완결성(Self-containedness):
원자적 질문은 외부 맥락이나 이전 추론 이력 없이도 독립적으로 답변 가능해야 함. 해당 질문을 해결하는 데 필요한 모든 정보가 질문 자체에 내포되어 있어야 함.
② 의존성 명시성(Dependency Explicitness):
다른 원자적 질문들과의 논리적 선후관계가 명확해야 함. 이를 통해 DAG(방향성 비순환 그래프) 구조로 표현 가능하며, 어떤 질문이 선행되어야 하는지 구조적으로 파악할 수 있음.
마르코프 프로세스와의 연결
마르코프 속성의 핵심은 "무기억성(memorylessness)":
[원자 질문 A] + [원자 질문 B] → [수축] → [새로운 원자 상태 C]수축 후 생성된 새로운 원자 상태 C는 A와 B의 해결된 정보를 완전히 흡수. 따라서 이후 추론에서 A, B의 전체 이력을 참조할 필요 없이 C만으로 다음 단계 진행이 가능. 이것이 CoT의 "오류 누적 문제"를 해결하는 핵심 메커니즘.
AoT 효과적 분야와 한계
AoT는 "정답이 존재하고, 검증 가능한 중간 단계가 있는" 문제에서 가장 효과적. 하지만 단순 판단이나 감정 판단, 특정 데이터 분포를 가정하는 경우에는 효과적이지 않음.
- 다중 홉 추론: 명확한 의존성 그래프 구성 가능 (예: HotpotQA, 복합 QA)
- 수학적 문제 해결: 각 단계가 검증 가능한 원자 단위 (예: 산술, 대수, 증명)
- 사실 기반 분석: 정보 조각들의 독립적 검증 가능 (예: 법률 문서 분석, 데이터 검증)
- 코드 디버깅: 모듈별 독립 검증 → 통합 (예: 버그 추적, 로직 검증)
AoT 적용 적합성 체크리스트:
- □ 문제를 독립적으로 검증 가능한 하위 질문으로 분해할 수 있는가?
- □ 하위 질문들 간의 의존성을 DAG로 표현할 수 있는가?
- □ 각 하위 질문의 "정답"을 판별할 수 있는가?
- □ 중간 결과를 압축해도 정보 손실이 없는가?