엔트로피의 법칙과 AI 개발 워크플로우: 컨텍스트 유실을 막는 시스템 아키텍처
열역학 제2법칙에 따르면, 고립된 계의 엔트로피(무질서도)는 시간이 흐를수록 항상 증가합니다.
놀랍게도 이 물리 법칙은 AI 에이전트와 함께 소프트웨어를 개발하는 워크플로우에서도 똑같이 작동합니다.
새로운 프로젝트를 시작할 때 AI는 경쾌하고 명확한 코드를 작성합니다.
하지만 기능이 추가되고 버그 수정이 반복되며 대화창의 길이가 수십 턴을 넘어서는 순간, AI는 어제 작성한 데이터베이스 스키마를 망각하고, 기존에 약속했던 코딩 컨벤션을 위반하며 엉뚱한 라이브러리를 임포트하기 시작합니다.
대화 맥락(Context Window)의 엔트로피가 한계에 도달한 것입니다.
AI 워크플로우에서 엔트로피가 발생하는 구조적 원인
이 현상은 LLM(대형 언어 모델)의 근본적인 동작 원리와 연관되어 있습니다.
아무리 긴 컨텍스트 윈도우를 지원하는 최신 모델이라도, 대화 기록이 길어지면 다음과 같은 문제가 필연적으로 발생합니다.
- 주의 집중도 분산 (Attention Degradation): 수만 토큰의 과거 대화 속에서 초기에 정의한 핵심 보안 규칙이나 아키텍처 원칙이 희석됩니다.
- 환각의 누적 (Error Propagation): 이전 턴에서 발생한 작은 오해나 잘못된 변수명이 다음 턴의 프롬프트에 입력으로 재사용되면서 눈덩이처럼 불어납니다.
- 임의적 코드 수정 (Context Drift): 전체 시스템의 의존 관계를 파악하지 못한 채, 당장 눈앞의 에러 메시지만을 해결하기 위해 기존 정상 코드를 덮어써 버립니다.
자체 운영 채널 분석 대시보드를 Next.js와 Supabase로 마이그레이션하던 초기, 저는 이 엔트로피 때문에 수차례 코드베이스 전체를 롤백해야 했습니다.
| 개발 진행 단계 | 대화창 기반 단순 코딩 (무질서 증가) | 영구 메모리 기반 워크플로우 (엔트로피 통제) |
|---|---|---|
| 초기 1~5턴 | 빠른 프로토타이핑, 높은 정확도 | 초기 시스템 명세 및 룰셋 정의 |
| 중기 15~30턴 | 변수명 불일치 발생, 이전 논의 망각 | 세션별 태스크 단위 검증 및 동기화 |
| 후기 50턴 이상 | 심각한 환각, 기존 정상 코드 파괴 | 신규 세션 전환 후 단일 진실 공급원(SSOT) 주입 |
엔트로피를 통제하는 단일 진실 공급원(SSOT) 아키텍처
무질서도를 통제하기 위해서는 휘발되는 대화창의 기억에 의존하지 않고, 항상 시스템의 현재 상태를 동기화하는 외부 영구 메모리 계층을 구축해야 합니다.
우리가 구축한 해결책은 3단계 메모리 방어선입니다.
[Antigravity 영구 메모리 아키텍처]
1계층: AGENTS.md (영구 보안 규약 및 코딩 가이드라인)
↓
2계층: PROJECT_PLAN.md (현재 세션 진척도 및 완료 태스크 SSOT)
↓
3계층: obsidian_notes/개발일지.md (시행착오 및 아키텍처 히스토리)AGENTS.md(헌법적 룰셋): “SQL은 반드시 플레이스홀더 사용”, “UI에 시스템 이모지 하드코딩 금지”, “민감 키 암호화” 등 프로젝트 전반에 영구 적용될 절대 규칙을 선언합니다.PROJECT_PLAN.md(실시간 나침반): 대화가 길어져 토큰이 낭비되기 전, 현재 진행 중인 마일스톤과 완료된 작업을 실시간으로 기록하고, 새로운 세션을 시작할 때 이 문서를 가장 먼저 주입받도록 만듭니다.- 세션 전환 규약 (Session Refresh): 하나의 큰 기능 단위가 완료되면 주저 없이 대화창을 닫고, 최신화된 문서를 바탕으로 새 대화를 시작합니다.
프롬프트 엔지니어링을 넘어선 시스템 엔지니어링
많은 사람들이 “어떻게 하면 AI에게 더 좋은 프롬프트를 작성할 수 있을까?“를 고민합니다.
하지만 1인 SaaS 개발의 성패를 가르는 것은 개별 문장의 기교가 아니라, 지식의 흐름과 상태를 통제하는 시스템 아키텍처입니다.
컨텍스트의 엔트로피를 방치하면 AI는 가장 위험한 기술 부채 제조기가 됩니다.
반면 철저하게 문서화된 단일 진실 공급원 체계를 구축하면, AI는 지치지 않고 무결성을 유지하는 최강의 시니어 동료가 됩니다.
개발을 시작하기 전에 질문해야 합니다. “당신의 AI는 지금 어디에 기억을 의존하고 있는가?”
참고 자료:
