12-Factor Agents: 운영 환경에서 신뢰할 수 있는 LLM 에이전트를 만들기 위한 12가지 원칙

기계와 대화하던 것에서 기계를 이해시키고, 기계에게 일을 시키더니, 이제는 기계가 자동으로 방치형 게임처럼 부가가치를 계속 생산하는 시대에 살짝 발을 내딛는 순간인 것 같습니다.
Harness Eng.도 그렇고…
예전에 기계어로 코딩하던 것을, 자연어로 코딩하듯 체계적인 문서와 관리체계를 만들고 있네요.
  • 요약 그림
    • notion image
  • What to Remember
    • 프롬프트를 직접 소유하라: 프레임워크가 숨긴 프롬프트 대신 코드처럼 버전 관리하라.
    • 컨텍스트 윈도우를 설계하라: 무엇이·어떤 순서로 들어가는지 직접 통제하라(Factor 3, 가장 중요).
    • 도구는 그냥 구조화된 출력이다: 거창하게 보지 말고 JSON 스키마로 정의·검증하라.
    • 사람도 도구 호출로 다뤄라: 항상 JSON을 내고 intent 필드로 '사람에게 묻기/끝내기/도구 호출'을 구분하라.
    • 작게 쪼개라: 3~10단계, 최대 20단계짜리 Micro-Agent를 결정론적 시스템에 끼워 넣어라.
    • 오류는 압축해 되먹여라: 단, 연속 3회 실패 시 사람에게 에스컬레이션해 스핀-아웃을 막아라.
  • 원제 : 12-Factor Agents - Principles for building reliable LLM applications