이런 분들이 찾고 있어요
이 레슨과 관련된 학습 키워드
AI 교육 플랫폼
AI 교육 플랫폼 추천AI 강의 사이트머신러닝 온라인 강의딥러닝 강의 추천
AI 독학/로드맵
AI 독학 방법머신러닝 공부 순서딥러닝 로드맵머신러닝 독학 로드맵
AI 취업/커리어
AI 취업 준비데이터 사이언티스트 강의ML 엔지니어 준비AI 면접 준비
에이전트란 무엇인가
1 / 21
왜 에이전트가 중요한가
100%
실제 GitHub 이슈 해결 과제에서 LLM 에이전트의 성능을 측정한 벤치마크 결과 · Figure 6, arXiv:2310.06770
21. What — 에이전트의 한 줄 정의
3- 에이전트(Agent) = LLM + 도구(Tools) + 루프(Loop)
4- LLM: 다음에 무엇을 할지 결정하는 정책(policy) 역할
5- 도구: 모델이 세계를 읽고 바꾸는 손 (검색, 파일 읽기/쓰기, 셸 실행, API 호출, DB 쿼리)
6- 루프: 행동 → 관찰 → 재판단을 종료 조건까지 반복하는 제어 구조
7- 세 요소 중 하나라도 빠지면 에이전트가 아니다. 도구 없는 LLM은 조언자, 루프 없는 LLM+도구는 1회성 함수 호출기일 뿐이다.
82. 단순 챗봇과 무엇이 다른가
9- 단순 챗봇: 입력 1회 → 토큰 생성 1회 → 종료. 모든 계산이 한 번의 순전파 안에서 끝난다.
10- 에이전트: 목표(goal) 1회 입력 → 여러 번의 생성·실행·관찰 → 스스로 종료 선언.
11- 챗봇의 지식 상한은 학습 시점의 파라미터다. 에이전트는 도구로 실행 시점의 사실(현재 파일 내용, 테스트 실패 로그, 오늘 주가)을 가져온다.
12- 챗봇은 틀려도 그대로 끝난다. 에이전트는 관찰이 오답을 반박하면(테스트 실패, 404) 다음 스텝에서 계획을 수정할 수 있다.
13- 비유: 챗봇은 시험지에 답을 한 번 적는 학생, 에이전트는 계산기·교과서·채점기를 손에 쥐고 답이 맞을 때까지 고쳐 쓰는 학생.
143. 루프의 형식화
15- 시각 t에서 에이전트의 상태는 지금까지의 히스토리 h_t = (g, a_1, o_1, \dots, a_{t-1}, o_{t-1}) — 목표 g, 과거 행동 a, 과거 관찰 o의 나열이다.
16- LLM은 이 히스토리를 프롬프트로 받아 다음 행동을 확률적으로 고른다.
17
a_t \sim \pi_{LLM}(a \mid h_t), \quad o_t = \text{Env}(a_t)
18- 즉 에이전트는 부분 관찰 마르코프 결정 과정(POMDP)의 정책을 LLM으로 근사한 것이고, 프롬프트(컨텍스트)가 곧 상태 표현이다.
19- 종료는 별도의 행동 a_t = \text{finish} 또는 최대 스텝 T 도달로 정의한다.
204. Why — 왜 지금 실용화되었는가
21- (1) 추론 능력의 임계점: 사고 사슬(Chain-of-Thought, Wei et al., 2022)이 통하는 규모의 모델부터 "관찰을 근거로 계획을 고치는" 행동이 안정적으로 나온다. GPT-4급 이전 모델은 3~4스텝 안에 계획이 붕괴했다(OpenAI, 2023).
22- (2) 추론+행동의 결합: ReAct(Yao et al., 2023)는 생각(Thought)과 행동(Action)을 번갈아 생성하면 환각이 줄고 HotpotQA·ALFWorld 성능이 크게 오름을 보였다. 루프가 곧 성능이라는 최초의 명확한 증거였다.
23- (3) 도구 호출의 규격화: OpenAI Function Calling(2023-06)과 이후의 tool-use API가 모델 출력을 JSON 스키마에 맞춘 구조화 행동으로 강제했다. 그전까지 파싱은 정규식 노가다였고, 이 불안정성이 최대 병목이었다. Toolformer(Schick et al., 2023)는 도구 호출 자체를 학습할 수 있음을 보였다.
24- (4) 긴 컨텍스트: 히스토리 h_t가 곧 상태이므로, 컨텍스트 길이가 곧 에이전트의 작업 기억 용량이다. 4K → 100K+ 확장이 수십 스텝짜리 작업을 가능하게 했다.
25- (5) 자기 수정: Reflexion(Shinn et al., 2023)은 실패 관찰을 언어적 피드백으로 저장해 다음 시도에 반영하면 HumanEval 정답률이 크게 오름을 보였다.
265. 왜 루프가 수학적으로 필요한가
27- 한 스텝 성공 확률을 p라 하면, 검증 없는 n스텝 파이프라인의 성공률은 p^{n}이다. p=0.95, n=20이면 약 $0.36$.
28- 반면 각 스텝에서 관찰로 검증하고 재시도하면 스텝별 성공률이 1-(1-p)^{k}로 올라간다(k=재시도 횟수).
29- 결론: 긴 작업에서 에이전트가 이기는 이유는 모델이 더 똑똑해서가 아니라 오류를 발견하고 복구할 기회를 반복해서 갖기 때문이다.
306. 최소 루프 구현 스케치
python드래그하여 줄을 선택하세요
1def agent_loop(goal, tools, llm, max_steps=20):💡2 history = [{"role": "user", "content": goal}]💡3 for step in range(max_steps):💡4 action = llm.decide(history, tools)💡5 if action.name == "finish":💡6 return action.answer💡7 obs = tools[action.name](**action.args)💡8 history.append({"role": "tool", "content": obs})💡9 return "최대 스텝 초과"💡0:00 / 3:14