AI 에이전트

에이전트 설계의 여섯 가지 패턴: 도구 호출부터 사람의 승인까지

거대한 자율 루프 대신, 경계가 분명한 제어 흐름을 조합하는 법

도구 호출, 병렬 실행, 계획, 승인, 재시도, 품질 개선을 Python 제어 흐름으로 설명하고 LLM과 코드의 책임을 나눕니다.

LangGraph는 Architecture가 아니다: Runtime의 정확한 위치

Graph state와 애플리케이션 state를 분리해 worker, Redis, DB, 브라우저의 책임을 설계하는 법

LangGraph의 graph.astream(), updates, custom, reducer와 checkpoint를 살펴보고 Agent runtime과 backend 아키텍처의 경계를 구분합니다.

Agent가 일하면서 말하게 하기: SSE, Generator, Redis Streams

Async generator로 snapshot과 event를 HTTP 연결에 안전하게 흘려보내는 법

Iterator와 async generator부터 SSE framing, Redis Stream replay, heartbeat, 연결 해제, backpressure까지 Agent streaming endpoint를 구현합니다.

Agent Tool은 정확히 한 번 실행될 수 있을까: 승인, 멱등성, 재시도

송금 Tool을 두 번 실행하지 않기 위해 사용자 의도와 실행 결과를 연결하는 법

송금과 결제처럼 부수 효과가 있는 Agent Tool에서 사용자 승인, action fingerprint, idempotency key, Queue 재전달과 불명확한 실행 결과를 안전하게 처리하는 방법을 설명합니다.

State는 Event가 아니다: 실시간 Agent UI 설계법

Snapshot으로 화면을 복원하고 timeline과 cursor로 변화를 놓치지 않는 법

Agent run 화면에서 current state와 event timeline을 함께 배치하고, bootstrap·SSE·cursor replay·snapshot resync로 재연결을 안전하게 구현합니다.

Agent State는 어디에 있어야 하는가: PostgreSQL, Redis, Checkpoint

영속 기록, 실시간 투영, 재개 snapshot은 서로 다른 실패를 견딘다

Agent state를 durable run record, hot projection, execution checkpoint와 process-local state로 나누고 실패·복구 요구사항에 따라 저장 위치를 결정합니다.

Worker는 Thread가 아니다: Agent 실행을 API 서버에서 분리하는 이유

동시성 기본 요소와 실행 수명 주기의 책임을 구분하는 Agent backend 설계

Worker가 thread나 process의 다른 이름이 아닌 이유와 장시간 Agent run을 API 요청에서 queue와 worker로 넘기는 기준을 설명합니다.

Async, Thread, Process: Agent Worker를 이해하기 전에 알아야 할 것

기다리는 작업, blocking SDK, CPU-bound 계산에는 서로 다른 실행 도구가 필요하다

Agent backend의 작업 부하를 non-blocking I/O, blocking I/O, CPU-bound 계산으로 나누고 async, thread, process의 선택 기준을 설명합니다.

에이전트는 왜 Async가 필요한가: 기다리는 동안 다른 일을 시키는 법

LLM, DB, 검색 API를 기다리는 시간을 동시성으로 바꾸는 실행 모델

Agent backend에서 async가 필요한 이유를 blocking, coroutine, task, event loop, await와 구조화된 동시성을 통해 설명합니다.

왜 내부 GPU에서 vLLM으로 LLM을 서빙하는가?

보안·데이터 통제·비용·성능 관점에서 내부 오픈소스 LLM과 vLLM 도입을 판단하기

외부 API와의 공정한 비교, vLLM이 맞는 조건, PagedAttention·continuous batching·prefix caching의 체감 효과, 도입 체크리스트와 검증 단계.

Agent Backend 한 장 지도: API, Queue, Worker, State, SSE는 어떻게 연결되는가

실행 architecture의 책임 경계 — mental model, failure mode, 선택적 deep dive

Agent backend에서 API, queue, worker, PostgreSQL, Redis, SSE가 각각 어떤 책임을 갖는지 한 장 지도로 정리합니다. 구현 세부는 후속 글로 넘깁니다.

왜 리서치를 피드가 아니라 아카이브로 남기는가

투자, AI, 수학과 실험에서 얻은 생각을 결론만이 아니라 근거와 가정, 판단 과정까지 다시 검증할 수 있는 문서로 남기려는 이유.

Retrieval Engineering에서 Task Engineering으로

RAG가 Agent가 될 때, AI 엔지니어링의 중심은 어떻게 이동하는가

필요한 정보를 찾는 검색 시스템에서 검증 가능한 업무 결과를 완성하는 시스템으로, AI 엔지니어링의 확장을 살펴본다.

AI팀과 현업, 누가 먼저 사라질까?

AI팀과 현업 중 누가 먼저 대체될까? 조직 전체보다 직무 안의 과업이 먼저 재배치된다는 관점에서 기업 AX의 다음 단계를 생각한다.

AX는 좁고 날카로워야 한다

범용 AI가 스위스 아미 나이프라면 기업의 AX는 특정 업무를 위해 칼을 새로 벼리는 일에 가깝다. 시장 정보 분석 사례로 자동화와 업무 재설계의 차이를 살펴본다.

vLLM 튜닝이란 무엇인가?

GPU가 적을 때 LLM을 서빙하는 방법

제한된 온프레미스 GPU에서 vLLM으로 LLM을 서빙할 때, 지연시간과 처리량의 균형점을 어떻게 찾는지 정리한 글.

Build with Gemini 후기: GCP는 에이전트 시대를 진지하게 준비하고 있었다

시장점유율 3위의 클라우드가 에이전트를 다음 진입점으로 삼는 방식

고객사 초청 Build with Gemini 행사에서 본 GCP의 에이전트 보안·거버넌스, Gemini Enterprise의 stickiness와 한국 시장의 distribution 과제.

우리의 에이전트 플랫폼은 왜 처음엔 삐걱댔을까

그럴듯한 데모에서 예측 가능한 시스템까지, 3개월의 실제 운영 학습

범용 에이전트 플랫폼을 실제 기업 환경에서 운영하며 배운 예측 가능성, 신뢰 부채, 운영 우선 추상화의 원칙을 정리한다.

에이전트는 꼭 그래프여야 할까 — 내가 LangGraph를 걷어내기 시작한 이유

경로를 미리 그리는 일에서, 에이전트가 일할 환경과 경계를 설계하는 일로

멀티에이전트를 LangGraph로 구축한 경험을 바탕으로, 모델이 실행 경로를 만드는 시대에 그래프와 에이전트 런타임의 역할을 다시 나눈다.