에이전트 설계의 여섯 가지 패턴: 도구 호출부터 사람의 승인까지
거대한 자율 루프 대신, 경계가 분명한 제어 흐름을 조합하는 법
도구 호출, 병렬 실행, 계획, 승인, 재시도, 품질 개선을 Python 제어 흐름으로 설명하고 LLM과 코드의 책임을 나눕니다.
글 읽기 ↗토픽 / Knowledge hub
AI 시스템의 신뢰성, 품질, 비용과 실패 유형을 다룹니다.
Foundation / 기본 개념
거대한 자율 루프 대신, 경계가 분명한 제어 흐름을 조합하는 법
도구 호출, 병렬 실행, 계획, 승인, 재시도, 품질 개선을 Python 제어 흐름으로 설명하고 LLM과 코드의 책임을 나눕니다.
글 읽기 ↗보안·데이터 통제·비용·성능 관점에서 내부 오픈소스 LLM과 vLLM 도입을 판단하기
외부 API와의 공정한 비교, vLLM이 맞는 조건, PagedAttention·continuous batching·prefix caching의 체감 효과, 도입 체크리스트와 검증 단계.
글 읽기 ↗Research / 연구
RAG가 Agent가 될 때, AI 엔지니어링의 중심은 어떻게 이동하는가
필요한 정보를 찾는 검색 시스템에서 검증 가능한 업무 결과를 완성하는 시스템으로, AI 엔지니어링의 확장을 살펴본다.
글 읽기 ↗범용 AI가 스위스 아미 나이프라면 기업의 AX는 특정 업무를 위해 칼을 새로 벼리는 일에 가깝다. 시장 정보 분석 사례로 자동화와 업무 재설계의 차이를 살펴본다.
글 읽기 ↗Implementation / 구현
TTFT·TPOT·KV cache로 병목을 찾는 법
TTFT, TPOT, 대기열, prefill, KV cache와 선점을 함께 읽어 vLLM 서빙 병목을 진단하는 실전 문제 해결 안내서.
글 읽기 ↗GPU가 적을 때 LLM을 서빙하는 방법
제한된 온프레미스 GPU에서 vLLM으로 LLM을 서빙할 때, 지연시간과 처리량의 균형점을 어떻게 찾는지 정리한 글.
글 읽기 ↗Perspective / 관점과 노트
From a Dentist’s AI Stack to the Reinvention of Enterprises and Private Equity
AI가 소프트웨어·기술부채의 경제성을 바꿀 때, 도메인 전문가·조직 구조·중견기업·PE의 가치 창출 모델은 어떻게 달라질까.
글 읽기 ↗그럴듯한 데모에서 예측 가능한 시스템까지, 3개월의 실제 운영 학습
범용 에이전트 플랫폼을 실제 기업 환경에서 운영하며 배운 예측 가능성, 신뢰 부채, 운영 우선 추상화의 원칙을 정리한다.
글 읽기 ↗