기업 AI

왜 내부 GPU에서 vLLM으로 LLM을 서빙하는가?

보안·데이터 통제·비용·성능 관점에서 내부 오픈소스 LLM과 vLLM 도입을 판단하기

외부 API와의 공정한 비교, vLLM이 맞는 조건, PagedAttention·continuous batching·prefix caching의 체감 효과, 도입 체크리스트와 검증 단계.

Bloom Energy: AI 전력 부족의 최대 수혜주인가, 기대를 너무 많이 반영한 주식인가?

2.8GW Oracle 계약, AI 전력 수요, SOFC의 경쟁우위와 2030년 밸류에이션을 검증한다.

AI 데이터센터의 전력 병목은 실제지만, Bloom Energy의 빠른 성장·고객 집중·워런트 희석·현금흐름을 거쳐 보통주에 얼마가 남는지 역산한다.

Applied Digital Corporation: 360억 달러의 AI 데이터센터 계약, 그런데 주주에게 남는 돈은 얼마일까?

1.41GW의 장기계약, 89% NOI 마진, 수십억 달러의 건설비. 성장과 보통주 가치가 일치하는지 검증한다.

Applied Digital Corporation의 장기 AI 데이터센터 계약이 건설비와 자본청구권을 거쳐 보통주 가치로 얼마나 전환되는지 분석한다.

Salesforce, Inc.: Agentforce는 CRM의 성장률을 다시 끌어올릴 수 있을까?

AI 매출은 빠르게 늘고 있다. 중요한 것은 기존 사업을 잠식하고도 남는 주당 현금흐름이다.

Salesforce의 Agentforce, 유기적 성장, cRPO, SBC와 자사주 매입을 검증하고 Reverse DCF로 현재 주가가 요구하는 FCF 성장률을 계산한다.

Retrieval Engineering에서 Task Engineering으로

RAG가 Agent가 될 때, AI 엔지니어링의 중심은 어떻게 이동하는가

필요한 정보를 찾는 검색 시스템에서 검증 가능한 업무 결과를 완성하는 시스템으로, AI 엔지니어링의 확장을 살펴본다.

Rogo가 금융 AI를 다 먹어버릴까? AlphaSense를 2년 써보며 생각한 데이터의 해자

Rogo의 금융 업무 화면과 AlphaSense의 희소 콘텐츠가 만나는 지점. 은행업의 AI 경제가치, 실제 데이터 업체 매출, 좌석 기반 SAM을 구분해 금융 AI의 기회를 따져본다.

AWS도 FDE를 뽑기 시작했다. 그런데 FDE는 채용한다고 만들어질까?

Hyperscaler와 Palantir를 통해 보는 고객-제품 순환과 축적되는 학습

AWS·Google 같은 hyperscaler가 FDE를 확장할 때 필요한 두 개의 피드백 순환을 살펴보고, Palantir를 반례로 삼아 조직 구조와 축적된 학습의 중요성을 분석한다.

FDE는 SI의 새 이름일까? Wonderful과 Reflection의 밸류에이션이 묻는 것

현장 엔지니어링이 다음 고객의 제품으로 남을 때, 서비스는 소프트웨어 경제성으로 바뀔 수 있다

Wonderful의 노동 레버리지와 Reflection의 자본·유통 레버리지를 비교해 비상장 AI 기업가치가 요구하는 미래 경제성을 분석한다.

AI팀과 현업, 누가 먼저 사라질까?

AI팀과 현업 중 누가 먼저 대체될까? 조직 전체보다 직무 안의 과업이 먼저 재배치된다는 관점에서 기업 AX의 다음 단계를 생각한다.

AX는 좁고 날카로워야 한다

범용 AI가 스위스 아미 나이프라면 기업의 AX는 특정 업무를 위해 칼을 새로 벼리는 일에 가깝다. 시장 정보 분석 사례로 자동화와 업무 재설계의 차이를 살펴본다.

Applied Digital Corporation Valuation Lab: 1.41GW의 계약은 주당 얼마의 가치가 될까?

NOI·잔여 CAPEX·할인율·재임대 가치와 추가 MW를 움직이며 시장가격이 요구하는 추가 NAV를 확인한다.

Applied Digital Corporation의 계약 MW, 개발비와 자본청구권을 보통주 가치로 연결하는 인터랙티브 민감도 도구.

Salesforce Valuation Lab: 현재 주가가 요구하는 FCF 성장률

FCF 성장률·SBC 반영·할인율을 움직이고, 시장가격에 들어 있는 성장률을 역산한다.

Salesforce의 FCF 성장률, SBC 조정, 할인율과 영구성장률을 바꾸며 5년 적정가치와 현재 주가의 내재 성장률을 계산한다.

AI 이관 대기열 시뮬레이터

이관율·처리시간·상담사 수를 바꾸면, 고객 대기는 어떻게 달라질까?

AI 상담의 사람 상담사 이관율, 평균 처리시간과 상담사 수를 바꾸며 M/M/c 대기열의 대기시간과 서비스 수준을 비교합니다.

vLLM은 왜 느려졌을까?

TTFT·TPOT·KV cache로 병목을 찾는 법

TTFT, TPOT, 대기열, prefill, KV cache와 선점을 함께 읽어 vLLM 서빙 병목을 진단하는 실전 문제 해결 안내서.

vLLM 튜닝이란 무엇인가?

GPU가 적을 때 LLM을 서빙하는 방법

제한된 온프레미스 GPU에서 vLLM으로 LLM을 서빙할 때, 지연시간과 처리량의 균형점을 어떻게 찾는지 정리한 글.

Build with Gemini 후기: GCP는 에이전트 시대를 진지하게 준비하고 있었다

시장점유율 3위의 클라우드가 에이전트를 다음 진입점으로 삼는 방식

고객사 초청 Build with Gemini 행사에서 본 GCP의 에이전트 보안·거버넌스, Gemini Enterprise의 stickiness와 한국 시장의 distribution 과제.

우리의 에이전트 플랫폼은 왜 처음엔 삐걱댔을까

그럴듯한 데모에서 예측 가능한 시스템까지, 3개월의 실제 운영 학습

범용 에이전트 플랫폼을 실제 기업 환경에서 운영하며 배운 예측 가능성, 신뢰 부채, 운영 우선 추상화의 원칙을 정리한다.