지난 AWS Summit Seoul 2026은 메인 키노트부터 트랙 세션까지 AI가 비즈니스를 어떻게 혁신하고 있는지 직관적으로 보여주는 자리였습니다.

워낙 규모가 큰 행사라 자칫 어수선할 수 있었지만, 헤드폰을 활용한 세션 진행 덕분에 클라우드와 데이터 아키텍처에 대한 깊이 있는 내용들을 놓치지 않고 선명하게 들을 수 있었습니다.

화려한 AI 기술들이 쏟아지고 있지만, “그래서 우리 비즈니스에는 어떻게 적용해야 하지?”라는 고민은 늘 남기 마련입니다.

그 답을 찾을 수 있는 곳이 바로 AI-Ready Data: 에이전틱 AI 시대, 데이터가 답이다 세션이었습니다.

오늘은 현장에서 배운 지식과 인사이트를 공유해 드리겠습니다.

“에이전틱 AI의 성패는 모델이 아니라 데이터가 결정합니다.”

01 — Agent vs Chatbot

챗봇과 AI 에이전트, 뭐가 다른가

둘의 차이는 딱 하나입니다. 행동을 하느냐, 안 하느냐입니다.

Chatbot	AI Agent
“설명해줘”	“처리해줘”
질문에 답변을 생성하는 것이 전부입니다. 결과를 텍스트로 돌려주고 끝입니다.	추론하고, 계획하고, 실제로 행동까지 수행합니다. 고객 불만 요약에서 그치지 않고, 사과 메일을 보내고 보상까지 처리합니다.

행동이 가능하려면 에이전트가 우리 비즈니스를 진짜로 이해해야 합니다.
이해 없는 자율은 사고로 직결됩니다. 그 이해를 만들어주는 것이 바로 데이터입니다.

---

02 — AI-Ready Data

AI-Ready Data란 무엇인가

정의 : AI 에이전트가 스스로 찾고, 해석하고, 실행할 수 있는 데이터

“우리 회사 분석가가 데이터를 쓸 수 있나요?”
— 대부분 “예”라고 답합니다. SQL 짜고 리포트 만들고 있으니까요.
그런데 “우리 AI 에이전트가 데이터를 쓸 수 있나요?”
— 여기서 대부분 멈칫합니다.

사람은 행간을 읽습니다. 컬럼명이 다소 복잡해도 맥락을 짐작합니다.
하지만 AI는 명시적으로 정의된 것만 쓸 수 있습니다. 이 간극이 에이전트 실패의 근본 원인입니다.

---

03 — Semantic Layer

시맨틱 레이어: 데이터에 맥락을 입히다

정의 : 비즈니스 맥락을 AI가 읽을 수 있는 형태로 정리해 놓은 계층입니다. LLM과 데이터 사이에 놓이는 “의미의 다리”입니다.

핵심은 기존 아키텍처를 바꾸지 않는다는 것입니다.
이미 운영 중인 데이터 플랫폼, 파이프라인 — 아무것도 버리지 않습니다. 
LLM과 데이터 사이에 한 레이어만 추가합니다.

LLM이 똑똑해진 게 아닙니다. 데이터가 똑똑해진 것입니다.

한 가지 더 — 시맨틱 레이어는 기술팀 혼자 만들 수 없습니다. 메타데이터는 시스템만으로 쌓이지 않습니다.
데이터를 만드는 생산자의 도메인 지식이 반드시 들어와야 합니다.
생산자·소비자·기술팀 세 주체가 함께 만들어가는 운영 모델이 기술 구축보다 먼저 세팅되어야 합니다.

---

04 — Four Barriers

AI가 넘어야 할 4가지 장벽

시맨틱 레이어를 만드는 과정은 이 4개의 장벽을 하나씩 해결하는 과정입니다.

각 단계가 앞 단계의 한계를 메우는 구조입니다.

01	02	03	04
맥락 장벽 (Context Barrier)	연결 장벽 (Connection Barrier)	추론 장벽 (Reasoning Barrier)	신뢰 장벽 (Trust Barrier)
관련 정보를 찾지 못합니다	엔티티 간 관계를 모릅니다	비즈니스 규칙을 모릅니다	결과의 근거를 설명 못합니다
벡터 검색 (RAG) 많은 팀이 여기까지는 와 있습니다	지식 그래프 고객·상품·캠페인을 노드/엣지로 연결	온톨로지 “VIP = 매출 상위 10%” 같은 규칙 정의	시맨틱 레이어 전체 출처·권한 포함한 설명 가능성

---

05 — Components

시맨틱 레이어의 구성 요소

시맨틱 레이어는 5가지 핵심 요소로 구성됩니다.

각 요소가 유기적으로 연결되어 AI가 데이터를 이해할 수 있는 환경을 만듭니다.

먼저 데이터를 모읍니다. 입력은 두 곳에서 들어옵니다.
하나는 사내 시스템에 올라와 있는 공식 문서, 또 하나는 담당자가 개인적으로 갖고 있는 파일입니다.
“내가 가진 경쟁사 자료와 우리 데이터를 비교해줘” 같은 요청이 가능하려면 이 두 경로를 모두 안전하게 처리할 수 있어야 합니다.

그 다음, 이 데이터를 세 가지 방식으로 가공합니다.

① 비정형 데이터 처리 
— PDF, 정책 문서, 업무 매뉴얼 같은 텍스트를 의미 단위로 잘게 쪼개고(청킹), 숫자 벡터로 변환(임베딩)합니다.
나중에 “이것과 비슷한 내용 찾아줘”가 가능해지는 기반입니다.

② 지식 그래프 생성 
— 문서 안에서 등장하는 개념(엔티티)과 그 사이의 관계를 뽑아냅니다.
“고객 A는 프로모션 B에 반응했고, 프로모션 B는 카테고리 C에 속한다” 같은 연결 구조를 만드는 것입니다.
LLM이 이 추출 작업을 담당합니다.

③ 온톨로지 개발 
— “VIP 고객은 매출 상위 10%”, “새벽배송 지연 시 보상 기준은 3일” 같은 비즈니스 규칙을 AI가 읽을 수 있는 형태로 정의합니다.
LLM이 초안을 만들고, 도메인 전문가가 검토해 완성합니다.

가공된 데이터는 두 개의 저장소에 나뉘어 저장됩니다. 
벡터로 변환된 문서는 Amazon OpenSearch에, 엔티티와 관계로 구성된 지식 그래프는 Amazon Neptune에 들어갑니다.
에이전트가 질문을 받으면 질문 유형에 따라 두 저장소를 적절히 조합해 답변을 만들어냅니다.

마지막으로, 이 모든 것은 Amazon Bedrock AgentCore를 통해 에이전트에게 전달됩니다. 
시맨틱 레이어를 에이전트에게 직접 붙이는 게 아니라, AgentCore라는 통로를 거치는 구조입니다.
프롬프트 관리, 사용자 피드백, 보안, 모니터링까지 AgentCore 하나에서 처리되기 때문에 별도로 구성할 것이 크게 줄어듭니다.

---

06 — Knowledge Injection + AgentCore

지식을 에이전트에 연결하는 4가지 방법

시맨틱 레이어를 잘 만들었다고 끝이 아닙니다. AI 에이전트가 이 지식을 실제로 활용할 수 있도록 연결해야 합니다.

💡 Amazon Bedrock AgentCore를 권장하는 이유

에이전트를 운영하려면 프레임워크, 대화 맥락 관리, 인증·권한, 외부 도구 연결, 모니터링까지 챙겨야 할 것이 많습니다.
이걸 하나하나 직접 만들다 보면 정작 에이전트 기능 개발은 시작도 못합니다.
시맨틱 레이어를 직접 노출하지 않고, AgentCore를 통로로 사용하는 구조를 권장합니다.
LLM 레이어에서 추론하고, 시맨틱 레이어에서 맥락을 가져오고, 데이터 레이어에서 실제 데이터를 조회하는 흐름이 하나의 서비스 위에서 자연스럽게 연결됩니다.
안전하고, 확장 가능하고, 관리가 쉽습니다.

---

07 — Case Study

실제로 얼마나 달라질까

가상 이커머스 플랫폼 CS팀 시나리오로 직접 비교했습니다.

질문: “평일 밤 10시에 앱으로 전자제품 15만 원어치를 사면 받을 수 있는 혜택이 전부 뭐야?”

① 평일 밤 10시 — 시간 맥락  |  ② 앱 구매 — 채널 필터링  |  ③ 전자제품 15만 원
— 카테고리 + 금액 다중 조건을 동시에 처리해야 합니다.

데모 시점의 CQ Coverage(AI가 답해야 할 핵심 질문 목록 중 실제로 답할 수 있는 비율)는 70%였습니다.

온톨로지는 한 번에 완성하는 것이 아닙니다. 
지속적으로 개선하는 프로세스로 접근해야 합니다.

---

— Key Takeaways

마지막으로 발표자가 남긴 세 줄이 이 세션의 전부를 담고 있습니다.

데이터 플랫폼, 품질 관리, 보안은 이미 여러분 조직 안에 있습니다.

거기에 시맨틱 레이어 한 조각이 더해질 때, 에이전트가 비로소 우리 비즈니스를 이해하기 시작합니다.

---

세션을 듣고 나서 든 생각은, 결국 “AI 도입”이 아니라 “데이터 정비“가 먼저라는 것입니다.

멋진 에이전트를 붙이기 전에, 우리 조직 안에 이미 있는 데이터가 AI에게 말을 걸 수 있는 상태인지 먼저 점검해볼 필요가 있겠다는 생각이 들었습니다. 모델을 고르는 일은 그 다음이어도 늦지 않습니다.

위 내용 관련하여 문의사항이 있으시면, 언제든지 NDS로 연락 주시기 바랍니다.

Reference: AWS Summit Seoul 2026, AWS Session by 유철민, 김지애

SA 김은진