aws re:Invent는 AWS에서 주최하는 컨퍼런스 이며 3,000개 이상의 기술 세션, 파트너 엑스포, 교육, 커뮤니티 세션 등등의 행사들을 제공합니다. 2024년 12월 2일부터 12월 6일까지 개최되었으며 NDS에서도 참여하고 왔습니다.
이번 aws re:Invent를 참여하며 알게된 내용과 후기에 대해 간략하게 적어 보겠습니다.
뱃지
aws re:Invent 입장권이라고 할 수 있는 뱃지를 우선 수령하셔야 합니다. 각 호텔에서도 수령이 가능하지만 사람이 몰릴수 있기에 라스베가스 공항에서 먼저 수령하시는 것이 좋습니다. 해당 뱃지를 항상 목에 차고 다녀야 re:Invent 행사를 진행하고 있는 호텔에 입장이 가능하며, 해당 뱃지로 여러 행사나 무료 간식 및 음식 섭취가 가능합니다.
장소
aws re:Invent는 위의 그림과 같이 총 6개의 호텔에서 이루어 졌습니다. 1,2,3,4 번 호텔과 같이 각 호텔의 거리가 가까운 곳도 있지만 5,6 번 호텔과 같이 거리가 먼 호텔도 있습니다. 따라서 여러개의 세션을 들으실 계획이라면 aws re:Invent 홈페이지나 aws event 앱에서 원하는 세션을 선택하여 스케줄을 구성하시는 것을 추천드립니다. 또한 각 호텔마다 무료 셔틀버스가 운영되니 참고 부탁드립니다.
행사
re:Invent에 참여하시게 된다면 텀블러, 에코백, 후드티, 모자, 양말, 키캡 등 다양한 선물을 받을 수 있습니다. 위이 사진의 장소는 aws 로고가 새겨진 후드티를 받은 장소입니다.
aws에서 진행하는 엑스포 입니다. 규모가 정말 크며 다양한 회사들이 참여하였고, 자신이 관심있는 분야가 있다면 상담또한 가능했습니다. 엑스포 자체로만 봤을때는 한국에서 진행하는 AWS Summit과 비슷한 규모입니다.
위의 사진과 같이 엑스포를 제외하고도 aws에 진행하고 있는 sports forum도 방문하였습니다. 해당 섹션에서는 aws의 다양한 서비스를 이용한 프로그램으로 참가자들의 모션이나 슛의 속도등을 판별하여 경품 추첨도 진행하고 있었습니다. 그리고 이미 말씀 드린것과 같이 중간중간 간식과 음료를 무료로 제공하고 있습니다.
만약 aws 자격증을 취득하신 분이라면 미리미리 등록하여 certification lounge도 이용해보시길 바랍니다. 간단한 카페 음료를 무료로 제공해주며, 간식거리를 포함한 휴식공간이 마련되어 있습니다.
AWS CEO Matt Garmen 키노트
EC2
이번 aws re:Invent 2024에서 발표된 Matt Garmen의 키노트에 대해 간략하게 정리해보겠습니다.
전반적인 내용은 기존 제품에 대한 기능 향상 및 더욱 향상된 AI 서비스를 제공하기 위한 부분에 집중되어 있었습니다.
먼저, EC2 관련 내용 입니다. AWS의 신규 GPU EC2 인스턴스, P6 타입이 출시 되었습니다.
P6 인스턴스는 NVIDIA의 최신 Blackwall 아키텍처 GPU를 탑재하고 있으며, 기존 GPU 대비 최대 2.5배의 성능을 제공합니다.
P6 인스턴스는 고성능 컴퓨팅이 요구되는 머신 러닝, 데이터 분석, 그래픽 렌더링 등 다양한 워크로드에 최적화되어 있습니다.
Trainium2 UltraServer는 4개의 Trn2 EC2 인스턴스를 통합하여 하나의 서버처럼 활용할 수 있는 기능으로,
NeuronLink 기술을 통해 64개의 Trainium2 칩이 연결 됩니다.
최대 6 TiB의 HBM 메모리를 지원하며, 최대 83 petaflops 계산 성능을 제공합니다. UltraServers는 특히 트릴리언(조) 단위의 파라미터를 가진 초대규모 모델 학습 및 추론을 지원하며, 현재 프리뷰 형태로 제공 중입니다.
S3
다음은 S3 관련 발표입니다. S3 Tables 기능이 새롭게 추가되었습니다.
Amazon S3 Tables는 Apache Iceberg 포맷의 테이블형 데이터를 최적화된 방식으로 저장하는 서비스로
검색 속도는 기존 대비 3배, 데이터 전송 속도는 10배가량 향상되었습니다.
또한 완전 관리형 서비스로 운영 효율성을 제공합니다. S3 Tables는 AWS Glue Data Catalog와 통합되며, 이를 통해 Amazon Athena, Amazon EMR, Amazon QuickSight 등 다양한 분석 서비스와 원활하게 연동됩니다.
S3 Tables는 현재 오하이오, 버지니아북부, 오리건 리전에서 사용 가능합니다.
또한, S3 Metadata라는 기능도 발표되었습니다.
Amazon S3 Metadata는 S3 객체 생성 또는 수정 시 자동으로 생성되는 메타데이터를 제공하며,
이를 Apache Iceberg 테이블에 저장하여 손쉽게 관리하고 쿼리할 수 있는 기능입니다.
이 기능은 S3 버킷에서 대규모 데이터를 효율적으로 검색하고 관리할 수 있도록 설계되었습니다.
S3 객체 생성, 수정, 삭제 시 자동으로 메타데이터가 생성됩니다.
메타데이터는 Apache Iceberg 호환 형식으로 저장되며, 이를 통해 S3 내부 데이터 분석 또는 특정 조건에 맞는 객체를 빠르게 검색 할 수 있습니다.
Amazon S3 Metadata는 현재 오하이오, 버지니아북부, 오리건 리전에서 프리뷰로 제공됩니다.
DataBase
다음으로 데이터베이스 내용 입니다.
Amazon Aurora DSQL가 발표 되었습니다. Amazon Aurora DSQL은 서버리스 분산 SQL 데이터베이스 무제한 확장성, 최고 수준의 가용성, 제로 인프라 관리가 가능한 서비스 입니다.
데이터베이스 샤딩이나 인스턴스 업그레이드 없이 모든 워크로드에 대응할 수 있도록 설계되었습니다.
PostgreSQL에 호환되며, 단일 리전 또는 다중 리전 구성으로 가용성을 제공 합니다.
액티브-액티브 분산 아키텍처를 통해 페일오버 및 스위치오버로 인한 다운타임을 최소화 합니다.
Aurora DSQL은 현재 프리뷰 형태로 제공되며, 오하이오, 버지니아북부, 오리건 리전에서 사용 가능합니다.
Bedrock
Amazon Bedrock Model Distillation은 프리뷰로 새롭게 발표된 기능으로, 특정 사용 사례에 최적화된 소형 모델을 자동으로 생성할 수 있도록 지원합니다.
이 과정은 대형 파운데이션 모델(Teacher Model)에서 생성된 응답을 기반으로, 소형 파운데이션 모델(Student Model)을 세밀하게 튜닝하여 이루어집니다.
이를 통해 정확도는 Teacher Model에 근접하면서도, 최대 5배 빠르고 75% 저렴한 비용 효율적인 모델을 제공합니다.
현재 Anthropic, Meta, Amazon 모델의 Teacher Model과 Student Model을 지원합니다.
Amazon Bedrock Model Distillation은 현재 프리뷰로 버지니아 북부, 오리건 리전에서 사용 가능합니다.
Amazon Bedrock Guardrails의 새로운 기능으로 **Automated Reasoning Checks (프리뷰)**를 발표했습니다.
이 기능은 **대규모 언어 모델(LLMs)**이 생성한 응답의 정확성을 수학적으로 검증하고, 환각(hallucination)으로 인한 사실 오류를 방지할 수 있도록 설계되었습니다.
Automated Reasoning Checks는 논리적이고 검증 가능한 알고리즘을 활용해 생성된 응답이 사실과 일치하는지 확인하며, 특히 정확성과 설명 가능성이 중요한 사용 사례에 적합합니다.
Automated Reasoning Checks는 Amazon Bedrock Guardrails의 콘텐츠 필터링, PII(개인 식별 정보) 제거, 컨텍스트 기반 확인 기능과 통합이 가능합니다.
Automated Reasoning Checks는 현재 오리건 리전에서 프리뷰로 제공됩니다.
Amazon Nova
차세대 파운데이션 모델 Amazon Nova를 발표했습니다.
Amazon Nova는 다양한 생성형 AI 작업에서 비용과 지연 시간을 줄이고, 문서 분석, 비디오 생성, AI 에이전트 구축 등 다양한 엔터프라이즈 워크로드를 지원합니다.
Amazon Nova는 두 가지 카태고리 모델로 분류 됩니다.
- Understanding Models
- Creative Content Generation Models
Understanding Models 에는 텍스트 및 시각적 정보를 처리하는 데 최적화되어 있으며 Amazon Nova Micro, Amazon Nova Lite, Amazon Nova Pro, Amazon Nova Premier 모델로 구성됩니다.
- Amazon Nova Micro
•텍스트 전용 모델로 최저 지연 시간과 가장 저렴한 비용을 자랑.
•128K 토큰 입력을 처리하며, 텍스트 요약, 번역, 콘텐츠 분류, 간단한 수학적 추론 및 코딩 작업에 최적화.
•사용자 데이터로 Fine-tuning 및 Model Distillation을 지원하여 정확도 향상.
- Amazon Nova Lite
•멀티모달 모델로 텍스트, 이미지, 비디오 입력을 300K 토큰까지 처리 가능.
•실시간 고객 상호작용, 문서 분석, 시각적 질문 응답(VQA)에 적합.
•최대 30분 분량의 비디오 분석 및 대규모 Fine-tuning 지원.
- Amazon Nova Pro
•가장 높은 정확도, 속도, 비용 효율성을 제공하는 멀티모달 모델.
•300K 토큰 입력을 처리하며, 코드 베이스(15,000라인 이상) 분석 및 API 호출을 통한 복잡한 워크플로 지원.
•Visual Question Answering (TextVQA) 및 Video Understanding (VATEX) 벤치마크에서 업계 최고 성능 기록.
•Teacher Model로 활용 가능하여 Nova Micro 및 Lite 모델의 Distillation에 사용.
- Amazon Nova Premier
•복잡한 추론 작업에 적합한 가장 강력한 멀티모달 모델.
•현재 훈련 중이며 2025년 초에 제공 예정.
Amazon Nova Understanding Models은 현재 오하이오, 버지니아북부, 오리건 리전에서 사용 가능합니다.
Creative Content Generation Models로
스튜디오 품질의 이미지 생성을 지원하며, 스타일 및 콘텐츠에 대한 정밀한 제어 가능한 Amazon Nova Canvas가 발표 되었습니다.
자연어 텍스트를 입력할 수있습니다. 텍스트로 이미지를 가져오고, 편집할 수 있습니다.
색 구성표 및 레이아웃에 대한 제어, 워터마킹 기능, 콘텐츠 조정 및 유해한 콘텐츠 생성을 제한하는 다양한 기능이 있습니다.
또한 텍스트 프롬프트와 이미지를 사용하여
단편 비디오 생성하는 Amazon Nova Reel이 발표 되었습니다.
스타일 및 페이싱 제어, 광고 및 엔터테인먼트용 고품질 비디오 제작이 가능하며, 카메라를 완벽하게 제어할수 있습니다. 모션제어, 360도 회전, 확대/축소도 가능합니다.
모든 생성된 이미지와 비디오는 디지털 워터마크가 포함되어 있습니다.
Amazon Nova Creative Content Generation Models은 현재 버지니아북부 리전에서 사용 가능합니다.
이 영상은 Amazon Nova Reel에 프롬프트를 입력 하여 생성한 영상 입니다.
프롬프트 내용 : 모래 속의 큰 조개 껍질 클로즈업하고 부드러운 파도가 조개 껍질 주위로 흐릅니다. 일몰 빛. 카메라가 매우 가까이 줌인
다음 영상은 Amazon Nova Reel에 하나의 이미지와 프롬프트를 사용하여 생성한 영상입니다.
프롬프트 내용 : 해안 풍경 위를 날고 있는 드론 뷰
25년도에 Nova의 다음 추가될 모델이 있습니다. 1분기에 Speech to Speech 모델을 제공할 예정입니다.
말을 입력할수 있고 유창하고 빠르게 다시 할수 있게 됩니다.
25년 중반에는 Any to Any 모델을 제공할 예정입니다.
텍스트/음성/이미지/비디오 등을 입력하고, 텍스트/음성/이미지/비디오 등의 출력을 기대합니다.
Amazon Q
Amazon Q는 유능한 AI 생성 도우미 입니다.
Amazon Q의 새로운 에이전트 3가지를 소개합니다.
- Amazon Q generates and applies unit tests
- Amazon Q generates accurate documentation
- Amazon Q performs code reviews
Amazon Q는 VS Code, Slack, AWS Console, Visual Studio, GitLab 등에 통합되어 있습니다.
Amazon Q Developer 입니다.
이 도구를 통해 기존 윈도우의 닷넷 어플리케이션을 리눅스로 전환하는 것이 쉬워졌습니다.
자동으로 비호환성을 발견하고 변환 계획을 생성하고 소스코드를 리펙토링 합니다.
또한, 기존 Vmware 워크로드를 손쉽게 AWS로 전환할 수 있습니다.
모든 어플리케이션 종속성을 자동으로 식별하고 마이그레이션 계획을 생성 합니다.
온프렘 환경을 전환할 수 있는 에이전트를 구성하고, Vmware 네트워크 구성을 AWS와 동일하게 구성합니다.
다음으로 메인프레임을 마이그레이션 할 수 있습니다.
- 수백만줄의 코볼코드를 문서화 하고 분석합니다.
- 이중 현대화할 어플리케이션을 선택합니다.
- 이를 기반으로 마이그레이션 시간을 50% 이상 단축합니다.
아래 링크에 접속하시면 이번 aws re:Invent2024에 대한 키노트 발표 영상자료를 확인할 수 있습니다.
AWS re:Invent 2024 Watch on demand | Amazon Web Services
지금까지 2024년 12월 2일부터 12월 6일 까지 라스베가스에서 개최된 AWS re:Invent 2024에 대하여 기조연설 내용 및 다양한 행사 활동들에 대해 살펴보았습니다.
한국에서도 매년 개최하는 aws summit이 있지만 aws에 관심이 있으신 분들이라면 꼭 한번 aws re:Invent에 참여해보시는것을 추천드립니다.
감사합니다.