AWS re:Invent 2022 Keynote Report #1 – Monday Night Live with Peter DeSantis

BLOG

작성일: 2022-11-30

re:Invent Keynote Report : Monday Night Live with Peter DeSantis

날짜: 2022.11.28 (미국 현지 시간 기준)

시간: 19:30 – 21:00

장소 : Venetian Ballroom F, Venetian

레포트 작성자 : 메가존클라우드 Managed & Support Center 김신재 리더, 메가존클라우드 Cloud Technology Center 송지혜 매니저

Keynote레포트를 시작하며

AWS Utility Computing의 수석 부사장인 Peter DeSantis가 AWS의 최신 혁신 기술과 AWS가 클라우드 성능의 한계를 지속적으로 확장하는 방법에 대해 설명합니다.

Peter는 AWS 팀이 성능, 지속 가능성 또는 비용과 관련된 기존의 트레이드오프를 희생하지 않고 네트워킹, 스토리지 및 컴퓨팅 전반에 걸쳐 새로운 솔루션을 설계하는 방법을 자세히 설명합니다.

Keynote 주요 내용

이전 세대보다 비용 효율적이고 에너지 효율적인 차세대 AWS 설계는 Nitro 시스템(*Nitro시스템 이란, 지난 10년 동안 개발해 온 하드웨어와 소프트웨어의 조합)이든 최신 컴퓨팅이든 상관 없습니다.

맞춤형 실리콘 칩을 최대한 활용하는 인스턴스에서 DeSantis는 AWS가 어떻게 장기 투자에 전념하고 완전히 처음부터 혁신하는지에 대한 사례를 제시했습니다.

출시 소식으로는 HPC7를 비롯한 C7gn, R7iz 인스턴스가 출시될 예정입니다.

C7gn 인스턴스는 네트워크 가상 어플라이언스(방화벽, 가상 라우터, 로드 밸런서 등), 데이터 분석, CPU 기반 인공 지능 및 기계 학습(AI/ML) 추론과 같이 가장 까다로운 네트워크 집약적 워크로드를 위해 설계되었습니다. C7gn 인스턴스는 AWS Graviton3E 프로세서와 최신 세대의 Nitro 카드로 구동됩니다. C7gn 인스턴스는 최대 200Gbps의 네트워크 대역폭을 가지며 기존 Graviton 기반 EC2 인스턴스보다 최대 50% 더 높은 패킷 처리 성능을 제공합니다.

Hpc7g 인스턴스는 AWS Graviton3E 프로세서로 구동되며, 긴밀하게 결합된 컴퓨팅 집약적인 HPC 및 분산 컴퓨팅 워크로드에 대해 최고의 가격 대비 성능을 제공합니다.

R7iz 인스턴스는 최신 4세대 Intel Xeon Scalable 프로세서(코드명 Sapphire Rapids)로 구동되며 고성능 및 DDR5 메모리를 갖춘 이 인스턴스는 전자 설계 자동화(EDA), 금융, 계리 및 시뮬레이션 워크로드에 어울립니다.

AWS Trainium 칩으로 구동되는 Amazon EC2 Trn1 인스턴스는 비교 가능한 GPU 기반 인스턴스 대비 최대 50% 저렴한 훈련 비용으로 고성능 딥 러닝 훈련을 실행할 수 있도록 특별히 구축되었습니다.

Trn1 인스턴스는 AWS에서 주요 자연어 처리(NLP) 모델의 딥 러닝 훈련에서 최고 수준의 성능을 제공합니다.

AWS는 Amazon Elastic Compute Cloud(EC2) 인스턴스용 Elastic Network Adapter(ENA) Express의 정식 출시를 발표했습니다.

현재 세대의 모든 EC2 인스턴스는 특별히 구축된 네트워크 인터페이스인 ENA를 사용하여 향상된 네트워킹 경험을 제공합니다. ENA Express는 AWS SRD(Scalable Reliable Datagram) 프로토콜을 사용하여 두 가지 주요 방식으로 네트워크 성능을 개선하는 새로운 ENA 기능입니다.

ENA Express는 EC2 인스턴스에 대한 단일 명령 또는 콘솔 토글만큼 쉽게 SRD를 활성화하는 간단한 구성입니다. ENA Express는 Elastic Fabric Adapter를 지원하는 SRD 프로토콜을 기반 으로 구축되어 5Gbps에서 25Gbps까지의 최대 단일 흐름 대역폭을 지원합니다. 높은 처리량 워크로드에 대해 P99.9 대기 시간을 최대 85% 개선할 수 있습니다. ENA Express는 TCP 및 UDP 프로토콜을 사용하여 애플리케이션에서 투명하게 작동합니다.

특정 Lambda 함수에 대해 Lambda SnapStart를 활성화한 후 함수의 새 버전을 게시하면 최적화 프로세스가 트리거됩니다. 프로세스는 기능을 시작하고 전체 Init 단계에서 실행합니다. 그런 다음 메모리 및 디스크 상태의 변경할 수 없는 암호화된 스냅샷을 가져와 재사용을 위해 캐시합니다. 이후에 함수가 호출되면 필요에 따라 캐시에서 청크로 상태를 검색하여 실행 환경을 채우는 데 사용합니다. SnapStart는 콜드 스타트 기간을 6초 이상에서 200ms 미만으로 무려 90퍼센트를 단축했습니다.