BLOG
Amazon SageMaker는 AWS PrivateLink를 통해 Amazon VPC(Virtual Private Cloud)엔드포인트를 지원하므로 인터넷을 사용하지 않고 VPC 내부의 Amazon SageMaker에서 호스팅하는 기계 학습 모델에 대한 예측 호출을 시작할 수 있습니다.
Amazon SageMaker는 개발자와 데이터 과학자가 어떤 규모로든 기계 학습 모델을 빠르고 쉽게 구축, 훈련 및 배치할 수 있도록 하는 완벽하게 관리되는 플랫폼입니다. Amazon SageMaker를 사용하여 기계 학습 모델을 운영 환경에 배포하면 애플리케이션에 대한 보안 HTTPS 엔드포인트가 설정됩니다. 낮은 지연 시간/높은 처리량 예측을 하기 위해 애플리케이션은 SageMaker Runtime API를 사용하기만 하면 됩니다. AWS PrivateLink를 지원하는 경우 인터넷을 통해 연결하는 대신 VPC 내의 인터페이스 엔드포인트를 통해 SageMaker Runtime API를 호출할 수 있습니다. 클라이언트 애플리케이션과 SageMaker Runtime API 간의 통신이 VPC 내부에 있으므로 인터넷 게이트웨이, NAT 장치, VPN 연결 또는 AWS Direct Connect가 필요하지 않습니다.
AWS CLI(명령줄 인터페이스)명령이나 AWS 관리 콘솔을 사용하여 VPC 인터페이스 엔드포인트를 생성하여 SageMaker Runtime에 연결할 수 있습니다. 콘솔에서 VPC 엔드포인트를 생성하려면 Amazon VPC콘솔로 이동하여 엔드포인트 페이지를 열고 새 엔드포인트를 생성합니다.
세가지 속성이 필요합니다.
- SageMaker Runtime서비스 이름. 서비스 범주로 AWS 서비스를 선택하고 us-east-2.sagemaker.runtime을 선택합니다.
2. 사용할 VPC 및 가용 영역
3. 엔드포인트 네트워크 인터페이스와 연결할 Security Group입니다. Security Group을 지정하지 않으면 VPC의 기본 Security Group이 연결됩니다.
VPC 엔드포인트를 생성한 후에는 인터페이스 엔드포인트를 Amazon SageMaker Runtime으로 지정하는 엔드포인트-URL 매개 변수를 사용하여 다음의 CLI 명령 예제를 사용할 수 있습니다.
aws sagemaker-runtime invoke-endpoint –-endpoint-url VPC_Endpoint_ID.runtime.sagemaker.Region.vpce.amazonaws.com \
–endpoint-name Endpoint_Name \
–body “Endpoint_Body” \
–content-type “Content_Type” \
Output_File
선택적으로 VPC 엔드포인트에 대해 전용 DNS 호스트이름을 사용하도록 설정하는 경우 엔드포인트 URL을 지정할 필요가 없습니다.
전용 호스트 영역에서는 전용 IPv4 주소나 AWS에서 제공하는 전용 DNS 호스트이름 대신 example.com과 같은 사용자 지정 DNS 도메인 이름을 사용하여 VPC의 리소스에 액세스 할 수 있습니다. CLI 및 Amazon SageMaker Runtime SDK가 기본적으로 사용하는 (https://runtime.sagemaker.Region.amazonaws.com) Amazon SageMaker Runtime DNS 호스트이름이 사용자의 VPC 엔드포인트로 확인됩니다.
요약
Amazon SageMaker 예측 호출은 이제 AWS PrivateLink에서 지원되므로 인터넷으로부터의 보안이 필요 없습니다. 인터넷을 사용하지 않고 VPC 내부의 Amazon SageMaker에서 호스팅되는 기계 학습 모델에 대한 예측 호출을 시작할 수 있습니다.
이제 Amazon VPC와 Amazon SageMaker를 모두 사용할 수 있는 모든 AWS 리전에서 SageMaker Runtime을 위한 VPC 엔드포인트를 사용할 수 있습니다.
원문 URL: https://aws.amazon.com/ko/blogs/machine-learning/secure-prediction-calls-in-amazon-sagemaker-with-aws-privatelink/
** 메가존 TechBlog는 AWS BLOG 영문 게재글중에서 한국 사용자들에게 유용한 정보 및 콘텐츠를 우선적으로 번역하여 내부 엔지니어 검수를 받아서, 정기적으로 게재하고 있습니다. 추가로 번역및 게재를 희망하는 글에 대해서 관리자에게 메일 또는 SNS페이지에 댓글을 남겨주시면, 우선적으로 번역해서 전달해드리도록 하겠습니다.