Amazon 인공 지능(AI) 서비스 및 AWS 기반 딥러닝 활용 방법

Amazon 인공 지능(AI) 서비스 및 AWS 기반 딥러닝 활용 방법

Amazon 인공 지능(AI) 서비스 및 AWS 기반 딥러닝 활용 방법 - 윤석찬 (AWS, 테크에반젤리스트) from Amazon Web Services Korea

 Amazon 인공 지능(AI) 서비스 및 AWS 기반 딥러닝 활용 방법 - 윤석찬 (AWS, 테크에반젤리스트)

1. © 2016, Amazon Web Services, Inc. or its Affiliates. All rights reserved.

2. § § § § § §

3. • • § §

4. • • • • •

5. • § § •

6. • • • •

7. • • • • • https://www.youtube.com/watch?v=gQpMDdJmbNs

8. © Jeff Dean, Trends and Developments in Deep Learning Research http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research

9. Accuracy Scale (data size, model size) 1980s and1990s neural networks other approaches © Jeff Dean, Trends and Developments in Deep Learning Research http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research

10. more computeAccuracy Scale (data size, model size) neural networks other approaches 1980s and1990s © Jeff Dean, Trends and Developments in Deep Learning Research http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research

11. more computeAccuracy Scale (data size, model size) neural networks other approaches Now © Jeff Dean, Trends and Developments in Deep Learning Research http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research

12. 2016 3% errors 2011 5% errors humans 26% errors © Jeff Dean, Trends and Developments in Deep Learning Research http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research

13. http://techneedle.com/archives/29063 "아마존 상품 배송 선반에는 물건이 뒤죽박죽 보관되고 있다. 예를 들면 영화 DVD, 로션, 피클이 한 칸에 보 관되어 있다. 자투리 공간 없이 창고 공간을 100% 활용할 수 있고, ‘이 상품군은 어디에 보관해야 한다’ 등 배워야 할 내용이 줄어든다. 게다가 실수로 잘못 꺼내는 일도 적다. 상품 보관을 위한 기술은 컴퓨터 비전과 실내 위치 추적 등의 시스템을 활용 한다"

14. Original image Activation map Binary map 2.0 1.0

15. § ü ü ü § ü

16. https://www.amazon.com/b?node=16008589011

17. The image part with relationship ID rId7 was not found in the file. The image part with relationship ID rId7 was not found in the file.

18. Amazon Echo sales up 9X compared to last year, company says in holiday roundup of 2016 winter sold “millions” of Echo devices.

19. https://www.wired.com/2017/01/ces-alexa-in-everything

20. Create Great Content: ASK is how you connect to your consumer Supported by two powerful frameworks A L E X A V O I C E S E R V I C E Unparalleled Distribution: AVS allows your content to be everywhere Lives In The Cloud Automated Speech Recognition (ASR) Natural Language Understanding (NLU) Always Learning A L E X A S K I L L S K I T

21. Alexa Skills Kit 구조도 Amazon Alexa Service Developer’s Application Service Amazon’s Developer Portal 애플리케이션, 사용자 의도, 샘플 데이터, 개발자 서비스 등 정보 전달 사용자 의도를 서비스로 전달 GUI 카드를 알렉사 앱에 전달 오디오를 서비스로 전송 오디오 결과를 렌더링해서 재생 텍스트 결과 및 GUI 카드 정보 전달

22. Alexa Skill 만들기 – AWS Lambda 기반 VoiceOps https://www.youtube.com/watch? v=azKYe4IWTxA

23. • § § § § § https://github.com/alexa/alexa-avs-sample-app/wiki/Raspberry-Pi

24. 16 years = 140,160 hours ≈14,016 hours of speech

25. 고객 기술 지원 영업 지원 고객지원 프로페셔 널 컨설팅 교육 및 인증 보안 및 빌링 시스템 파트너 생태계 솔루션 아키텍트 엔터프라이즈 가상 테스크톱 기업용 공유 도구 기업용 이메일 백업 및 복구 글로벌 리전 (Region) 가용 영역 (AZ) 콘텐츠 배포 지점(Edges) 인프라 기본 서비스 컴퓨팅 VMs, Auto-scaling, Load Balancing, Containers, Cloud functions 스토리지 Object, Blocks, File, Archival, Import/Export 데이터베이스 Relational, NoSQL, Caching, Migration 네트워킹 VPC, DX, DNS 콘텐츠 배포 (CDN) 하이브리드 환경 데이터 백업 통합 앱 개 발 환경 전용 회선 연결 통합 인증 통합 리소스 관리 네트워크 통합 서비스 접근 제어 사용자 인증 관리 암호 키 관 리 및 저장 모니터링 로그 기업 자원 설정 및 보고 리소스 사용 량 및 감사 보안 및 규정 준수 기업 내 규정 준수 웹 방화벽 비지니스 애플리케이션 비지니스 인텔리전스 데이터베이스 DevOps 도구 네트워킹보안 스토리지 IoT 규칙 엔진 디바이스 쉐도우 디바이스 SDK 디바이스 레지스트리 디바이스 게이트웨이 개발 및 운영 도구모바일 서비스앱 서비스데이터 분석 데이터웨어 하우스 Hadoop/ Spark 실시간 데이터 저장 머신 러닝 Elastic Search 서비스 알람 및 큐 서비스 워크 플로우 풀텍스트 검색 Email 전송 동영상 변환 원 클릭 앱 개발 모바일 인증 기기 동기화 모바일 앱 테스트 푸시 알림 DevOps 리소스 관리 앱 라이프사이클 관리 도구 콘테이너 서비스 클라우드 함수 리소스 템플릿 API Gateway 실시간 데이터 분석 비지니스 인 텔리전스 모바일 분석 모바일 허브 마켓 플레이스

26. Amazon Machine Learning P2 Instance Deep Learning AMI and template Investment in MXNet

27. • § § • § §

28. vCPU 32 / RAM 488GB GPU 8 x NVIDIA K80 p2.8xlarge = $7.2 per hour x 20 vCPU 640 GPU 160 p2.8xlarge x 20 = $144 per hour

29. $aws ec2-run-instances ami-b232d0db --instance-count 20 --instance-type p2.8xlarge --region us-east-1 $aws ec2-stop-instances i-10a64379 i-10a64280 ...

30. • § § § § § § http://bit.ly/deepami

31. • § §

32. • • • •

33. • • • • • • • • •

34. https://github.com/awslabs/ecs-deep-learning-workshop • ü https://github.com/dmlc/mxnet/tree/master/docker ü https://hub.docker.com/r/kaixhin/cuda-mxnet/

35. • § • § § § ü

36. https://www.slideshare.net/AIFrontiers/scaling- deep-learning-with-mxnet

37. • • • • •

38. § § § § §

39. § § § § § § §

40. 1 2 3 - 데이터 소스로 부터 DataSource 생성 - 데이터 내용과 스키마 확인 - 모델링 진행 - 생성된 모델의 품질 확인 - 모델에 해석 상세 조절 - -

41. 컴퓨터 비전 API 온라인 부정 지불 감시 클라우드 소싱 기반 지도 서비스 자율 주행 컴퓨터 비전 분석 대용량 기계 학습 부동산 구매 예측 분석 동영상 추천 엔진 개발 고객 트래픽 분석 스포츠 플레이 예측 이미지 인식 기반 검색 Zestimate 서비스 (Apache Spark 활용) 보험 리스크 분석

42. Amazon Machine Learning 기반 모델 훈련 및 예측 https://youtu.be/4loLsXKlJUM

43. Flowe r ChairCoffee Table Living Room Indoor s

44. Maple Villa Plant Garde n Wate r Swimming Pool Tree Potted Plant Backyard

45. • • •

46. Female Happy Smiling Male No Facial Hair Happy Female Sad No Eyeglasses •

47. • • •

48. f7a3a278-2a59-5102-a549-a12ab1a8cae8 & v1 02e56305-1579-5b39-ba57-9afb0fd8782d & v2 Face ID & vector<float>Face 4c55926e-69b3-5c80-8c9b-78ea01d30690 & v3transformed stored { f7a3a278-2a59-5102-a549-a12ab1a8cae8, 02e56305-1579-5b39-ba57-9afb0fd8782d, 4c55926e-69b3-5c80-8c9b-78ea01d30690 } IndexFace Collection

49. Amazon Rekognition 살펴 보기 https://youtu.be/yrldn0JciIU

50. Training

51. Conv 1 Conv 2 Conv n … … Feature Maps Fully Connected Layer

52. • •

53. • § (24 47 ) § (Amazon Lex ) § SSML § , § ( 2.5 ) • Amazon Polly “The temperature in WA is 75°F” “The temperature in Washington is 75 degrees Fahrenheit” "We live for the music", live from the Madison Square Garden. "We live(리브) for the music", live(라이브) from the Madison Square Garden.

54. <speak> My name is Kuklinski. It is spelled <prosody rate='x-slow'> <say-as interpret-as="characters">Kuklinski</say-as> </prosody> </speak> My daughter’s name is Kaja. <lexeme> <grapheme>Kaja</grapheme> <grapheme>KAJA</grapheme> <phoneme>"kaI.@</phoneme> </lexeme>

55. Amazon Polly 살펴 보기 https://youtu.be/yrldn0JciIU

56. RSS Feed Amazon Polly Amazon CloudWatch Amazon S3AWS Lambda 1. Trigger 2. Check 3. Content 4. Text 5.Audio 6.Audio https://github.com/awslabs/amazon-polly-sample

57. Amazon Rekognition AWS SDK for iOS Amazon Cognito Amazon Polly Amazon S3 Bucket Skate, Car, Street, Parking, Town

58. • § § § • Facebook MessengerMobile

59. Book Hotel “Book a Hotel in NYC” Hotel Booking New York City Natural Language Understanding Intent/Slot Model UtterancesHotel Booking City New York City CheckIn Nov 30th CheckOut Dec 2nd “Your hotel is booked for Nov 30th” Polly Confirmation: “Your hotel is booked for Nov 30th” The image part with relationship ID rId3 was not found in the file.“Can I go ahead with the booking? a in NYC Automatic Speech Recognition

60. Amazon Lex Automatic Speech Recognition (ASR) Natural Language Understanding (NLU) Same technology that powersAlexa Cognito CloudTrail CloudWatch AWS Services Action AWS Lambda Authentication & Visibility Speech API Language API Fulfillment End- Users Develope rs Console SDK Intents, Slots, Prompts, Utterances Input: Speech or Text Multi-Platform Clients: Mobile, IoT, Web, Chat API Output: Speech (via Polly TTS) or Text

61. BookHotel

62. Amazon Lex를 통한 호텔 예약 챗봇 만들기 https://youtu.be/c1YC8mIiWh0

63. • • • • • • • • • • •

64. Amazon Rekognition AWS SDK for iOS Amazon Cognito Amazon Polly AWS Lambda Amazon S3 Bucket Amazon SNS Amazon Lex Amazon S3 Bucket

65. à

66. • • • Amazon Rekognition Amazon Lex AWS IoT AWS Lambda Amazon S3

67. • § • § • §

68. P2 Amazon Machine Learning Deep Learning AMI and template Investment in MXNet

69. • § • §

70. • • •

71. • § ü ü ü • § § § § • § §

72. 윤석찬 아마존웹서비스코리아, 테크에반젤리스트 channyun@amazon.com http://bit.ly/awskr-feedback