초거대AI 시대 데이터주권

230626_초거대AI 시대 데이터주권_구태언.pptx from TEK & LAW, LLP

• 1. 23. 6. 26. 구태언 / 테크앤로벤처스 ted@teknlaw.com 초거대AI 시대 데이터 주권
• 2. 인공지능 시대 국가경쟁력이 급속히 약화되는 중 2
• 3. 민간 주도 규제 거버넌스 혁신 전략 3 디지털경제 시대 미국, 중국 빅테크(플랫폼) 가 국부와 데이터를 장악하므 로 플랫폼 방위군 양성 긴요 1. 디지털경제로 진화는 시급, 국내 데이터와 부가 해외 빅테크에 지 배
• 4. 디지털 경제 시대 외국 플랫폼의 공습 민간 주도 규제 거버넌스 혁신 전략 4 단 7개 회사의 시가총액이 1경원 이들은 전 세계의 데이터와 부를 지배 최재붕 교수 강연 자 료
• 5. 디지털 경제 시대 외국기업의 놀이터 민간 주도 규제 거버넌스 혁신 전략 5
• 6. 디지털 경제 시대 외국기업의 놀이터 민간 주도 규제 거버넌스 혁신 전략 6
• 7. 민간 주도 규제 거버넌스 혁신 전략 7
• 8. 민간 주도 규제 거버넌스 혁신 전략 8
• 9. 1 9
• 11. 1 11 Tesla Full Self-Driving Beta 11.4.1 First Drive / 23.5.14. 거의 준비 끝난 테슬라 자율주행 by Vision AI / 23.5.14.
• 12. 1 12
• 13. 민간 주도 규제 거버넌스 혁신 전략 13
• 14. 민간 주도 규제 거버넌스 혁신 전략 14
• 15. 민간 주도 규제 거버넌스 혁신 전략 15
• 16. 디지털 경제 시대 외국기업의 놀이터 민간 주도 규제 거버넌스 혁신 전략 16
• 17. 디지털 경제 시대 외국기업의 놀이터 민간 주도 규제 거버넌스 혁신 전략 17
• 18. 민간 주도 규제 거버넌스 혁신 전략 18
• 19. 민간 주도 규제 거버넌스 혁신 전략 19
• 20. 민간 주도 규제 거버넌스 혁신 전략 20 무엇일까요 ?
• 21. 해저 인터넷 케이블 민간 주도 규제 거버넌스 혁신 전략 21 서비스 지배는 데이터의 해외 이전을 의미
• 22. 플랫폼은 국부와 데이터의 댐이자 방파제 민간 주도 규제 거버넌스 혁신 전략 22
• 23. 민간 주도 규제 거버넌스 혁신 전략 23 2. 세계 100대 스타트업 중 한국 스타트업은 없음 – 미래한 국의 데이터와 부는? 스타트업 분야는 기존 규제(산업)과 충돌되는 지점이 많아 사전규제가 지배적인 한국에서는 스타트업으로 시작해 큰 기업이 되는 사례 가 거의 없음
• 24. K-규제 시스템 민간 주도 규제 거버넌스 혁신 전략 24 개인정 보 규제 전통산 업 규제 온라인 규제 - 개인정보보호법, 정보통신망 법 - 위치정보법 - 신용정보법 등 - 각종 장소 / 시설 요건 규제 - 기기 인증 규제 - ’서면’을 종이로만 해석하는 규제 등 - 정보통신망 등 사업 규제 - 전자상거래법 등 소비자 보호 규제 - 온라인 플랫폼 규제 등 Ex. Opt-in 기반 영리성 광고 전송 금지, 전자상거래 정보 처리 규제 Ex. 고객 기반 확충 곤란, Big Data를 통한 신용도 평가 등 신규 모델 창출 불가 3중 규제 시스템 ▶ 강한 규제는 대마불패의 시장 형성, 중소기업에게 절대 불리
• 25. K-규제 시스템의 전쟁사 민간 주도 규제 거버넌스 혁신 전략 25 낡은 규제는 사회 각 분야에서 디지털 경제 선도국가로 이행을 방해 언 론 음 악 의 료 금 융 출 판, 게 임 숙 박 물류 여객 우 편 법 률 자동 차 전자 상거래 광 고 알파고 쇼크 그럼에도 디지털경제는 대부분 영역에 서 힘겹게 발전 중 금융/법률/ 자동차/의료 분야는 강한 규제로 혁신정체
• 26. 세계 100대 스타트업에 한국기업은 없어 민간 주도 규제 거버넌스 혁신 전략 26 2017, 2018년 투자유치액 상위 100개 중 한국 기업은 0개 ▶2030년 지배적 플랫폼 없음
• 27. 세계 100대 스타트업은 한국에서 감옥행 민간 주도 규제 거버넌스 혁신 전략 27 전 세계 혁신 창업의 70%는 한국에서 불법 (2017년 아산나눔재단 스타트업 코리아 연구(테크앤로 참여) 2016~2017년 1년간 투자 유치한 글로벌 스타트업 100대 기업들의 비지니스 모델에 한국법 적용 : 해당 기업 중 한국기업은 없음 40% 30% 우리나라에서 불가 능 제한적 가능 (서비스 일부를 포기하 면 가능한 것을 의미한다.) 세계 100대 스타트업은 한국에서 불법 낙인, 투자와 성 장 불가
• 28. 혁신산업의 시장(Market)을 열어주어야 민간 주도 규제 거버넌스 혁신 전략 28
• 29. 인공지능 시대 미래의 부와 데이터 장악 민간 주도 규제 거버넌스 혁신 전략 29
• 30. 민간 주도 규제 거버넌스 혁신 전략 30 3. 판을 바꾸는 생성형 AGI를 우리는 가 질 수 있는가?
• 31. 31 생성형 AI와 개인정보/저작권 1. 논의의 기초 • 문제되는 인공지능 기술의 특정이 필요함 • 인공지능의 단계별 실행과정 관점에서 논의가 필요함 • GAN, NLP(LLM) 등 발전되고 있는 인공지능 기술에 주목해야 함 2. 학습데이터 이용과정(복제)에서 저작권/개인정보 침해 가능성 • 시급히 해결되어야 하는 문제임. e.g. 이루다 사건 • 법리해석만으로 부족하고 결국 입법적인 TDM 면책 조항이 필요함. 다만 개인정보 영역에서 적극적인 입법은 어려운 상 황 3. 인공지능 이용행위(산출물)에서 발생할 수 있는 저작권/개인정보 침해 가능성 • 인공지능 개발자와 이용자가 분리되어 있고, 학습완료된 프로그램에는 학습데이터가 남아 있지 않기 때문에, 침해자 적 격, 의거관계(고의) 입증 등의 관점에서 어려운 점이 있음 • AI 산출물에 대한 실질적 유사성 판단 및 개인정보 유출 여부 판단에 대해 검토자마다 이견이 있을 수 있음 • 그러나 종국적으로는 기존의 침해 법리, 불법행위 법리 등에 의해 해결될 수 있다고 생각함. 4. 인공지능 개발과정에서 사용되는 오픈소스 라이선스의 문제 • 라이선스 내용에서 인공지능 생성물의 이용을 통제하거나 개발자-이용자 간의 이익분배를 규정하는 경우 • 오픈소스 라이선스의 계약성립성, 경쟁법 적용 등의 문제가 있음
• 32. 11억명의 얼굴정보 공급의 결과는 세계최고 안면인 식 AI 기술
• 33. 그 결과 국내 최고 인공지능 회사도 중국 안면인식 기술 사용 수모
• 34. 3 개인정보보호법은 비식별 규제에 집중, 초거대AI 불가 데이터활용을 위해서는? 누군지 알아볼 수 없게 하려면 어디서 활용될 수 있을까? 동의 없이 개인정보를 활용하기 위해 개인을 알아 보지 못하게 만드는 기술 데이터의 활용가치가 없거나, 활용 불가능(영상 정보 등 초거대AI 고도의 비식별 조치 후에는 해당 데이터는 가용성이 떨어져 인공지능의 식별기술발전에 도움이 안됨 타겟광고 초거대 인공지능 학습은? 비식별 개인정보의 정의가 광폭이므로 불가능 OpenAI(ChatGPT) 처럼 인터넷 정보수집 불가
• 35. 정확한 식별이 되지 않을 때 오히려 인권침해 발생 얼굴인식 정확 한 개인 식별 이 안되 면? 출입국 관리: 간첩, 테러 등 출입 확인 용의자 사진 대조: 경찰이 용의자의 신원에 대한 확인 온라인 범인 추격: PDA등 모마일단말기에서의 현장 대조 실감 나는 가상 게임: 인물 이미지를 제공함을 통해서 교호성을 향상시킴 기밀 취급자에 대한 신원 확인: 불법 침입자 방지 가사 서비스 로봇: 가족구성원을 알아볼 수 있는 스마트 로봇 스마트 모빌리티 고객 인식 정당한 가입자 자동인식과 이용 허락 음성인식 행동인식 지문인식
• 36. 초거대 AI는 개인정보보호에 심각한 위협, 국가데이터 주권 위기 1. 초거래 AI는 플랫폼 bypass: • 이용자의 옆자리를 집사(문고리권력)처럼 장악하여 이용자에게 모든 편의를 제공하면서 플랫폼을 무력 화 2. 마이데이터의 블랙홀 • 생성형 Ai는 개인/기업의 마이데이터를 흡수해 산업 지배력을 극대화할 것으로 예상 3. 국가경제의 위기 • 생성형 Ai의 뛰어난 능력으로, 이를 갖지 못한 국가는 사람의 두뇌를 이용한 일자리(고급 일자리)는 급 감. 저급한 일자리(손발을 활용하는)만 남는 경제로 전락 위기 4. 경제주권의 위기 • 생성형 AI는 유통업(플랫폼)을 장악한 이후 제조업, 물류업, 파생산업까지 모두 장악해 나가 수출산업과 내수산업 모두에 직격탄
• 37. 디지털혁신과 개인정보보호의 딜레마 • 개인정보보호가 오히려 산업의 해외 종속, 데이터 해외유출로 이어짐  초거대AI를 개발하기 어려움  해외 인공지능 기반 서비스에 국가 개인정보 대 이동 예상  의료 인공지능, 법률 인공지능, 공유경제, 포털, 전자상거래 등 점차 해외 기업에 종속 예상  소비자의 선택(동의)로 개인정보 국외 제공하므로 법으로 막을 수 없음 • 국가 데이터 대부분이 해외 기반이 되면 국가 주권 행사에도 어려움 발생  인터넷이 끊기면 나라 전체가 블랙아웃 가능  중소기업은 대부분 해외 클라우드 사용 중이며 생성형 AI서비스 사용 등 종속 심화  국가안보에도 영향
• 38. 그 자체로 특정 개인을 식별할 수 있는 정보 (식별 개인정보) 다른 정보와 결합해 특정 개인을 쉽게 식별할 수 없는 정보 (익명정보) (동의 획득 불가) 그 자체로 특정 개인을 식별할 수 없는 정보 (비식별 개인정보 / 가명정보) 사람 관련 정보 인공지능 개발 곤란 : 맥락을 무시한 초광폭 비식별 정보 보호
• 39. 비식별 개인정보 보호 과잉의 현실 1. 맥락에 상관없이 결합가능성 간주 • 정보가 처한 맥락에 따라 식별가능성이 다름에도 동일한 기준 적용(차량등록번호도 그 대조정보 인 차량등록원부를 구할 수 있는 가능성이 천향지차) 2. 그 결과 사생활 침해 가능성 다과에도 불구하고 개인정보로 간주 • 특정 개인의 사회적 지위를 프로파일링 하기 어려운 데이터도 개인정보로 간주(ex: 단순한 기기 번호로 처리하는 경우 등) 3. 개인정보 처리 맥락에 상관 없이 개인정보처리로 인정 • 비식별정보를 처리할 때 특정개인을 식별하기 위한 목적이 아님에도 개인정보 처리로 간주(ex:영 상정보를 자율주행 인공지능 학습에 이용할 때) 4. 대기업과 중소기업, 스타트업의 보유정보의 다과 차이 무시 • 여러 계열사를 통한 다수 서비스를 두고 제3자 제공을 통해 결합할 정보가 많은 대기업과 단일 서비스를 활용하는 스타트업간 정보량의 차이 존재함
• 40. 민간 주도 규제 거버넌스 혁신 전략 40 4. 민간 주도 규제 거버넌스 획기적 전환 필요성
• 41. 대한민국 ICT규제 의 현주소 • 새롭게 떠오르는 시장에 정부의 지속적인 선제 개입 • 부처간 속도 경쟁, 깃발 꽂기 • 사전규제의 범람으로 민간자치는 싹도 못틔워 • 작은 문제점을 언론이 지적하면 이를 크게 포장 해 규제 정당화 • 미국 빅테크가 장악한 일본과 EU의 고육지책을 전혀 사정이 다른 우리 시장에 직수입. 제대로 진단도 하지 않고 환자 수술하는 셈 • 민간시장에서 정부가 직접 서비스. 관치 인증산 업 양산해 기존 기술 대변하며 신기술 배척, 혁 신을 가로막음 • 전통산업의 패퇴를 정부가 책임지려고 하지 않 고 끊임없이 혁신기업들에게 책임 전가 • 공공성이 강한 서비스마저 민민갈등 조장 • 효과성이 없는 N번방 방지법 같은 규제는 언론
• 42. 코로나 뉴노멀 시 대 정부국회 의 역할 변 화 주문 • 국회가 “우선 허용, 사후 규제” 원칙 준수하에 입법심사 : 소외 사후규제라며 정당성 요건 심사하는 입법도 역시 사전규제 • 인공지능과 미래 산업이 각종 규제로 막혀 있는데 EU, 일본과 달리 선전하고 있는 플랫폼들을 앞다퉈 규제하려 는 정부발 입법은 최소 5년 이상 장기 과제로 전환. 정부 개입이 불가피함이 확인된(민간의 실패) 규제만 도입 • 인터넷 시대는 코드가 법집행을 하는 시대 : 민간기업은 법집행의 일부분. 시장/소비자/공급자와 소통하며 최적 의 해결점을 스스로 찾아 나감. 정부가 모든 일을 책임지 는 시대는 아나로그 시대 • 민간시장에서 정부의 공급자 역할 전면적 후퇴 : 혁신기 업이 등장해 양질의 일자리를 확보하며 공급과잉을 줄이 게 됨. 소비자에게는 더 좋은 서비스 확보. 국가인증제 전면 폐지만으로도 일자리 대거 창출. 정부 조사/감사 기
• 43. 민간 주도 규제 거버넌스 혁신 필요성 43 미국과 중국은 군대가 아닌 빅테크 서비스 기업으로 전세계의 돈과 데이터를 장악해 자국 이익 강화 미국과 중국은 디지털경제 시대에 전세계의 돈과 데이터를 장악하는 방법은 훌륭한 서비스 기업을 키워서 전세계로 진출시켜 전세계 이용자의 손을 장악하는 것임을 잘 알고 혁신 기업 육성 미국 연방의회는 1990년대부터 플랫폼 기업에 책임 면제 입법으로 실리콘밸리 기업들이 세계적 기업으로 성장기반 마련 중국은 2017년부터 ‘대중창신 만중창업’을 기치로 기존 규제 배제하고 어떠한 시도든 할 수 있게 하여 단 시간내에 세계적 기업육성 우리나라는 2000년부터 인터넷 기업에 규제 집중하여 기존 사업 유지, 혁신경제로 전환을 스스로 가로막아 옴 디지털 경제는 디지털 제국주의 시대
• 44. 민간 주도 규제 거버넌스 혁신 필요성 44 관주사회의 당사자인 정부가 주도하는 미온적 혁신으로는 각축하는 디지털 경제로 획기적 전환이 어려움 ▶정부가 이해당사자 이므로 정부가 중립적으로 시민주도의 경제의 부작용만을 시정해 주는 역할을 하도록 규제 거버넌스 개혁 필요 정부가 관치산업의 수장 이해당사자로서 디지털 경제혁신을 곳곳에서 가로 막음. 규제샌드박스 운용 결과, 오히려 혁신적 사업은 보류, 불가 빈발 미국, 중국의 빅테크인 인공지능을 앞세워 일상생활 곳곳을 침략 중 정부 주도의 방송산업이 유튜브, 넷플릭스에 침몰된 사례. 정부주도의 금융산업은 여전히 내수산업에 불과한 사례, 정부 주도의 운수산업 역시 운수플랫폼 좌절로 세계로 진출 불가 사례 등등 눈에 보이지 않는 사례 다수 민간 주도가 가능한 분야는 정부는 민간의 실패가 확정된 부분만 사후적으로 개입하는 체제로 전환이 시급함 미국은 정부 주도였던 항공우주산업도 민간회사가 선도하는 시대로 진입함(스페이스엑스, 블루오리진) 디지털 경제는 디지털 제국주의 시대