The Dawn of AI (Machine Learning Tribes | Deep Learning | What Is Machine Learning)

이 AI 시리즈의 과거 비디오에서 의 분야에 꽤 깊이 파고 들었다 기계 학습, 둘 다 논의 지도 및 비지도 학습 그만큼 이 비디오의 초점은 우리가 가진 많은 주제를 통합 지난 비디오에서 논의하고 답변 이것의 시작 부분에 제기 된 질문 기계 학습 시리즈, 차이점 인공 지능과 기계 학습! 요약하면 이 시리즈의 지난 두 동영상에 우리는 감독과 그들과 함께 비지도 학습 기계 분야의 부분 집합 배우기

지도 학습은 우리가 레이블이 있고 구조화 된 데이터가 있으며 우리가 사용하는 알고리즘은 입력 데이터를 기반으로 출력합니다 반면에 비지도 학습 레이블이없는 비정형 데이터 용 우리가 선택한 알고리즘은 구조화되지 않은 구조에서 구조 도출 출력 데이터를 예측할 수있는 데이터 입력 데이터를 기반으로합니다 또한 둘 다 지도 및 비지도 학습은 1) 회귀-A 지도 학습 방식 출력은 기능 기반의 값입니다 다른 기능과의 상관 관계에 최고의 연속 선에있는 것 알고리즘에 맞게 결정합니다 2) 분류-감독 학습 출력이 레이블 인 방법 카테고리에 기초한 데이터 포인트 포인트가 있었다

이산 카테고리의 결정 경계는 우리가 선택한 알고리즘 3) 클러스터링- 비지도 학습 방식 다양한 카테고리를 발견해야합니다 데이터 포인트는 그들의 기능의 관계 4) 협회-비지도 학습 우리가 발견해야하는 방법 데이터 세트의 기능 상관 과거에 언급했듯이, 그것은 좋지만 이 주제들을 조금씩보기 위해 거품, 종종 많은 크로스 오버가 있습니다 예를 들어 다양한 기술 사이에서 반 감독 학습의 경우 이것은 이전에 논의되지 않았지만 본질적으로 데이터 세트가 레이블이있는 데이터와 레이블이없는 데이터를 모두 포함합니다

따라서이 경우에는 이러한 유형의 데이터는 먼저 클러스터 할 수 있습니다 데이터를 분류 한 후 실행 그것에 알고리즘, 또는 다른 많은 기술의 조합 이제 길을 개척하고 장군 기계의 종류에 대한 이해 학습과 모든 지식 과거에 다룬 용어 비디오, 우리는 이제 무엇을 해독하기 시작할 수 있습니다 기계 학습이라는 용어는 실제로 그리고 인공과 관련이있는 방법 지능과 다른 분야! 명시된 바와 같이 이 시리즈의 첫 번째 비디오에서 기계 학습이라는 용어는 컴퓨팅의 선구자 인 Arthur Samuel은 컴퓨터를 제공하는 연구 분야 능력 명시 적으로 배우지 않고 배우다 이러한 광범위한 정의로 하나는 논쟁 할 수 있고 모든 '유용한'프로그램은 '학습' 그러나 무언가 진실의 수준 학습은 다양합니다 이 수준의 학습 알고리즘에 의존 프로그램이 통합됩니다 이제 돌아가 몇 단계, 알고리즘은 개념 그 이후로 수세기 동안 존재했습니다 인류 문명의 새벽 프로세스를 지칭하는 용어 또는 따라야 할 규칙 세트 계산 또는 기타 문제 해결 작업

무엇이든 될 수 있지만 알고리즘과 같은 음식 접시 또는 단계를위한 조리법 화재를 시작하는 데 필요한 용어입니다 가장 일반적으로 우리를 설명하는 데 사용 수학의 이해와 방법 우리 주변의 세상과 관련이 있습니다 현실의 정보 패브릭 의 발전과 함께 앞으로 진행 컴퓨팅, 본질적으로 구축 된 필드 수학적 속도의 전제 계산, 탄생의 길을 주었다 알고리즘이 현재 컴퓨터 과학 처리, 저장 및 정의 디지털 정보의 통신 그만큼 알고리즘을 반복하는 능력 초고속 컴퓨터 지난 세기에 운영 주도 구현 및 발견 몇 가지를 나열하기 위해 다양한 알고리즘 Bubble과 같은 정렬 알고리즘이 있습니다 정렬 및 빠른 정렬, 최단 경로 Dijkstra 및 A *와 같은 알고리즘 이 목록은 계속해서 다양하게 사용할 수 있습니다 문제 이 알고리즘은 있는 것처럼 보이는 작업을 수행 학습은 정말 반복적입니다 사전 프로그래밍 된 단계 수행 뚜렷한 대조로 결과를 달성하다 기계 학습의 정의에 명확한 프로그래밍없이 배우십시오

지난 몇 개의 동영상을 다시 반영 이 시리즈에서 우리는 머신 러닝 유형 감독 및 감독되지 않은 사람이 있습니다 그것들을 통과하는 공통 스레드 양자 모두 다양한 기술을 활용하려면 형성하는 접근법과 알고리즘 데이터 세트에 대한 의사 결정 경계 결정 공간 이것은 결정을 나누었다 공간을 기계라고합니다 학습 모델과 과정 모델을 형성하는 것 데이터 세트의 의사 결정 경계는 훈련이라고합니다 이 훈련 모델이 첫 번째와 평행을 이룹니다 우리 인간으로서의 기본 지식 유형 표시, 선언적 지식, 기타 단어, 암기, 축적 개별 사실

우리가 훈련되면 모형과 그것은 좋은 정확도를 보이고 있습니다 훈련 데이터에 우리는 그것을 사용할 수 있습니다 다음 단계를위한 모델, 추론 이 출력을 예측하는 능력입니다 그 가치 또는 범주인지 여부 새로운 데이터 머신 러닝 추론 두 번째 기본 유형과 평행 지식 우리는 다른 말로 명령형 지식을 전시합니다 단어, 일반화, 능력 오래된 사실로부터 새로운 사실을 추론하십시오 또한, 모델이 새로운 것을 만나면서 데이터를 기차로 더 사용할 수 있습니다 결정 경계를 미래의 데이터를 추론하는 데 도움이됩니다

우리가 방금 논의한이 전체 과정 두 번째로 가장 널리 사용되는 머신 러닝의 정의 카네기 멜론 박사 톰 미첼 대학, "컴퓨터는 일부 수업과 관련하여 'E'경험 작업 'T'및 성능 측정 'P' 'T'작업에서 성능 'P'로 측정, 경험과 함께 향상 '이자형' 따라서 진술하는 것이 정확하지만 모든 '유용한'프로그램은 무언가를 '배웁니다' 데이터에서 나는 수준의 차이를 희망 기계 학습 모델 학습 및 일반적인 알고리즘이 더 명확 해졌습니다 도메인 별 머신 러닝의 부상 약한 인공 지능 그대로 에서 수십 년 동안 만들기 그러나 먼저 인공적인 것은 무엇입니까 지성? 당신이 배웠기를 바랍니다 이 시리즈의 지난 동영상에서 AI는 모방 할 수있는 모든 모델을 말합니다 인간의 사고를 발전 시키거나 보여 주거나 지각 또는 행동

우리의 경우에 컴퓨팅 기반 AI를 말합니다 우리의 이 AI 시리즈의 첫 두 비디오 인 AI의 역사와 탄생, 우리는 인공 분야의 발전 지능을 개발하려는 노력에서 더 일반적인 AI는 강력한 AI라고도 함 도메인 별 획득에 집중 다양한 분야의 전문 지식 이 터닝 AI 분야의 요점은 본질적으로 80 년대의 전문가 시스템 복잡한 조건부 논리 만약 그렇지 않다면, 그것은 의 각 분야에 맞는 해당 분야의 전문가에 의한 지식 에서 AI 비디오의 탄생이 끝나고 우리가 중단했던 기간은 AI였습니다 90 년대 초반의 흉상 AI 과대 광고주기에서 낮은 포인트 어떤 전문가에 대한 약속을 통해 시스템은 실제로 할 수 있습니다 이 시점 이후 지능형 시스템의 개발 부족으로 인해 배경으로 갔다 자금 및 주요 관심사 분야와 빠른 기술 다른 많은 분야에서 진행된 인터넷 발명에서 모바일 컴퓨터 상용화 전화-목록은 계속 갈 수 있습니다

동안 이 90 년대의 전문가 원래 시스템과 알고리즘 AI 연구원에 의해 개발 시작 더 큰 시스템의 일부로 나타납니다 이들 알고리즘은 많은 것을 해결했다 어려운 문제와 해결책 에 걸쳐 유용한 것으로 입증 데이터 마이닝, 산업용 로봇, 물류, 연설 인식, 금융 소프트웨어, 의료 진단 및 Google의 검색 엔진 몇 가지를 나열하십시오 그러나 인공 지능 분야 이것에 대한 크레딧을 거의 또는 전혀받지 못했다 1990 년대와 2000 년대 초반의 성공 AI의 가장 큰 분야의 많은 분야 혁신은 도구에서 다른 항목의 상태 컴퓨터 과학의 가슴 Nick Bostrom으로서 Superintelligence의 저자는 2006 년 "많은 첨단 AI가 일반적인 응용 프로그램으로 필터링 AI라고 불리지 않고 뭔가 유용하게되고 일반적으로 AI라고 표시되어 있지 않습니다

더 이상 " 이것은 요한과 비슷합니다 AI의 아버지 맥카시도 다시 80 년대 그래서, 무엇을 시작했는지 2000 년대 후반과 추진 한 10 년의 시작 다시 AI의 분야가 최전선에? 우선, 증가에 감사 할 수 있습니다 무한한 컴퓨팅 파워와 스토리지 컴퓨팅, 빅 데이터 및 기타 다양한 과거 비디오에서 다룬 주제 이러한 발전은 많은 양을 허용했습니다 학습 할 데이터 및 컴퓨팅 전력 및 스토리지가 필요했습니다 그렇게하기 위해

이제, 그 발견을 말할 수 있습니다 데이터의 구조는 인간의 상태이며 우리가 지금까지 와서 진보는 컴퓨터에게 그들이 무엇을 주었다 그렇게해야합니다 자, 여기에서 볼 수 있듯이, 차이점 다양한 AI 혁신과 알고리즘이 처음 시작된 날짜 그러나 거의 20 년이 제안되었지만 평균 3 년 후 상기 문제에 대한 데이터 세트는 획기적인 일이 있습니까? 데이터가 큰 병목 현상을 의미 AI 분야의 발전에 기계의 부상에 대한 다음 이유 학습은 기계 학습의 특정 부족, 연결주의, 또는 많은 사람들이 알고있는 것 그것의 깊은 학습 우리가 탐구하기 전에 딥 러닝, 먼저 논의하자 AI의 다른 부족 5가 있습니다 기계 학습의 주요 부족 사람들의 그룹을 언급하는 부족 방법에 대한 다른 철학을 가지고 AI 기반 문제를 해결합니다

우리는 과거에이 부족들 중 상당수에 대해 이야기했습니다 동영상이지만 아래 목록은 더 구체적인 : 첫 번째 부족은 상징 주의자입니다 그들 역전 제에 집중 공제, 그들은로 시작하지 않습니다 결론을 향해 노력할 것을 전제로하지만 오히려 구내 세트를 사용하고 결론을 내리고 거꾸로 채우기 격차에서 우리는 이것을 AI 비디오의 역사 앞으로의 비디오에서 더 많이 인공 인간 지능 두 번째 부족은 연결 주의자입니다 그들은 주로 디지털 리엔지니어링을 시도합니다 뇌와 모든 연결 안에 신경망

가장 유명한 예 연결주의 접근 방식은 일반적으로 '딥 러닝'으로 알려져 있습니다 우리 의 상승의 부분을 논의 AI 비디오의 탄생에서 연결 세 번째 부족은 진화론자입니다 그들의 초점은 아이디어를 적용하는 데 있습니다 진화론의 게놈과 DNA 데이터 처리 그들의 알고리즘은 끊임없이 진화하고 알려지지 않은 조건에 적응하고 프로세스

당신은 아마 이것을 보았을 것입니다 게임을 치는 데 사용되는 접근 방식 마리오 같은 다가오는 비디오에서 훨씬 더 '강화 학습' 네 번째 부족 베이지안입니다 베이지안 모델은 가설을 취할 것입니다 일종의 '선험적'사고 방식을 적용하고 일부가있을 것이라고 믿어 더 가능성있는 결과 그들 그들이 본대로 그들의 가설을 업데이트 더 많은 데이터 우리는 조금 더 논의했다 우리의 비디오 에서이 생각의 라인 양자 컴퓨팅

다섯 번째이자 마지막 부족은 아날로그입니다 이 기계 학습 부족은 기술에 중점을 둡니다 데이터 비트를 서로 일치시킵니다 우리는이 접근법에 대해 논의했습니다 지난 몇 개의 동영상에서 감독과 감독의 많은 핵심 개념 비지도 학습은 그것에 묶여있다 어떻게 내가 대표하는 것이 최선이라고 생각 이 인공 지능 부족 기계 학습은 거품에 다이어그램 형식

우선 우리는 기본 AI 버블 및 머신 러닝 거품, 우리는이 관계를 보여 머신 러닝의 첫 번째 비디오 시리즈 이제이 후 우리는 부족을 추가 할 수 있습니다 거품 그들은 끊임없이 움직이며 서로 겹쳐서 제작 소설 아이디어와 축소 및 성장 인기 부족이 주류에 도달하면 연결성과 같은 인기 말하자면, 새로운 분야에서 일어나 다 연결성의 경우 딥 러닝이었습니다

다만 명심하십시오 연결성이 깊어지면서 학습이 전체를 의미하지는 않습니다 연결성의 부족이 중심에있다 딥 러닝을 중심으로 연결성 버블과 많은 연결 주의자들은 새로운 접근법을 계속 연구 연결주의 이론을 활용합니다 또한, 딥 러닝은 모든 연결주의가 아닙니다 많은 상징 주의자와 유추 론자가있다 철학도 포함되어 있습니다 5 종족에 대해 더 배울 수 있습니다 Domingos의 기계 학습 책, 마스터 알고리즘, 그리고 당신은 할 수 있습니다 전자 책을 무료로 받으십시오 Audible 30 일 무료 평가판 멤버쉽 아래 링크로 가입하십시오! 주제로 돌아와서 머신 러닝과 인공 지능? 아무것도 아니고 모두

머신 러닝은 AI 유형으로 분류 된 이후 일치하는 능력을 보여줍니다 인간 차원의 인식과 행동을 초과 다양한 작업에서 이전에 언급했습니다 AI가 약하고 이러한 작업은 종종 격리되기 때문에 다른 말로하면 도메인 별 우리가 보았 듯이 기계 학습은 수백만 줄의 많은 것들 복잡한 규칙과 결정으로 코드 나무, 통계 모델, 상징 주의자 이론, 연결주의 및 진화 기반 접근법과 훨씬 더! 모두 복잡성을 모델링하는 목표 우리의 두뇌가하는 것처럼 생명 빅 데이터의 출현으로 컴퓨팅 성능 및 스토리지 증가 우리가 논의한 다른 요소들 이전과 과거의 비디오에서 더 간단한 반복 알고리즘의 모델 복잡한 도메인이 많은 사람들에게 수학과 과학 작업 매듭 이론, 게임 이론, 선형 대수 통계 몇 가지를 나열합니다 하나의 중요한 이 모델을 참고하십시오 알고리즘이 얼마나 발전했는지에 관계없이 유명인의 인용을 통해 가장 잘 알려져 있습니다 통계 학자 조지 박스, "모든 모델이 잘못되었지만 일부 "유용합니다"라는 의미입니다

모든 모델, 추상화 및 그들은 단순화되도록 만들어졌다 절대 100 % 모델 현실은 아닙니다 하나, 현실의 단순화는 종종 많은 복잡한 문제를 해결하는 데 매우 유용합니다 문제 머신 러닝 관련 이것은 우리가 모델을 가질 수 없다는 것을 의미합니다 그 정확도는 100 %입니다 대부분의 실제 출력 예측 특히 모호한 문제 문제 주요 가정 중 두 가지 머신 러닝 분야에서 제작 그 원인은 다음과 같습니다

1) 우리는 과거, 현재 과거의 패턴, 예측 미래, 그리고 2) 그 수학은 우주 전체를 진정으로 모델링합니다 이러한 가정에 관계없이 모델은 여전히 ​​매우 유용 할 수 있습니다 광범위한 응용 프로그램, 우리는 이 큰 사회적 영향을 다루다 다가오는 비디오의 약한 지능 AI의 진화에 또한, 전공에 기인 한 방법 모델의 정확성을 높이고 앞에서 언급 한 내용이 깊습니다 다음에 다룰 학습 이 AI 시리즈의 비디오 세트! 지금 결론을 내리기 전에 한 가지 중요한 사실 반복하고 싶습니다 모든 AI가 시작될 때의 면책 내 목표는 시도하는 것입니다 현실에서 매우 복잡한 단순화 주제 나는 당신이 추가를 추구하는 것이 좋습니다 이 플랫폼 및 다양한 리소스 다른 사람에 대해 더 배우고 싶다면 훨씬 더 깊은 레벨! 그러한 자원 중 하나 사용하고 적극 추천합니다! 만약 당신은 기계에 대한 자세한 내용을 알고 싶어 학습하고 난 정말 방법을 배울 의미 이 알고리즘은 감독에서 작동합니다 회귀 및 비지도 학습에 대한 분류 그리고 Brilliant

org보다 더 많은 곳 당신이 갈 수 있습니다! 자동화를 통한 세계 알고리즘이 점차 대체 될 것입니다 더 많은 직업, 그것은 개인으로서 우리에게 달려 있습니다 우리의 뇌를 날카롭게 유지하고 여러 분야에 대한 창의적인 솔루션 문제와 화려한 플랫폼입니다 그렇게 할 수 있습니다 예를 들어 매일 매일 도전이 있습니다 다양한 코스를 다룰 수 있습니다 STEM 도메인 이러한 도전은 그들이 그리는 방식으로 제작 당신은 다음 새로운 것을 배울 수 있도록 직관적 인 개념 설명 이 채널의 주요 목표는 다양한에 대한 영감과 교육 기술과 혁신 세상을 바꾸지 만 높은 단계는 단계를 밟아야합니다 이 비디오를 넘어 실제로 수학과 과학 학습 내가 논의한 개념을 넘어서 훌륭한 수학과 과학을 만들어서 흥미 진진한 학습 표시에 대한 호기심 다양한 사이의 상호 연결 다른 주제! 특이점을 지원하려면 번영과 더 많은 것을 배우십시오 Brilliant, Brilliantorg/로 이동하십시오 특이점과 무료 가입, 또한 처음 200 명은 해당 링크로 이동하면 20 % 할인됩니다

연간 프리미엄 구독! 이것에 비디오가 결론에 도달했음을 지적하고 복용 주셔서 감사합니다 그것을 볼 시간! 당신이 그것을 즐겼다면 Patreon에서 나를 지원하는 것을 고려하거나 이를 유지하기위한 YouTube 멤버십 채널 성장! 우리의 웹 사이트를 확인하십시오 자세한 내용은 다음을 고려하십시오 콘텐츠를 구독하고 한입 크기의 청크를위한 Facebook 페이지 내용의 이 Ankur되었습니다, 당신은 특이점 번영을 지켜보고 있습니다 곧 다시 보자! [음악]

Spreadsheet Understanding Using Statistics and Deep Learning

>> 안녕 저는 벤 존입니다 스프레드 시트 이해에 대해 이야기하겠습니다

두 개의 프로젝트 Jura와 Alex Polozov와의 공동 작업 인 ExceLient는 에머리 버거, 댄 바로우 스프레드 시트에 관한 것 수백만의 사람들이 사용한다는 것입니다 그들은 중요한 결정을 내리는 데 사용됩니다 재정적 결정, 경제적 결정 등과 같은 이 스프레드 시트 중 많은 부분에 실제로 오류가 있습니다 실제로 뉴스를 보면 Reinhart-Rogoff 스프레드 시트 하버드 경제학자가 개발 한 스프레드 시트는 긴축 정책을 정당화하는 데 사용 그리스 및 미국과 같은 국가를 포함합니다 Reinhart-Rogoff 스프레드 시트는 매우 복잡한 스프레드 시트는 부채의 역사 수백 년에 걸친 국가 Reinhart-Rogoff 스프레드 시트에서 찾은 것은 실제로 중요한 오류가 있었다 저자가 잘못된 결론을 이끌어 내도록 유도하십시오

이것의 핵심 메시지는 많은 사람들이 스프레드 시트를 사용하여 중요한 결정과 우리가하려고하는 것은 그들을 도울 스프레드 시트 사용자 스프레드 시트를 더 쉽게 이해하고 그들에게 더 나은 결정을 내 리도록 도와주십시오 먼저 ExceLient라는 첫 번째 도구부터 시작하겠습니다 내가 여기서 보여주는 것은 실제로 Reinhart-Rogoff 스프레드 시트 이 하버드 경제학자들이 처음 개발했습니다 특히 여기서 중요한 시트는 요약 시트입니다 여러 국가 미국에서 볼 수 있듯이 영국 등 24 개국

의 역사적 부채에 관한 정보 이들 국가는 경제 성장과 관련이 있습니다 이 스프레드 시트를 보면 매우 복잡해 보입니다 이 나라들처럼 미국에는 많은 데이터가 있습니다 에 대한 많은 데이터 행 1791 년에 미국에서 시작해 하지만 요약을 보면 당신은 왜 그것이 사용자로서 어렵다고 상상할 수 있습니다 이 스프레드 시트가 올바른지 아닌지를 이해합니다 기술에서 우리가 한 일 중 하나는 우리는 ExceLient라는 기술을 가지고 있습니다 구조를 매우 빠르게 이해합니다 통계를 사용하여 스프레드 시트의 특히이 버튼을 누르면 Reinhart-Rogoff 스프레드 시트의“Reveal Structure '' 색상이 정보를 인코딩 할 것입니다 사물에 대해 사용자에게 스프레드 시트에서 일어나고 있습니다

특히 회색은 데이터가 있음을 의미하며 일반 데이터이지만 회색은 시트의 일부 수식으로 참조됩니다 노란색은 특이한 요소이기 때문에 시트에있는 데이터 수식에서 참조되지 않는 이 프리젠 테이션에서 바로 보는 것은 이 데이터 범위는 어떤 공식에서도 사용되지 않습니다 좀 더 자세히 살펴보면 당신이 찾는 것은 그 공식입니다 여기 평균을 계산하는 실제로이 셀 범위를 평균에 포함시키지 않습니다 이것은 Reinhart-Rogoff 스프레드 시트의 버그입니다 특히 캐나다, 벨기에, 오스트리아 및 호주 평균적으로 계산되지 않습니다

사실, 그것은 잘못된 결론으로 ​​이어집니다 ExceLient와 함께하는 것은 매우 유용한 도구입니다 무슨 일이 일어나고 있는지 빠르게 이해 스프레드 시트를 작성하고 중요한 결정을 내립니다 상상할 수 있듯이 스프레드 시트를 만든 개인 및 원래 Reinhart-Rogoff가이 도구를 가지고 있었다면 그들은 이것을 매우 중요한 오류로 만들었을 것입니다 잘못된 결론으로 ​​이어집니다 우리는 또한 볼 수 있습니다 다른 시트 스프레드 시트 (예 : 미국) 이 구조를 밝히면 당신은 다른 색상을 다시 보여주는 참조 다른 열이 다른 방식으로 계산되고 있습니다

하지만 흥미로운 점은 우리가 여기 있다는 것입니다 본질적으로 우리는 의심 지수라고 부릅니다 이 특정 범위의 세포가 클릭하면 거기로 이동합니다 이 범위의 세포는 의심스럽고 여기 보시는 것은이 세포가 첫 번째 칸인 K7은 실제로 그 아래의 셀과 다른 공식 다시, 아주 빨리 스프레드 시트에서 버그를 발견하고 다시 버그를 찾을 수 있습니다 원본 스프레드 시트입니다

그래서 저자는 실제로 이해하지 못했습니다 괜찮아 이것이 ExceLient입니다 나는 당신이 그것을 시도하는 것이 좋습니다 실제로 온라인에서 사용할 수 있습니다

다른 기술이 있습니다 연구에서 우리가하려고하는 것 중 하나는 스프레드 시트에는 데이터가 모두 포함되어 있으므로 수식은 코드와 프레젠테이션입니다 인간과 같은 것 다른 사람과 의사 소통하려고합니다 따라서이 시트는 특히 이에 대한 예입니다 사용자에게 헤더가 있습니다

사용자는 다음과 같은 방식으로 데이터를 형식화했습니다 공백에 도움이되는 빈 행과 열이 있습니다 결과적으로 어디서 이 테이블의 시작과 끝은 실제로 완전히 명확하지 않습니다 따라서 프레젠테이션에는 명시 적이 지 않습니다 우리가 개발 한 것은 Jura 기술입니다 본질적으로 테이블을 찾으려고 노력하고 있습니다

주어진 시트는 기본적으로 임의의 경계입니다 Jura는 다음을 기반으로하는 기술을 사용합니다 모든 세포를보고 질문을하는 신경망 우리가 질문하는 신경망, 이 셀이 테이블의 1/4입니까? 우리가 가진 것은 능력이 있다는 것입니다 신경망이 어떻게 생각하는지 보여주기 위해 모서리와 우리가보고있는 것은 신경망이이 코너에 이 코너와이 코너는 모두 오른쪽 아래 모서리처럼 보입니다 그것이 파란색으로 인코딩되는 것입니다 여기 위 모서리는 왼쪽 위 모서리처럼 보입니다

그래서 그것이하려는 것은 전체 구조를 이해하는 것입니다 에 기초한 시트 개별 세포와 그것이 생각하는 것이 모퉁이입니다 모든 세포에 대한 전체적인 관점처럼 이해되면 우리의 기술 Jura는 기본적으로 테이블을 찾을 수 있습니다 그들이 찾은 시트에있는 모든 테이블을 보여주기 때문에 그리고 여기서 볼 수있는 것은 이것이 테이블이라는 것을 이해한다는 것입니다 예를 들어,이 특정 부분은 주석 인 테이블 Jura는 테이블의 일부로 계산하지 않습니다

각주와 비슷하기 때문에 의미가 있습니다 여기서 보여 드린 것은 서로 다른 두 가지 기술입니다 두 가지 기술을 사용합니다 통계 분석과 신경 네트워크 스프레드 시트를 이해하고 궁극적으로 사용자가 신속하고 효과적으로 사용할 수 있도록 그들의 스프레드 시트와 올바른 결론 시간 내 주셔서 감사합니다

YOLO Object Detection v2 (MATLAB Tutorial) using Deep Learning!

You Only Look Once-이 딥 러닝 객체 감지 알고리즘은 현재 R-CNN보다 성능이 뛰어난 최신 기술이며 그 변형입니다 몇 가지 다른 물체 감지 알고리즘을 살펴보고 왜 YOLO가 그렇게 잘 작동하는지, 어떻게 자동차를 분류하기 위해 로지스틱 회귀로 자체 YOLO 신경망을 구축 할 수 있을까요? 전체 코드와 패키지 목록은 여기에서 찾을 수 있으며 내 비디오와 함께 코드를 사용하여 30 분 이내에이 YOLO Detector를 작성하는 데 많은 도움이됩니다! https://www

mathworkscom/help/deeplearning/examples/object-detection-using-yolo-v2html Mathworks의 MATLAB r2019a를 사용하고 있습니다 최신 버전의 MATLAB에서이를 복제 할 수 있어야합니다 이 비디오는 Siraj Raval과 그의 YOLO Tensorflow 기술과 튜토리얼에서 영감을 받았습니다

나는 MATLAB을 위해 하나를 만들기로 결정했습니다! 구독하고 좋아요 댓글 어쩌면 공유? 이 중 하나라도 대단히 감사하겠습니다! 그것은 나의 일을 계속하고, 당신들을 위해 AI (인공 지능) 비디오를 계속 만들도록 격려합니다! YOLO 네트워크 Matlab 2019, 딥 러닝 신경 네트워크, CNN, 인공 지능을 만드는 방법 제 이름은 Rishabh Jain이며 오늘 Yolo 버전 2 딥 러닝 비디오에 오신 것을 환영합니다

물체 감지 및 MATLAB 2019 년 오늘 우리는 당신의 세계를 한 번만 살펴볼 것입니다 이 비디오 후에 완성 된 열차 Yolo 감지기를 만들 것입니다 모델이 어떻게 작동하는지 배울 것입니다 다양한 데이터 세트를 다운로드하여 모델을 학습시키고 마지막으로 모델을 감지하여 이 경우 자동차가 될 개체를 설명하십시오 먼저 개요로 Yolo가 무엇인지 살펴 보겠습니다 그런 다음 필요한 다운로드 자동차 이미지가 포함 된 사용 가능한 데이터 세트를로드하는 도구 상자 및 관련 라이브러리 Yolo 감지기를 훈련하고 마지막으로 모델을 평가하고 테스트하여 비디오 내에서 전체 요약을 제공합니다 우선 Yolo가 무엇입니까 Yolo는 한 번만 보이며 여러 단계가 있습니다

이러한 단계는 다음과 같이 먼저 전체 이미지에 신경망을 적용합니다 이미지를 그리드로 나누고 예측과 확률로 상자를 정의하십시오 다음으로 로지스틱 회귀 분석을 사용하여 각 그리드 내의 각 클래스에 대한 확률을 계산합니다 여러 클래스에 대해 서로 다른 회귀 모델을 사용합니다 예를 들어 다른 객체는 하나를 사용합니다 자동차 등을 훈련시키는 로지스틱 회귀 마지막으로 우리는 어떤 상자 또는 미니 그리드 사각형이 더 높은 확률을 갖는지를 결정합니다

로지스틱 회귀 모델을 훈련시키는 객체 또는 클래스는 우리 앞에 모범이 있으면 이해하십시오 예를 들어이 그리드에서 우리는 지구 전체를 볼 수 있으며 지구 내의 모든 국가는 우리가 찾으려고 노력하고 있다고 말합니다 특정 국가 (예 : 미국) 처음에 일어날 일은 먼저이 그리드의 그리드를 상자 전체에 배치하는 것입니다 기본적으로 이미지 전체에 신경망 적용 그럼 우리는 하나의 수업 만 가질 것이고 우리는 단지 예측하려고 노력하기 때문에 미국이라는 것이 있는지 여부 우리는 로지스틱 회귀를 넣을 것이고 우리는 하나의 모델을 가질 것입니다 우리는 미국인 클래스를 하나만 가지고 있으며 우리가 우리에게 가능성을 계산할 것입니다 각 그리드 박스에 있습니다 예를 들어, 왼쪽 상단에 0 0이 있고 그 사실을 알고있을 것입니다 우리를 데려 갈 확률도 05 % 예를 들어 2 3과 같은 상자가있는 동안 멕시코의 일부는 확률이 높을 수 있습니다 어떻게 든 더 가깝고 로지스틱 회귀 모델이 그것을 말할 수 있기 때문에 기본 박스만큼 높지 않기를 바랍니다

2 2에 위치하고 왼쪽은 다양한 이미지에서 신경 네트워크를 훈련시킵니다 예를 들어 훈련시킬 수 있습니다 여러 개의 지구본이 이미지와 같으며 모델에 그리드 선을 그려 확률을 계산할 수 있습니다 각 상자마다 결국, 우리는 어느 박스가 미국을 포함하는지 예측할 수있는 신경망을 보게 될 것입니다 정확하고 좋은 시간에 Yolo를 사용할 때 한 가지만 기억합시다 우리는 실제로 실시간 테스트 및 훈련 절차를 가지고 있습니다 로지스틱 회귀 분석을 사용하고 있기 때문에 상당히 빠른 평가 우리는 일반적으로 필요한만큼의 데이터를 필요로하지 않습니다 로지스틱 회귀 및 데이터 양은 사용중인 클래스에 따라 변경 될 수 있습니다

2 단계로 넘어 갑시다 MATLAB에서 라이브러리 및 도구 상자를 다운로드하는 것은 매우 간단하며 이미 몇 가지가 있어야한다고 가정합니다 전에 기계 학습 또는 딥 러닝 프로젝트를 수행 한 경우 도구 상자 따라서 컴퓨터 비전 툴박스 딥 러닝 툴박스와 병렬 컴퓨팅 툴박스가 필요합니다 선택적으로 네트워크를 직접 훈련시키고 사전 훈련을 필요로하지 않는 경우 작업 속도를 높이고 작업을 좀 더 호환성있게 만드는 NVIDIA GPU 그 외에는 매우 간단합니다 대부분이 이미 설치되어 있어야합니다

이미 딥 러닝 도구 상자가있는 경우 ResNet 50 네트워크에 대한 딥 러닝 툴박스 모델이 있어야합니다 하지만 일단 MATLAB에서 코드를로드하면 그것은 당신에게 경고하고 당신이 잃어버린 것과 우리가 모두 가지고 있기 때문에 지금 당신이 무엇을 필요로하는지 알려 주어야합니다 설치된 모듈 및 라이브러리 사전 훈련 된 검출기 다운로드를 시작하겠습니다 이 예는 사전 훈련 된 감지기를 사용하여 예없이 Train Yolo v2로 감지기를 훈련 시키려면 훈련이 완료 될 때까지 기다려야합니다 코드에서 볼 수 있듯이 객체 감지기 기능은 훈련 훈련 변수를 true로 설정합니다 그렇지 않으면이 코드를 사용하여 사전 훈련 된 검출기를 다운로드하십시오

다음으로 데이터 세트를로드합니다 이 예는 다음을 포함하는 소형 차량 데이터 세트를 사용합니다 각 이미지에 295 개의 이미지에는 하나 또는 두 개의 레이블이있는 차량 인스턴스가 포함되어 있습니다 작은 데이터 세트는 Yolo v2 교육 절차를 탐색하는 데 유용합니다 그러나 실제로 강력한 검출기를 훈련시키기 위해서는 더 많은 라벨링 된 이미지가 필요합니다 훈련 데이터는 테이블에 저장됩니다 첫 번째 열에는 이미지 파일의 경로가 포함되고 나머지 열에는 ROI가 포함됩니다 차량 라벨 다음으로 데이터 세트의 이미지 중 하나를 표시하여 포함 된 이미지 유형을 이해합니다 코드를 사용하여 화면의 오른쪽에 보이는 것처럼이 예제 이미지를 실제로 표시합니다 금후 탐지기를 훈련시키기위한 데이터 세트와 탐지기를 평가하기위한 테스트 세트로 데이터 세트를 분할합니다

교육용 데이터의 60 %를 선택하면 나머지는 평가 용으로 사용됩니다 먼저 이미지 입력 ​​크기와 클래스 수를 지정하십시오 이미지 입력 ​​크기는 훈련 이미지의 이미지 크기보다 커야합니다 이 예에서는 RGB 또는 3 가지 색상이 있으므로 이미지 또는 2 24 x 2 24 x 3 다음으로 앵커 박스의 크기를 지정하겠습니다 다음으로 사전 훈련 된 ResNet 50을로드합니다 피처 레이어를 지정하고 yolo 감지 네트워크 생성 마지막으로 Yolo 물체 탐지기를 훈련시킵니다 아래 설명에서 나머지 코드와 함께이 코드 섹션을 찾을 수 있습니다

화면의 공간이 부족하여 코드를 모두 표시 할 수 없기 때문에 코드의이 부분은 설명에 있습니다 기본적으로 테스트 세트에있는 다양한 이미지가 모두 포함 된 테이블을 만든 다음 실행합니다 각 이미지의 검출기는 평균 정밀도뿐만 아니라 로그 평균 미스율을 계산합니다 그래프를 작성하면 다음과 같은 것을 찾을 수 있습니다 이 예제는 딥 러닝을 사용하여 차량 감지기를 훈련시키는 방법을 보여줍니다

교통 표지판 탐지기를 훈련시키기 위해 비슷한 단계를 따를 수 있습니다 딥 러닝에 대해 더 배우기위한 보행자 또는 기타 대상 아래 설명을 확인하고이 비디오에서 다시 언급 한 다른 코드를 다운로드하거나 배우십시오 설명을 확인하십시오 시청 해주셔서 감사합니다 이 채널을 좋아하고 구독 해주세요 다음에 you겠습니다

AI vs Machine Learning vs Deep Learning | Machine Learning vs Artificial Intelligence | AI vs ML

얘들 아 Intellipaat의 세션에 오신 것을 환영합니다

이제 너희들은 인공 지능, 기계 학습 깊은 학습과 수많은 질문이 당신의 머리에 터졌을 것입니다 오늘 세션은이 세 용어의 차이를 이해하는 데 도움이됩니다 그럼 의제를 한눈에 살펴 보겠습니다 우리는 인공 지능과 기계 학습의 차이점을 이해하고 깊은 학습을 통해 다양한 유형의 기계 학습 알고리즘을 이해할 수 있습니다 그 후에 우리는 기계 학습의 한계를 이해할 것입니다

앞으로 우리는 깊은 학습이 기계 학습의 이러한 한계를 어떻게 초래할 것인지를 보게 될 것입니다 그 다음에 우리는 깊은 학습의 작동 원리를 살펴볼 것입니다 그리고 마침내 퀴즈가있을거야 오늘의 세션에서 우리가 배운 것을 되풀이하십시오 그러므로 모든 답을 코멘트 란에 기입하십시오

네가 제대로 대답했는지 알기 또한 검색어를 입력 할 수도 있습니다 우리는 당신을 도와주고 싶습니다 그래서 지체하지 않고 수업 시작하기

그래서 저는 여러분에게 아주 간단한 질문을하기 시작할 것입니다 인간을 현명하게 만드는 것이 무엇인지 말해 주시겠습니까? 우리는 인간으로서 생각하고 배우고 결정할 수 있습니다 그것이 우리를 현명하게 만드는 것입니다 이제 기계가 인간처럼 지능을 보여줄 수 있는지 상상해보십시오 생각할 수있는 기계 인간과 같은 결정을 내린다

이제 정말 놀라워요 그렇지 않습니다 그래서 인공 지능은 기본적으로 컴퓨터 분야입니다 작동하고 반응 할 수있는 지능형 기계의 창조에 중점을 둔 과학 인간처럼 인공 지능이 무엇인지 알게되었으므로 기계 학습 및 깊은 학습이 가능합니다

따라서 인공 지능을 더 넓은 우산으로 간주 할 수 있습니다 기계 학습과 깊은 학습이 그 부분 집합이 될 것입니다 당신은 또한 기계 학습과 깊은 학습이 인공을 이루기위한 수단이라고 말할 수 있습니다 지성 이제 기계 학습이란 무엇입니까? 그래서, 기계 학습은 기본적으로 인위적인 부분 집합입니다 우리가 입력 데이터의 도움을 받아 결정을 내리는 방법을 기계에 가르치는 지능

그래서 우리는이 작은 예제로 기계 학습을 이해할 것입니다 그래서 들으면서 무엇을 보나요? 이게 정확히 무엇입니까? 그럼 새예요 그리고 이것에 대해서? 이것은 다시 새이며이 역시 새입니다 이제 어떻게해야 할 일이 모두 새입니까? 어렸을 때, 새의 그림을 보았을 수도 있었을 것입니다 유치원 선생님이나 부모님이 새와 당신의 두뇌라고 말씀하셨습니다

새처럼 보이는 것을 배웁니다 이것이 바로 우리의 두뇌 기능입니다 그러나 기계는 어떨까요? 이제 나는이 새의 형상을 받아 기계에 먹이면된다 식별 할 수 있을까요? 새처럼? 이것이 바로 기계 학습이 시작되는 곳입니다 그래서 내가 할 일은 조류의 모든 이미지를 가져 와서 먹이를 계속 먹이겠습니다

그것과 관련된 모든 기능을 학습 할 때까지 컴퓨터에 저장합니다 그리고 일단 그것과 관련된 모든 기능을 배우면, 새로운 데이터를 제공하여 얼마나 잘 배웠는지 또는 즉, 먼저 훈련 데이터를 기계에 공급하여 추출 할 수 있도록합니다 교육 데이터와 관련된 모든 기능을 학습 할 수 있습니다 학습이 완료되면 새로운 데이터 또는 테스트 데이터를 제공하여 잘 학습이 완료되고 이것은 기계 학습의 기본 개념입니다

이제 깊은 학습을 시작하겠습니다 따라서 심층 학습은 지능형 알고리즘을 개발하는 기계 학습의 하위 집합입니다 인간의 두뇌를 모방합니다 이제 여기서 발생하는 문제는 어떻게 인간의 뇌를 모방합니까? 글쎄, 다른 질문을하겠습니다 그럼 뇌는 무엇으로 이루어 집니까? 우리 뇌는 주로 뉴런으로 구성되어 있습니다

그리고이 뉴런들은 전기 화학 신호를 보내고받습니다 그래서 여기에 뉴런이 있으며 전기 화학적 신호가 수상 돌기로부터 수신됩니다 이러한 신호의 처리는 셀 본문에서 수행되며 이러한 입력의 출력 신호가 축삭에 다른 뉴런으로 보내지고 우리의 임무가 인간 두뇌를 모방하는 것이라면, 모두 당신이해야 할 일은 인공 뉴런을 만드는 것입니다 그리고이 인공 뉴런은 똑같이 작동합니다 생물학적 뉴런으로 따라서 깊은 학습을 구현하려면, 우리는 인공 신경망을 만들어야 만합니다

이 인공 신경망 회사 입력 레이어, 숨겨진 레이어 및 출력 레이어로 구성됩니다 따라서 모든 입력은 입력 플레이어를 통해 수신되고 처리가 완료됩니다 숨겨진 계층에서 출력 레이어를 통해 수신 된 최종 출력입니다 그리고 그것을 요약하면 인공 지능이 더 넓은 우산입니다 기계 학습은 인공 지능의 하위 집합이며 심층 학습은 하위 집합입니다 기계 학습 및 기계 학습 및 심층 학습은 기본적으로 인공 지능을 달성하십시오

이제 인공 지능과 기계 학습의 기본적인 차이점을 이해했습니다 깊은 학습 기계 학습의 이러한 하위 카테고리를 살펴 보겠습니다 그래서, 기계는 감독 학습으로 하위 범주를 학습, 감독되지 않은 학습 및 강화 학습 그럼 감독 학습으로 시작합시다

감독 학습에서, 우리는 교묘 한 데이터를 사용하여 기계를 가르칩니다 우리에게 과일 한 개가 있고 각 과일에 라벨이 붙어 있다고 가정 해 보겠습니다 그래서 여기에서, 기계는 사과가 이렇게 생겼어 망고가 이렇게 생겼어 바나나 이것과 오렌지처럼 보입니다

이렇게 생겼어 따라서 교육이 완료되면 기계에 새로운 데이터 또는 테스트 데이터가 제공됩니다 그래서 여기에 기계에는 Apple의 새로운 이미지가 주어지며 기계는 이것이 사과라는 확률은 97 퍼센트입니다 이제 감독 학습은 다시 분류와 회귀로 나눌 수 있습니다 따라서 입력 데이터를 분류하는 것은 기계 학습에서 매우 중요한 작업입니다

예 : 메일이 진짜인지 스팸인지 여부 거래가 허위인지 여부 그리고 여러 가지 예가 있습니다 그럼 당신이 문을 여는 주택 사회에 살고 있다고 가정 해 봅시다 다른 유형의 폐기물 그래서 쓰레기통 하나에 종이 쓰레기

금속 쓰레기 하나 플라스틱 쓰레기 등등 그래서 지금 당신이 기본적으로 여기에서하고있는 것은 폐기물을 다른 카테고리로 분류하는 것입니다 따라서 분류는 특정 항목에 등급 레이블을 지정하는 과정입니다 그리고이 예제에서 우리는 라벨 용지, 금속, 플라스틱 등을 다른 것에 할당하고 있습니다

폐기물 종류 그리고 분류 알고리즘에 주목해야 할 것은 출력 변수가 본질적으로 범주 적이라는 것입니다 더 잘 이해하기 위해이 예제를 사용합시다 그래서 여기에 우리는 학생의 성별과 학생의 결과가 있습니다 여기 성별은 입력 변수 또는 독립 변수이고 결과는 출력 변수 또는 종속 변수입니다

그래서 우리는 산출 변수가 본질적으로 범주 적이라는 것을 알 수 있습니다 즉, 합격 또는 불합격의 두 가지 범주가 있습니다 그리고 여기에서 우리는 학생이 시험에 합격 할 것인지 아닌지를 결정하려고 노력하고 있습니다 학생 성별 기준 따라서 의사 결정 트리, 무작위 포리스트, 순진한 베이와 벡터 머신을 지원합니다

이제 의사 결정 트리의 개념을 간략하게 살펴 보겠습니다 결정 상태 트리는 기계 학습에서 트리 기반 분류 자입니다 당신 각 노드가 자신의 하위 노드로 분할되는 거꾸로 된 트리라고 생각할 수 있습니다 조건에 따라서 의사 결정 트리를 더 잘 이해하기 위해이 예제를 사용합시다

여기서 우리는 의사 결정 트리를 구축하여 사람이 적합한지 여부를 확인하고 일련의 시험 조건에 기초하여, 우리는 마침내 잎 마디에 도착하고, 맞는 사람인지 아닌지를 분류합니다 따라서 감독 학습 알고리즘의 다음 유형은 회귀입니다 따라서 회귀 분석에서 출력 변수 또는 종속 변수는 다음과 같습니다 연속적인 숫자 여기이 그래프를 보겠습니다

여기에 Y 축에 마력이 있고 X 축에 갤런 당 마일이 있습니다 또는 다른 말로하면, 마력은 종속 변수이다 갤런 당 마일은 독립 변수입니다 따라서 우리는 출력 변수가 연속적인 수치임을 알 수 있습니다 그리고 여기서 우리는 차의 마력이 MPG에 따라 어떻게 달라지는 지 알아 내려고합니다

이것이 회귀의 개념입니다 이제 감독 학습의 사용 사례를 살펴 보겠습니다 먼저 스팸 분류자를 사용합니다 그렇다면 메일이 스팸인지 아닌지에 대해 어떻게 생각하십니까? 이 스팸 탐지는 기본적으로 필터의 개념에서 작동합니다 그래서 주로 두 종류의 필터가 있습니다

텍스트 필터 및 클라이언트 필터 텍스트 필터는 자주 사용되는 단어와 구문을 탐지하는 알고리즘을 사용하여 작동합니다 이 스팸 전자 메일에서 사용됩니다 복권과 같은 문구 또는 원 / 무료 비트 코 인은 종종 필터로 제거하기위한 즉각적인 깃발이됩니다 다음은 클라이언트 필터입니다

이름이 말하는대로, 클라이언트 필터는 클라이언트의 신원과 이력을 이해하여 악성 및 성가신 것을 차단합니다 스팸 전자 메일 그렇다면이 클라이언트 필터는 어떻게 작동합니까? 이것은 그가 보낸 특정 사용자의 모든 메시지를보고 수행됩니다 따라서 사용자가 엄청난 양의 이메일을 지속적으로 발송 한 경우 또는 사용자 메시지 중 몇 개가 이미 스팸으로 표시되어있는 경우 전자 메일은 완전히 차단됩니다 그래서 이것은 우리에게 블랙리스트의 사용을 가져옵니다

따라서 스팸 필터는 블랙리스트라는 것을 포함합니다 따라서 블랙리스트는 스패머의 알려진 이메일 주소를 목록에 추가하는 과정입니다 이 목록은 사용자의 메시지가 다른 사람에게 전달되는 것을 방지합니다 이제 다음 유스 케이스를 살펴 보겠습니다 지문 분석

따라서 지문 분석에서는 컴퓨터에 지문을 레코드로 저장합니다 컴퓨터가 데이터를 가져 와서 확인합니다 데이터가 귀하에게 속하는지 여부 그래서 일단 데이터가 기계에 저장됩니다 다음 번에 컴퓨터에 지문을 채울 때마다 기기가 모든 사용자 데이터를 스캔합니다

그리고 기계가 지문과 데이터의 일치를 발견하면, 지문이 확인됩니다 이제는 여러 유형의 감독 학습 알고리즘을 완료했습니다 계속해서 감독되지 않은 학습이 무엇인지 이해하십시오

[CVPR 2019] AD-PSGD Algorithm for Deep Learning, Prof. Ji Liu, Director @ Kuaishou Seattle AI Lab

중국에서 35 세 미만의 MIT 혁신 자 중 하나 인 비동기 분산 형 병렬 확률 적 경사 구배 알고리즘 (AD-PSGD) 이 알고리즘의 기여는 무엇입니까? 네

비동기 및 분권화는 매우 중요하고 강력한 도구입니다 깊은 학습의 훈련 과정 이 두 가지 새로운 기술은 실제로 동기화 오버 헤드를 줄입니다 그것을하는 전통적인 방법을 끊습니다 그리고이 두 기술은 현재 TensorFlow 및 PyTorch와 같은 널리 사용되는 서버에서 널리 사용되었습니다

그리고 우리는 이런 종류의 것들이 전통적인 최적화 사람과 구현 사람들 사실,이 두 집단의 사람들 사이에는 큰 격차가 있습니다 최적화 사람들 알고리즘을 이해할 수 있지만, 하드웨어에 대한 지식은 매우 제한적입니다 구현이므로 알고리즘을 설계 할 때 구현에서 거의 고려하지 않습니다 원근법

그러나 사람들을 구현하는 사람들은 코드를 하드웨어로 프로그래밍합니다 운수 나쁘게, 알고리즘 측면에 대한 지식은 매우 제한적입니다 그래서 이것은 차이입니다 그리고 내 일 이 격차를 메우고 공동 최적화를 시도하고, 알고리즘과 하드웨어를 사용하여 성능을 최적화하고 교육 프로세스를 최적화합니다 이것이 주요 기여입니다

이 작품의 목적

Learn Deep Learning with Python, Keras and TensorFlow with Applications of Deep Neural Networks.

깊은 신경 네트워크를 환상적인 기술로 만드는 것은 그들은 거의 모든 형식으로 입력을 받아 들일 수 있습니다 그들은 표 형식의 데이터를 취할 수 있으며, 이미지, 텍스트 및 심지어 오디오까지

그런 다음이 정보를 처리하고 그런 종류의 수학적 마술은 결정이나 숫자를 출력합니다 등급을 부여하지만 동일한 유형의 데이터를 많이 출력 할 수도 있습니다 표 형식의 데이터, 이미지, 텍스트 또는 오디오를 출력 할 수 있습니다 내 수업에서는 응용 프로그램 딥 뉴럴 네트워크 (Deep Neural Networks)에 대해,이 신경망을 일상적인 문제 Jupyter Notebooks를 사용하여이 코스의 모든 것을 가르칩니다

및 Python 보시다시피, 코드와 정보를 섞어 볼 수 있습니다 내 과정에서 귀하의 프로그램에서 실제 결과를 볼 수 있습니다 그들 이제 비디오 게임을 만드는 응용 프로그램 중 일부는 비디오가 필요합니다

그래서, 우리는 그것들을 실제로 Jupyter 바깥에서 움직일 것입니다 노트북과 파이썬에서 직접 모든 것은 양립성이 보장된다 Google CoLab을 사용하면 필요에 따라 무료 GPU로 실행할 수 있습니다 GPU, 나를 믿으십시오, 당신의 훈련 시간에 시간을 절약 할 수 있습니다

나는 너에게 많은 것을 보여주지 그래픽 및 기타 멋진 것들을이 비디오에서 볼 수 있습니다 모든 것은 우리가 비디오 마술이 없도록 수업을 들으십시오 자, 나를 넣어 조금은 필요가있다 녹색 화면 마술의,하지만 신경 네트워크는 그런 처리가 필요해 날 믿어 멋지게 보입니다

GAN은 우리가 살펴볼 신경 네트워크의 한 유형입니다 이번 코스 GAN은 Generative Adversarial Neural Network의 약자입니다 GAN은 일반적으로 얼굴을 생성하는 데 사용되지만, 그들이 훈련받은 "가짜 데이터" GAN은 두 개의 신경망을 가짐으로써 작동합니다

그만큼 첫 번째 신경 네트워크는 발전기입니다 본질적으로 난수와 얼굴을 생성합니다 두 번째 신경망은 판별 자입니다 그것 본질적으로 발전기가 정확한 얼굴을 생산하는지 여부를 알려줍니다 이 두 사람 적대적 전쟁을 앞뒤로하고왔다

(충돌) 일단 그들이 당신을 끝내면 정말 다른 난수를 많이 가질 수있는 제너레이터가 있어야합니다 꽤 현실적인 얼굴을 계속 생성합니다 보강 학습, 특히 깊은 학습을 통해 적용하면 매우 강력합니다 Google AlphaZero가 Stockfish를 이기고 본질적으로 마스터가되는 기술 짧은 시간에 모든 체스 이 과정에서 우리는 인공 지능 체육관을 사용하고 배울 수있는 보강 프로그램을 만드는 아타리 비디오 게임 실제 비디오 이미지를보고이 게임을하는 법 게임에서 그리고 어떤 경우에는 실제 비디오 게임의 RAM 상태에서 진행됩니다

앉아라 앉아라 누가 착한 소년이야 히코리 강화 학습을 사용할 때 애완 동물을 훈련하는 것처럼 좋은 일을하거나 뭔가를하는 신경망에 대한 보상 그것은 유리한 결과로 이어집니다

신경망도 매우 훌륭합니다 광고를위한 잠재 의식 메시지를 생성 좋아, 잘 시도해 죄송합니다

신경망이 모든 유형의 입력을 받아 들일 수 있다고 말했던 때를 기억하십니까? 글쎄요 그들은 동시에 여러 유형의 입력을 수용 할 수 있습니다 이것은 어떻게 이미지 캡션이 작동합니다 글을 쓸 수있는 신경망을 만들려면 이미지 캡션, 당신이 할 일은 두 가지를 수용하는 신경망을 만드는 것입니다 서로 다른 유형의 입력, 사진, 그리고 그 순서가 그 순서입니다

끊임없이 성장하는 단어들의 집합 먼저 빈 배열로 전달하면됩니다 토큰을 시작한 다음 그림이 무엇인지 설명하는 단어를 추가합니다 되려고 요로, "너는 한번만 봐

" 이것은 당신이 볼 수있는 놀라운 기술입니다 주위를 도망 다니고 있어요 그것은 객체, 여러 객체를 분류하고 그것을하고 있습니다 매우 효율적입니다 한 번만보아야하기 때문입니다

우리는 당신이 어떻게 할 수 있는지 보게 될 것입니다 이 기술을 파이썬 프로그램으로 옮기고 실제 좌표 및 분류에 대한 정보를 제공합니다 요로 수 있습니다 어리석은, 여기 내 강아지와 박제의 차이를 말할 수 없다 동물 광고판을 말하는 데 어려움이 있습니다

사람들이 그것에 대해 생각하고 그들이 사람들이라고 생각하는 것들 이 간판 그것이 자기가 생각하는자가 운전 차에 관해서는 매우 넓어지기 그러나 기다려라 더있다 이 동영상은 이 코스의 하이라이트 만 보여줄 수 있습니다

전체 목록은 다음과 같습니다 우리가 다루는 다른 주제에 대해서도 설명합니다 이 비디오를 시청 해 주셔서 감사 드리며,이 코스에 대해 질문이 있으시면 그냥 코멘트에 뭔가를 남겨주세요 이 채널을 구독하여 이 코스에 새로운 비디오가 추가 될 때마다 업데이트됩니다 모든 정보 재생 목록 및 GitHub에서 사용할 수 있습니다

How is deep learning different than machine vision?

인공 지능과 심층 학습 기술은 거의 혁명을 일으키고있다 공장 자동화를 포함한 모든 단일 산업

깊은 학습은 제조 자동화를 돕고 있습니다 이전에는 불가능했던 방식으로 그러나 깊은 학습이 확실히 가능성을 넓히는 동안 공장 바닥에, 운영자가 여전히 많이 사용하는 도구 중 하나입니다 그들의 회사가 향상시키는 것을 도울 수있다 제품 품질 및 처리량 전통적인 규칙 기반 머신 비전 일관성있게 안정적으로 수행 잘 제조 된 부품 및 탁월한 제품 고정밀 응용 프로그램에서

여기에는 지침, 신분증, 측정, 검사, 이 모든 것은 극도로 실행될 수있다 빠른 속도와 높은 정확도 이러한 종류의 머신 비전은 변수가 잘 이해하고 있습니다 파트가 존재하거나 부재합니까? 구성 요소가 올바른 모양과 크기입니까? 로봇은 그 부분을 어디에 두어야합니까? 이러한 작업은 어셈블리에 쉽게 배치 할 수 있습니다 통제 된 환경의 선

그러나 일이 그렇게 명확하지 않을 때 어떻게됩니까? 예를 들어,이 패키지들을 가져 가라 눈물을 검사하는 프로그램을 어떻게 디자인합니까? 또는 긁힘? 두 가지 결함은 똑같이 보이지 않습니다 이론적으로, 당신은 이것을 규칙 기반 알고리즘, 그러나 모든 것을 설명하기 위해서는 많은 노력이 필요할 것입니다 예기치 않은 변수, 이것은 봉투의 한 종류에 불과합니다 깊은 학습이 구제에 이르는 곳이 바로 여기에 있습니다

깊은 학습은 신경망을 사용하여 일을합니다 분석 결함, 개별 부품의 위치 파악 및 분류 인쇄 된 표식을 읽으십시오 좋은 부분을 네트워크에 가르침으로써 예를 들어, 그것은 좋은 것의 차이를 말할 수있을 것이다 봉투 및 결함이있는 봉투, 예상되는 변동을 설명합니다 또한 네트워크를 새로운 목표로 교육하고, 다른 종류의 봉투처럼, 새로운 참조 이미지 집합에 대한 교육만큼 쉽습니다

흔히 동일한 부품이 나타날 수 있습니다 카메라와 다르게 눈부심은 너무 밝아 보일 수 있습니다 부품이 다른 방향으로 배향 될 수 있음 또는 너무 자연스럽게 변형 된 기존 규칙 기반 비전 도구를 사용하여 안정적으로 찾습니다 그러나 이전과 마찬가지로 충분한 샘플 이미지가있는 심층 학습 가능 비전 시스템 쉽게 부품을 찾아 식별 할 수 있습니다 이 정도의 뉘앙스를 가진 어플리케이션의 경우, 깊은 학습은 종종 더 잘 수행 할 수 있고 다른 비전 기술보다 빠르게 동일한 작업에서

깊은 학습은 현재 응용 프로그램에서 사용되고 있습니다 검사는 일반적으로 수동으로 이루어졌지만, 최종 조립품 검사와 같습니다 이러한 작업은 한 번 고려되었습니다 자동화하기가 어렵다 깊은 학습과 같은 도구를 사용하여 보다 일관되게 비전 시스템으로 수행 할 수 있으며, 보다 안정적이고 빠른 수동 검사보다

깊은 학습이 공장을 변화시키는 동안 우리가 알고있는 자동화, 운영자가 할 수있는 또 다른 도구입니다 일을 끝내기 위해 고용하십시오 전통적 규칙 기반 머신 비전 많은 직업에 매우 효과적인 도구입니다 그리고 복잡한 상황에서 인간의 시각과 같은 속도가 필요하다 및 컴퓨터의 신뢰성, 깊은 학습은 진정한 것으로 입증 될 것입니다

게임 변경 옵션

How does machine learn like humans? -Deep learning in your life

머핀과 치와와의 차이점을 말할 수 있습니까? 그것은 당신에게 즉시 명백하지 않을지도 모르지만, 하지만 기계가 바로 차이를 알 수 있습니다 소셜 미디어 네트워크는 사진에서 얼굴을 어떻게 식별합니까? 그들이 업로드되는 순간? 이것은 깊은 학습 때문에 가능하며, 신경 네트워크에 의존하는 기계 학습의 서브 세트

예를 들어 Autonomous Car 센서가 설치되어있을 때 스스로를 운전할 수있는 교통량 및 도로 상태를 분석 할 수있는 브레이크를 걸고 멈출 시간을 결정할 수 있습니다 기계는 당신이 말하는 것을 이해할뿐만 아니라, 그러나 또한 당신이 느끼는 것 깊은 학습으로, 기계는 음성 내에서 다양한 단서를 분석 할 수 있으며, 음성 톤 및 구문, 의도를 이해하고 이에 따라 답변하십시오 간단히 말해서, 깊은 학습은 기술이다 시간이 지남에 따라 기계를 식별하고 학습하도록 기계를 훈련시키고, 시각적 또는 오디오 데이터의 다양한 구별 특징

이를 통해서, 객체에 문맥상의 의미를 할당 할 수 있습니다 다양한 작업을 수행 할 수 있습니다 예를 들어, 우리는 한 무리의 고양이 그림을 기계에 보여줍니다 그들이 무엇인지 컴퓨터에 알려주십시오 학습 기간이 지나면, 기계는 신속하게이를 인식 할 수 있습니다

이 과정은 인간이 배우는 것과 유사합니다 많은 양의 데이터와 모델링이 주어지면, 깊은 학습은 기계의 신경 네트워크를 가르칩니다 최고의 응답을 선택하십시오 깊은 학습이 기술로서 성숙함에 따라, 제조 업계, 이미 기계에 크게 의존하고있다 생산성을 높이기 위해 그것을 사용하기 시작했습니다

효율성 및 품질 관리 델타는 공장을 가능하게하는 깊은 학습을 통합합니다 결함을 확인하고 제거하기 시각적 데이터를 기반으로 생산 라인에서 깊은 학습, 단기간에 도메인 지식을 습득 할 수있는 능력, 인류에게 큰 보탬이 되네 기술이 성숙되면서, 일상 생활에서의 잠재적 응용 우리가 큰 관심을 가지고 기대해야 할 것입니다

Deep Learning to Solve Challenging Problems (Google I/O'19)

[음악 재생] 제프 딘 : 오늘 여기에 와서 기쁩니다 어떻게 내가 깊은 학습과 어떻게 볼 수 있는지 정말 어려운 문제를 해결하는 데 사용할 수 있습니다

세상이 직면 해있다 그리고 나는 내가 제시하고 있다고 지적해야한다 Google의 많은 다른 사람들의 작업 그래서 이것은 많은 연구에 대한 광범위한 관점입니다 우리가하고있는 일

그것은 순수한 일이 아닙니다 그래서 먼저, 나는 모두가 알아 차렸을 것입니다 기계 학습이 중요 해지고 있습니다 기계 학습 연구에 더 많은 강조점이 있습니다 기계 학습을 더 많이 사용합니다

이것은 얼마나 많은 Arxiv 논문을 보여주는 그래프입니다 Arxiv는 사전 인쇄 호스팅 서비스입니다 모든 종류의 서로 다른 연구에 사용됩니다 그리고 이것의 하위 범주입니다 기계 학습과 관련이 있습니다

그리고 2009 년 이후로 우리는 실제로 실제로 게시 된 논문의 수를 늘려왔다 사실 무어의 법칙보다 빠른 지수 적 속도 우리가 얻은 계산 능력의 성장 속도 40 년 동안 익숙해졌지만 이제는 속도가 느려집니다 따라서 우리는 컴퓨팅 성능의 좋은 성장을 대체했습니다 아이디어를 창출하는 사람들이 늘어나고 있습니다 그리고 깊은 학습은이 특별한 형태입니다 기계 학습

실제로 어떤 의미에서 브랜드를 바꾸는 것입니다 매우 오래된 아이디어를 인공 신경 네트워크 이것들은 단순한 훈련 가능한 수학의 모음입니다 상위 계층이 일반적으로 계층으로 구성된 단위 높은 수준의 추상화 구현 하위 계층에서 학습하는 내용을 기반으로합니다 그리고 당신은 이러한 것들을 끝까지 끝낼 수 있습니다

그리고 많은 작업의 기초가되는 알고리즘 우리가 실제로하고있는 것은 40 년 전에 개발 된 35 세 사실 제 동료 인 Geoff Hinton 올해 Yurn LeCun과 함께 Turing Award를 수상했습니다 그리고 Yoshua Bengio는 많은 일을했습니다 그들이 지난 30 ~ 40 년 동안 한 일입니다 그리고 실제로 아이디어는 새로운 것이 아닙니다

그러나 변화된 점은 30 ~ 40 년 동안 놀라운 결과를 얻었습니다 전에는 장난감 문제지만,하지 않았다 이러한 접근법을 작동시킬 수있는 계산 자원이 있어야한다 실제 대규모 문제에 그러나 약 8 ~ 9 년 전부터, 우리는 정말로 충분한 계산을하기 시작했습니다

이러한 접근법은 잘 작동합니다 그래서 신경망이 무엇인지 생각해보십시오 정말 복잡한 기능을 배울 수 있습니다 입력에서 출력으로 매핑 이제는 추상적으로 들리는군요

당신은 y가 x 제곱 또는 무엇인가와 같은 것처럼 함수를 생각합니다 하지만 실제로 이러한 기능은 매우 복잡 할 수 있습니다 아주 원시 형태의 데이터로부터 학습 할 수 있습니다 따라서 이미지의 픽셀을 취할 수 있습니다 신경망을 예측하여 예측한다

이미지에있는 것과 같은 범주 형 레이블 표범 그건 내 휴가 사진 중 하나야 오디오 웨이브 폼에서 말한 내용의 사본을 예측합니다 얼마나 추워? 당신은 하나의 언어로 입력을받는 것을 배울 수 있습니다 -여보세요, 잘 있었 니? 그 문장이 번역 된 출력을 예측하라 다른 언어로

[프랑스어로 말하기] 너는 더 복잡한 일들을 할 수있다 이미지의 픽셀을 받아 캡션을 만듭니다 이미지를 설명합니다 그것은 단지 범주가 아닙니다 그것은 단순한 문장과 같습니다

특이한 종류의 자동차 위에 치타가 누워있다 어쨌든 그 우선 순위는 매우 낮아야합니다 그리고 컴퓨터 비전 분야에서, 우리는 신경망 덕분에 큰 발전을 이루었습니다 2011 년에는 스탠포드 이미지 넷 (Stanford ImageNet) 매년 개최되는 대회인데, 이기는 입장은 신경망을 사용하지 않았다

그것은 지난 해였습니다 이기는 입장은 신경망을 사용하지 않았습니다 26 %의 오류가 발생했습니다 그리고 그 콘테스트에서 우승했습니다 우리는이 일을 알고 있습니다

그것은 사소한 일이 아닙니다 그래서 인간은 약 5 % 오류는 구별해야하기 때문에 1,000 개의 서로 다른 카테고리 중 하나 개 그림처럼, 너는 어떤 말을해야만하는지 40 종의 개가 그것입니다 그래서 완전히 사소한 것은 아닙니다 그리고 2016 년에, 예를 들면,이기는 입장은 3 % 오류를 얻었다 그래서 이것은 거대한 근본적인 도약 일뿐입니다

컴퓨터 비전에서 컴퓨터는 기본적으로 2011 년에 볼 수있게되어서 우리는 꽤 잘 볼 수 있습니다 그리고 그것은 모든 종류의 것들을위한 거대한 파급 효과를 가지고 있습니다 컴퓨터 과학뿐만 아니라 세상에서 하지만 기계 학습 및 컴퓨팅의 응용 프로그램과 비슷합니다 우리 주변의 세상을 인식하는 것

승인 그래서 나머지 이야기는 내가 가고있어 어떤 방식 으로든 틀을 잡을 수는 있지만, 2008 년에는 미국 국민 아카데미 공학부는이 14 개의 목록을 발표했습니다 21 세기의 거대한 엔지니어링 과제 그리고 그들은 많은 전문가들을 모았습니다

서로 다른 많은 도메인에서 그리고 그들은 모두 집단적으로 나타났습니다 이 14 가지 목록과 나는 당신이 이것들이 실제로 꽤 어려운 문제 그리고 우리가 그들 모두에 진전을 이룬다면, 세상은 더 건강한 곳이 될 것입니다 우리는 더 안전한 장소를 가질 수 있습니다 우리는 과학적 발견이 더 많을 것입니다

이 모든 일은 중요한 문제입니다 제한된 시간이 주어지면, 내가 할 일은 굵은 글씨로 이야기하고 있습니다 Google 연구에 초점을 맞춘 프로젝트가 있습니다 빨간색으로 나열된 모든 항목에 표시됩니다 그러나 나는 다른 것에 대해서 이야기하지 않을 것입니다

그리고 그것은 이야기의 나머지 부분을 둘러 보는 종류입니다 우리는 우리가 들어가기 만하면됩니다 나는 우리가 복원과 개선으로 시작한다고 생각한다 도시 기반 시설 권리

우리는 도시가 설계되었다는 것을 안다 – 도시의 기본 구조 꽤 오래 전에 디자인되었습니다 하지만 몇 가지 변화가 있습니다 그것의 첨단에 정말 어떻게 극적으로 변화시킬 것인가? 우리는 도시를 디자인하는 것이 좋습니다 특히, 자치 차량 상업적 실용성에 직면 해있다 이것은 Alphabet의 Waymo 동료들로부터 온 것입니다

그들은 거의 10 년 동안이 공간에서 일해 왔습니다 자치 차량의 기본 문제 너 주위에 세상을 알아야 해? 원시 감각 입력, 빛 같은 것들 [INAUDIBLE] ,, 카메라, 레이더, 그리고 다른 종류의 것들 그리고 당신은 세계와 사물의 모델을 만들고 싶습니다 당신 주위에 있고 그 물건이 무엇인지를 이해하십시오 그것은 보행자인가, 아니면 기둥인가? 움직이는 차인가? 이게 뭐야? 그리고 나서 짧은 시간도 예측할 수있게됩니다

그 차가 1 초 안에 어디에서 흘러가는지, 어떤 행동에 대한 일련의 결정을 내리십시오 당신은 목표를 성취하기 위해 취하고 싶습니다 어떤 문제없이 A에서 B로 가라 깊은 학습 비전 덕분입니다 기반 알고리즘과 모든 센서 데이터의 융합 우리는 실제로 세계의지도를 만들 수 있습니다

이게 이해입니다 우리 주변의 환경과 실제로 이러한 것들이 현실 세계에서 작동하도록하십시오 이것은 먼 꿈에서 멀리 떨어져있는 것이 아닙니다 Waymo는 실제로 약 100 대를 운영하고 있습니다 뒷좌석에 승객이 있고 안전하지 않은 애리조나 피닉스 (Arizona) 지역의 앞 좌석에있는 운전자

그리고 이것은 매우 강한 감각입니다 이것은 현실에 아주 가깝다는 것입니다 이제 애리조나는 운전하기 쉬운 자동차 환경 중 하나입니다 그것은 비가 내리지 않는 것과 같습니다 너무 덥기 때문에 많은 보행자가 없습니다

거리는 매우 넓습니다 다른 드라이버는 매우 느립니다 다운타운 샌프란시스코는 더 힘들어, 그러나 이것이 그다지 멀지 않았다는 신호입니다 분명히 비전은 효과적입니다 세계에서 일을 할 수있는 로봇을 만드는 것

보지 못한다면 일을하는 것이 정말 어렵습니다 그러나 당신이보기 시작할 수 있다면, 당신은 실제로 실용적인 로봇 공학을 가지십시오 컴퓨터 비전을 사용하여 그들은 세상에서 행동해야합니다 그래서 이것은 연습하는 로봇의 비디오입니다 물건을 집어 들고, 그 다음에 집어 들고 따기 더 많은 것들을, 그리고 본질적으로 물건을 파악하려고합니다

로봇에 관한 한 좋은 점이 밝혀졌습니다 실제로 센서 데이터를 수집 할 수 있습니까? 많은 로봇들의 경험을 모으고, 집단적 경험을 토대로 집단적으로 훈련하고, 그리고 어떻게하면 더 좋은 모델을 얻을 수 있을까요? 실제로 물건을 파악하고, 그것을 밀어 낸다 로봇에게 그 다음날 그들은 모두 할 수 있습니다 약간 더 잘 잡는 모델로 연습하고, 너와 같은 인간과는 달리 거실의 카펫에 그들은 그들의 경험을 쌓아 두지 않습니다

승인 그래서 2015 년에 특정 파악 작업에 대한 성공률 로봇이 한번도 본 적이없는 물건을 잡는 것 약 65 %였다 우리가 이런 종류의 팔 농장을 사용할 때 – 그게 바로 그 일입니다 나는 그것을 겨드랑이라고 부르기를 원했지만 나는 기각되었다 기본적으로, 많은 경험을 수집하여, 우리는 실제로 꽤 중요한 후원을 얻을 수있었습니다

파악 성공률에서 최대 78 % 그런 다음 알고리즘과 더 많은 세부 작업에 대한 추가 작업을 수행합니다 우리는 이제 96 %의 성공률을 달성 할 수있게되었습니다 권리 그래서 이것은 3 년 동안 꽤 좋은 진보입니다

우리가 뭔가를 선택하지 못한 시간의 3 분의 1에서 사라졌습니다 위로, 그것은 함께 실제로 끈기가 매우 어렵다 사물의 전체 순서와 실제로 로봇을 가지고있다 현실 세계에서 일을하고, 거의 잘 작동하는 것을 파악한다 안정적으로 그래서 흥미 진진합니다

우리는 또한 많은 일을 해왔다 어떻게하면 로봇이 일을 더 쉽게 할 수 있을까요? 그들이 스스로 연습하도록하는 대신, 어쩌면 우리는 그들에게 일을 보여줄 수 있습니다 그래서 이것은 우리 AI 거주자 중 한 명입니다 또한 환상적인 기계 학습 연구를 수행하며, 또한이 로봇의 데모 비디오도 촬영합니다 그리고 여기서 보시는 것은 시뮬레이트 된 로봇입니다

비디오의 원시 픽셀에서 에뮬레이트하려고하는 보고있는 중입니다 그리고 오른쪽에서 몇 가지 시범을 보았습니다 그 비디오 클립을 사용하는 로봇, 누군가 5 초 또는 10 초를 부어서 시도 할 수있는 보강 학습 기반 시험 스스로 부어 올리는 법을 배웁니다 15 번의 시련과 약 15 분의 훈련 후에, 그걸 잘 부어 줄 수 있어요 4 살짜리 아이처럼 말하다

8 살이 아니야 하지만 실제로는 – 노력의 15 분 안에, 그것은 얻을 수있다 성공의 수준까지, 그것은 꽤 큰 거래입니다 승인 거창한 도전에 있었던 다른 분야 중 하나 고급 건강 정보학이었다

어제 기조 연설에서 본 것 같아요 폐암에 관한 연구 우리는 또한 많은 일을 해왔다 당뇨 망막 병증이라고 불리는 안과 질환에 세상에서 실명의 가장 빠르게 증가하는 원인입니다 당뇨병 환자 수는 1 억 1500 만 명입니다

그리고 그들 각각은 이상적으로 매년 상영 될 것입니다 당뇨병 성 망막증이 있는지 알아보기 위해 퇴행성 안 질환으로 때 맞추면 그것은 매우 치료 가능합니다 그러나 당신이 그것을 시간 내에 잡지 않으면, 당신은 전체 또는 부분 시력 손실을 겪을 수 있습니다 그래서 우리가 이 위험에 처한 모든 사람을 선별 할 수 있어야합니다 그리고 네

정기 검진 그리고 그것이 당신이 얻는 이미지입니다 안과 의사로보기 인도에서는 예를 들어 안과 의사 10 만 명 부족 이 질병의 검사에 필요한 양을하는 것 환자의 45 %가 시력 손실을 겪습니다

그들이 진단 받기 전에, 그것은 비극적입니다 완전히 선제받을 수 있기 때문에 그것을 제 시간에 잡으십시오 근본적으로, 안과 의사가 이것을 보는 방식은 그들은이 이미지를보고 등급을 매기 는가? 5 점 척도로 1, 2, 3, 4 또는 5 점 이 작은 출혈 같은 것을 찾고있어 당신이 오른쪽에서 보는 것 그리고 약간 주관적입니다

그래서 두 명의 안과 의사에게 물으면 동일한 이미지를 채점하기 위해, 그들은 점수에 동의합니다 하나, 둘, 3, 4 또는 5, 시간의 60 % 그리고 같은 안과 의사에게 물으면 몇 시간 후에 동일한 이미지를 채점하려면 그들은 그들 자신과 시간의 65 %에 동의합니다 이것이 제 2 차 의견이 의학에서 유용한 이유입니다 왜냐하면 이러한 것들 중 일부는 실제로 꽤 주관적이기 때문입니다

실제로 큰 차이가 있습니다 두 세 사이에 실제로 사라져서 1 년 후에 우리는 당신을 얻는 것이 좋습니다 다음주에 클리닉에 가야 해 그럼에도 불구하고 실제로 이것은 컴퓨터 비전 문제입니다 그래서 천명의 분류 대신에 개와 표범의 일반적인 범주, 당신은 실제로 5 가지 범주를 가질 수 있습니다

당뇨 망막 병증의 수준과 훈련 눈 이미지 모델 및 평가 점수가 있어야하는 것의 그리고 그렇게한다면, 실제로 여러 명의 안과 전문의에게 라벨이 붙은 이미지를 얻는다 또는 일곱 가지를 사용하면 이미 분산 된 분산을 줄일 수 있습니다 동일한 이미지를 평가하는 안과 의사를 참조하십시오 5 명은 2 명이라고합니다

그들 중 2 명은 3 명이라고 말하면서 아마 2 명과 같을 것입니다 3보다 그리고 그렇게한다면, 근본적으로 할 수 있습니다 동등하거나 약간 더 나은 모델을 얻는다 보통의 널 인증 안과 의사보다 이 일을 할 때 큰 도움이됩니다

이것은 2016 년 말에 출판 된 작품입니다 "JAMA"의 저의 동료들에 의해 저술되었습니다 우리는 더 잘하고 싶었습니다 그래서 당신은 실제로, 대신에 – 망막 전문가가 분류 한 이미지를 얻을 수 있습니다 망막 안 질환에 대한 더 많은 훈련을 받았다 그리고 독립적 인 평가를받는 대신에, 당신은 세 망막 전문가를 얻을 각 이미지를위한 공간에서 그리고 본질적으로, OK, 너 모두

판결 번호를 제시해야한다 각 이미지에 대해 어느 정도의 수를 동의합니까? 그리고 그렇게한다면, 당신은 훈련 할 수 있습니다 3 명의 망막 전문의에 대한이 합의의 결과에 그리고 당신은 실제로 모델을 가지고 있습니다 그것은 망막 전문가와 동등합니다 이 지역에서 치료의 황금 표준입니다, 오히려 좋은 모델이 아닌 안과 의사의 의견을 훈련 받았다

그래서 이것은 우리가 해낸 것입니다 당신이 정말로 좋은 품질을 가지고있는 곳에서 태어난 모습 교육 자료 및 그 모델을 훈련시키고 망막 전문가가 모델에 미치는 영향 하지만 다른 좋은 점은 당신이 실제로 가질 수 있다는 것입니다 완전히 새로운 발견

그래서 새로운 사람이 안과 연구 팀에 합류했습니다 따뜻한 이해 운동으로 우리 도구가 어떻게 작동했는지 어제 무대에 오른 릴리 펭 (Lily Peng) 오, 너 왜 가면 보러 가지 그래? 망막 이미지에서 나이와 성별을 예측할 수있다 기계 학습 파이프 라인이 사람이 파이프 라인을 학습하는 기계를 가질 수 있습니까? 그리고 안과 의사는 성을 예측할 수 없습니다 눈 이미지에서

그들은 그것을하는 방법을 모른다 그래서 릴리는 당신이 이걸 보았던 평균을 생각했습니다 동전을 뒤집는 것보다 낫지 않아야합니다 당신은 05를 본다

그 사람은 떠나 갔다 말했다, 나는 그것을 끝내었다 내 AUC는 07입니다 그리고 릴리는, 흠, 이상 하네

가서 모든 것을 확인하고 돌아와 그래서 그들은 돌아와서, 좋아, 몇 가지 개선을했습니다 이제 08입니다 그게 갑자기 사람들을 흥분하게 만들었 어

우리는 당신이 실제로 예측할 수 있음을 깨달았습니다 망막 이미지에서 흥미로운 것들의 전체 무리 특히, 실제로 감지 할 수 있습니다 누군가 자기보고 한 성관계 그리고 당신은 다른 많은 것들을 예측할 수 있습니다 나이와 마찬가지로 수축기 및 이완기에 관한 것들 혈압, 헤모글로빈 수치

그런 것들을 함께 결합하는 것으로 밝혀졌습니다 누군가의 심혈관 위험 예측을 할 수 있습니다 일반적으로 훨씬 더 많은 정확도와 동일한 수준으로 혈액을 채취해야하는 침습성 혈액 검사 24 시간 기다렸다가 실험실 테스트를 다시받습니다 이제 망막 이미지만으로도 그렇게 할 수 있습니다

이것이 새로운 일이 될 수 있다는 진정한 희망이 있습니다 의사에게 가면 얻을거야 당신의 눈을 찍은 사진 그리고 우리는 당신의 눈에 대한 장기간의 역사를 가지고 있습니다 그것으로부터 새로운 것을 배울 수 있어야합니다

그래서 우리는 그것에 대해 꽤 흥분합니다 큰 도전의 많은 부분은 이해에 관한 것이 었습니다 분자와 화학이 더 좋다 하나는 엔지니어가 더 나은 의약품입니다 하지만이 작품은 내가 너에게 보여줄거야

이 다른 것들 중 일부에 적용될 수 있습니다 따라서 양자 화학자들이 할 수있는 것들 중 하나는 분자의 특성을 예측합니다 너도 알다시피,이 물건이이 다른 물건에 묶일거야? 독성이 있습니까? 양자 성질은 무엇입니까? 그리고 그들이하는 일반적인 방법은 정말 계산적으로 비싼 시뮬레이터를 가지고 있습니다 그리고이 분자 구성을 연결합니다 한 시간 정도 기다려

그리고 그 끝에서 결과를 얻습니다 여기 시뮬레이터에서 말한 것들이 있습니다 그래서 그것은 밝혀졌습니다 그리고 그것은 느린 과정입니다 당신은 많은 다른 분자들을 고려할 수 없습니다

네가 좋아하는 것처럼 시뮬레이터를 사용할 수있는 것으로 밝혀졌습니다 신경망을위한 교사로서 그렇게 할 수 있습니다 그리고 갑자기 너는 신경망을 가지고있다

시뮬레이터가 할 수있는 일을 기본적으로 배울 수 있습니다 그래도 빨리 그래서 지금 당신은 약 30 만 배 빠릅니다 그리고 당신은 정확도를 구별 할 수 없습니다 시뮬레이터 대 신경망 출력의 차이

그리고 그것은 완전히 게임을 변화시키는 것입니다 당신이 양자 화학자라면 갑자기 공구가 30 만 번 빨라졌습니다 갑자기 그 말은 너를 의미한다 매우 다른 종류의 과학을 할 수 있습니다

내가 점심 먹으러가는 동안 너는 말할 수있다 아마도 1 억 개의 분자를 스크리닝해야합니다 그리고 내가 돌아올 때, 나는 1,000을 가질 것이다 재미 있을지도 몰라 그래서 그것은 꽤 흥미로운 추세입니다

그리고 나는 그것이 펼쳐질 것이라고 생각합니다 많은 과학 분야에서 또는 엔지니어링 분야에서 비싼 시뮬레이터지만 실제로 훨씬 더 싼 신경망으로 근사치를 배운다 또는 기계 학습 기반 모델 및 얻을 훨씬 빠른 시뮬레이터 승인 과학적 발견 도구를 설계하십시오

나는이 14 번째가 바로 그 느낌이었다 일종의 애매한 잡기는 모든 전문가들의 패널 결정해야 할 소집되었습니다 그러나 기계 학습이 진행된다면 과학적 발견과 공학의 큰 부분을 차지하기 위해, 우리는 기계 학습 알고리즘을 표현하기위한 좋은 도구를 원합니다 그래서 이것이 왜 동기 부여입니까? 우리는 TensorFlow를 만들었습니다 우리는 도구를 갖고 싶었습니다

우리 자신의 기계 학습 아이디어를 표현하는 데 사용할 수있는 나머지 세계와 공유하십시오 다른 연구자들과 기계 학습 아이디어 교환 제품에 기계 학습 모델을 실용화 및 기타 환경 그래서 2015 년 말에이를 발표했습니다 이 Apache 20 라이센스

기본적으로이 그래프 기반의 계산 모델을 가지고 있습니다 전통적인 컴파일러를 사용하여 최적화 할 수 있습니다 최적화를 수행 한 다음 매핑 할 수 있습니다 다양한 장치에 연결합니다 그래서 당신은 같은 계산을 할 수 있습니다

내가 말할 수있는 CPU 또는 GPU 또는 TPUs에 1 분 Eager Mode는이 그래프를 명시 적이 지 않고 암시 적으로 만듭니다 TensorFlow 20에서 제공됩니다 그리고 그 공동체는 Tensor 합리적으로 잘 흐릅니다

그리고 우리는 모든 다른 것들에 흥분했습니다 우리는 다른 사람들이 보았던 측면에서 보면 핵심 TensorFlow 시스템에 기여 재미있는 것을하기 위해 그것을 사용합니다 그래서 꽤 좋은 약혼 종목이 있습니다 상당히 애매한 프로그래밍을 위해 5 천만 다운로드 패키지가 보이는 공정한 번호입니다 마찰의 좋은 표시처럼

그리고 우리는 사람들이 일을하는 것을 보았습니다 어제 기조 연설에서이 점을 언급했습니다 난이게 좋아 기본적으로 피트니스 센터를 짓는 회사입니다 젖소를 위해 100 마리의 젖소들 오늘 이상하게 행동하고 있습니다

Penn State와 International에 연구 팀이 있습니다 탄자니아 열대 농업 연구소 즉, 컴퓨터 학습 모델을 구축하는 것입니다 카사바 필드 한가운데 전화로 장치에서 실행할 수 있습니다 실제로 감지 할 네트워크 연결없이 이 카사바 식물에는 질병이 있는가? 어떻게 처리해야합니까? 이것이 이것이 어떻게 좋은 예라고 생각합니다 우리는 기계 학습이 많은 분야에서 실행되기를 바랍니다

그리고 많은 환경 전 세계의 많은 장소 가끔 너는 연결되어있어 때로는 그렇지 않습니다 많은 경우에 기기에서 실행하고 싶습니다 그리고 그것은 정말로 미래가 될 것입니다

기계 학습 모델을 실행하게 할 것입니다 작은 마이크로 컨트롤러에 이런 모든 종류의 것들이 있습니다 승인 나는 남은 시간을 여행에 데려다 줄거야 일부 연구 프로젝트를 통해 어떻게 그럴 수 있는지 스케치합니다

미래에 함께 적응하십시오 그래서 우리가 원하는 것은 우리가 더 큰 기계 학습을 원한다는 것입니다 모델보다 그러나 그것을 실용적으로 만들기 위해서, 우리는 희소하게 활성화 된 모델을 원합니다 거대한 모델을 생각해보십시오 어쩌면 1,000 개의 서로 다른 부분이있을 것입니다

하지만 당신은 주어진 조각에 대해 20 개 또는 30 개를 활성화합니다 예를 들어, 전체 1,000 세트가 아닌 우리는 이것이 진짜 유기체가 가지고있는 특성이라는 것을 알고 있습니다 그들의 신경 시스템에서 그들의 대부분의 신경 용량 주어진 시점에서 활성화되지 않습니다 그것은 부분적으로 그들이 얼마나 효율적으로 전력을 소비하는지입니다 권리

그래서 몇 년 전에 우리가이 일에서했던 몇 가지 작업 우리가 전문가 계층의 드문 드문 한 혼합이라고 부르는 것입니다 그리고 필수 아이디어는 핑크색 사각형입니다 정상적인 신경망 층입니다 그러나 두 신경망 층 사이에서, 우리는 다른 컬렉션을 삽입 할 것입니다 우리는 전문가라고 부르는 작은 신경망을 사용합니다

그리고 우리는 게이팅 네트워크를 갖게 될 것입니다 그 중 몇 가지를 활성화하는 법을 배우게됩니다 이 전문가들 중 어떤 전문가가 특정 유형의 예제에서 가장 효과적입니다 그리고 전문가는 많은 매개 변수를 가질 수 있습니다 꽤 큰 매개 변수 행렬 일 수 있습니다

그리고 우리는 그것들을 많이 가질 것입니다 그래서 우리는 총 80 억 개의 매개 변수를 가지고 있습니다 그러나 우리는 몇 명의 전문가 만 활성화 할 예정입니다 어떤 주어진 예제에 그리고 당신은 물건을 연결하는 법을 배울 때, 당신은 그 전문가를 사용하는 법을 배우려고 노력합니다

이 특정 사례에서 가장 효과적입니다 그리고 여러 전문가에게 보낼 때, 라우팅 네트워크를 훈련시키는 신호를줍니다 게이팅 네트워크 덕분에이 전문가는 언어에 대해 이야기 할 때 정말 좋습니다 혁신과 연구에 관한 것입니다 왼쪽면에서 보는 것처럼

그리고이 센터 전문가는 말하기에 정말 능숙합니다 선도적 인 역할과 중심적인 역할을 담당합니다 그리고 오른쪽에있는 것은 친절하게 정말 좋습니다 빠른 adverby 것들 그래서 그들은 실제로 매우 다른 종류의 것을 개발합니다

전문 지식 이것에 대한 좋은 점은 이것을 번역 작업에서 하단 행과 비교해보십시오 당신은 근본적으로 상당한 개선을 얻을 수있다 번역 정확도 그것은 거기에 푸른 점수입니다

그래서 한 가지 파란 점 개선은 꽤 중요한 것입니다 우리는 정말로 하나의 푸른 점 개선점처럼 보입니다 그리고이 모든 추가 용량이 있기 때문에, 우리는 실제로 분홍색 층의 크기를 만들 수 있습니다 원래 모델보다 작았습니다 그래서 우리는 실제로 금액을 줄일 수 있습니다

단어 당 사용 된 계산의 약 2 배만큼, 그래서 50 % 더 싼 추론 그리고 훈련 시간은 우리가 단지 이 모든 여분의 수용력을 가져라 그리고 많은 매개 변수로 모델을 교육하는 것이 더 쉽습니다 그래서 우리는 훈련 비용의 약 1/10을 가지고 있습니다 GPU 일수로 승인

우리는 또한 많은 일을 해왔다 AutoML에서 일부 아이디어를 자동화 한 아이디어입니다 기계 학습의 기계 학습 연구원 또는 엔지니어 않습니다 AutoML의 기본 아이디어는 현재 당신은 기계 학습 문제를 해결하는 것에 대해 생각합니다 데이터가있는 곳

몇 가지 계산이 있습니다 ML 전문가가 앉아 있습니다 그리고 그들은 많은 실험을합니다 그리고 그들은 모두 그것을 함께 동요시킨다 GPU 일의 노력을 많이 기울이십시오

그리고 당신은 희망을 갖고 해결책을 얻습니다 그래서 우리가 이것을 다음과 같이 사용할 수 있다면 어떨까요? 실험의 일부를 대체하기위한 더 많은 계산 그 기계 학습 – 기계 학습 경험이 많은 사람 실제로 할 것인가? 그리고 기계 학습 전문가가하는 결정 중 하나는 어떤 아키텍처, 어떤 신경 네트워크 구조 이 문제에 대해 의미가 있습니다 13 층 모델이나 9 층을 사용해야합니까? 모델? 3 개 또는 5 개의 필터가 있어야합니까? 연결을 건너 뛰거나 연결하지 않아야합니까? 그러니 기꺼이 말하면 이걸 가져 가자 레벨 업 및 일부 메타 학습, 기본적으로 모델을 생성 할 수 있습니다 그런 다음 우리가 실제로 신경을 쓴 문제에 대해 그러한 모델을 시험해보십시오

메타 학습의 기본 반복은 여기에 있습니다 우리는 모델을 생성하는 모델을 갖게 될 것입니다 우리는 10 개의 모델을 생성 할 것입니다 우리는 각각의 모델을 훈련 할 것입니다 그리고 우리는 그들이 얼마나 효과적인지 볼 것입니다

우리가 신경 쓰는 문제에 그리고 우리는 그 모델의 손실이나 정확도를 사용하려고합니다 모델을 생성하는 보강 학습 신호로서 우리가 보이지 않는 모델을 조종 할 수 있도록 모델 모델에 대해 잘 작동하고 그게 더 잘 작동하는 것 같아 그리고 나서 우리는 많은 것을 반복합니다 우리가 많이 반복 할 때 우리는 본질적으로 시간이 지남에 따라 점점 더 정확한 모델을 얻을 수 있습니다 그리고 그것은 작동합니다

그리고 그것은 이상하게 보이는 모델을 만들어냅니다 그들은 조금 더 구조화되지 않은 것처럼 당신이 생각하는 모델보다 수도 있습니다 그래서 여기에 우리는이 미친 건너 뛰기 연결을 모두 가지고 있습니다 그러나 그들은 몇몇 아이디어들과 유사합니다 그 기계는 연구자 스스로 학습 안으로 들어왔다

예를 들어, 공진 아키텍처 스킵 연결 구조가 더 체계적입니다 하지만 기본 아이디어는 정보를 원한다는 것입니다 입력에서 출력으로 더 직접적으로 흐를 수있다 중간 정도의 계산을 거치지 않고 레이어 그리고 시스템이 발전한 것 같습니다

그 직관 그 자체 그리고 좋은 점은 실제로이 모델들입니다 꽤 잘 작동합니다 따라서이 그래프를 보면 정확도가 ImageNet 문제에 대한 y 축에 있습니다 그리고 모델의 계산 비용, 여기에 도트로 표시되는 x 축은 x 축에 있습니다

일반적으로이 추세는 어디에서 볼 수 있습니까? 계산 상 비싼 경우 모델에서는 일반적으로 더 높은 정확도를 얻습니다 그리고이 검은 색 점들 각각은 여기에 있습니다 상당량의 노력이 필요하다 최고의 컴퓨터 비전 연구원 또는 기계의 무리에 의해 연구원을 학습하면 당시 출판 된 예술의 상태를 발전 시켰습니다 AutoML을이 문제에 적용하면 보게되는 것입니다

너는 실제로 손의 경계를 넘어선 다 커뮤니티가 만들어 낸 모델을 만들었습니다 그리고 당신은 하이 엔드에서이 작업을 수행합니다 정확성을 가장 중요시하는 곳 계산 비용에 대해 신경 쓰지 않아도됩니다 좀 더 정확한 모델을 얻을 수 있습니다

적은 계산 비용으로 로우 엔드에서는 모델을 얻을 수 있습니다 아주 작은 경우에 훨씬 더 정확합니다 계산 비용 그리고 저는 이것이 꽤 흥미로운 결과라고 생각합니다

그것은 우리가 컴퓨터와 기계를 학습자들이 함께 일하는 이러한 종류의 문제에 대한 최상의 모델을 개발할 수 있습니다 그리고 우리는 이것을 제품으로 바꾸어 놓았습니다 따라서 Cloud AutoML을 클라우드 제품으로 사용합니다 그리고 당신은 자신의 문제에 그것을 시도 할 수 있습니다 그래서 당신이 아마 연구자를 배우는 기계가 많지 않습니다

또는 기계 학습 엔지니어 자신, 당신은 실제로 단지 많은 이미지들을 취할 수 있습니다 하고 싶은 일의 범주 – 어쩌면 당신 귀하의 조립 라인에서 사진을 가지고 있습니다 이 이미지가 어떤 부분인지 예측하고 싶습니다 실제로 고품질 모델을 얻을 수 있습니다 그리고 우리는 이것을 단지 비전 이상으로 확장했습니다

따라서 비디오, 언어 및 번역을 할 수 있습니다 그리고 최근에 우리는 뭔가를 소개했습니다 관계형 데이터를 예측할 수 있습니다 다른 관계형 데이터로부터 이 고객이 주어진 제품을 살 것인지 예측하고 싶습니다

그들의 과거 명령이나 무언가 또한 AutoML 분야의 연구를 계속 진행했습니다 그래서 우리는 진화론의 사용을 바라 보는 연구를하고 있습니다 수색을위한 강화 학습보다는 오히려, 최적화 업데이트 규칙을 학습하고, 단지 비선형 성 함수를 학습하는 것 우리가 [INAUDIBLE] 또는 일부 다른 종류의 활성화 기능을 제공합니다 우리는 실제로 통합에 대한 작업을했습니다

추론 대기 시간과 정확도 모두 당신이 가지고있는 정말 좋은 모델을 원한다고 가정 해 봅시다 7 밀리 초 내에 실행됩니다 가장 정확한 모델을 찾을 수 있습니다 더 많은 것을 사용하여 귀하의 시간 예산 내에서 실행됩니다 복잡한 보상 기능

스트레칭 할 수 있도록 데이터를 늘리는 방법을 배울 수 있습니다 흥미로운 방식으로 가지고있는 라벨 데이터의 양 손으로 직접 작성한 데이터 보완보다 효과적입니다 그리고 우리는 많은 아키텍처를 탐색 할 수 있습니다 이 전체 검색 프로세스를 좀 더 효율적으로 만들 수 있습니다 승인

그러나 우리가 이러한 접근법을 시도한다면 분명합니다 우리는 더 많은 계산 능력을 필요로 할 것입니다 그리고 기계 학습의 진실성 중 하나라고 생각합니다 지난 10 년 동안 더 계산적입니다 힘은 더 나은 결과를 얻는 경향이있다

충분한 데이터가있을 때 그리고 깊은 학습이 정말 좋았습니다 이 도구는 정말 널리 사용되는 도구인가? 많은 다른 문제 영역에서, 이는 전문성에 대해 생각하기 시작할 수 있음을 의미하기 때문입니다 깊은 학습을위한 하드웨어는 있지만 가지고있다 그것은 많은 것들에 적용됩니다

그리고 두 가지 속성, 즉 깊은 학습 알고리즘 하는 경향이있다 하나는 정밀도 감소에 매우 관대하다는 것입니다 따라서 소수점 이하 자릿수로 계산하면, 이 알고리즘의 대부분은 완벽하게 괜찮습니다 6 자리 또는 7 자리의 정밀도가 필요하지 않습니다 그리고 다른 한 가지는 그들이 모두 – 내가 보여준 이러한 모든 알고리즘은 몇 가지 특정 작업 중 매트릭스와 같은 것들 벡터 곱을 곱한다

고밀도 선형 대수학 그래서 당신이 기계, 컴퓨터, 감소 된 정밀 밀도 선형 대수학에 정말 능숙합니다 그런 다음 이러한 기계 학습을 많이 가속화 할 수 있습니다 보다 일반적인 목적에 비해 알고리즘이 상당히 많이 사용되었습니다 범용 CPU가있는 컴퓨터 모든 종류의 일들을 실행할 수 있습니다

GPU는 다소 좋지만 경향이 있지만, 예를 들어, 원하는 것보다 더 높은 정밀도 그래서 우리는 건물에 대해 생각하기 시작했습니다 내가 이런 종류의 생각을했을 때 전문화 된 하드웨어 2012 년 운동 우리는 초기 성공을보기 시작했습니다 음성 인식을위한 심층 신경망의 개발 이미지 인식 및 시작 어떻게 전개 할 것인가에 대해 생각해 보라

우리 제품의 일부 그래서 무서운 순간이있었습니다 우리는 스피치가 실제로 잘되기 시작하면, 그때 우리는 그것을 실행할 수 없었습니다 기기가 충분한 계산 능력을 가지고있다 1 억 명의 사용자가 휴대 전화와 대화를 시작하면 하루 3 분, 연설이라면 그다지 좋지 않습니다

훨씬 더 잘 작동하기 시작합니다 우리가 CPU에서 음성 모델을 실행한다면, 우리는 Google 데이터의 컴퓨터 수를 두 배로 늘릴 필요가 있습니다 센터, 약간 두려워 발사 하나의 제품에서 하나의 기능 그래서 우리는이 전문적인 건물을 생각하기 시작했습니다 우리가 실행하고 싶었던 깊은 학습 알고리즘을위한 프로세서 TPU V1은 생산에 사용되었습니다

2015 년이 실제로 그 사고의 결과 였기 때문에 운동 그리고 당신이하는 모든 쿼리를 기반으로 프로덕션 환경에서 사용됩니다 당신이하는 모든 번역에, 음성 처리, 이미지 교차로, AlphaGo는 이러한 컬렉션을 사용합니다 이것은 실제의 랙이었습니다 AlphaGo 경기에서 경쟁했다

우리가 쓴 작은 보드를 볼 수 있습니다 옆에 기념 그리고 나서 우리는 더 큰 문제를 해결하기 시작했습니다 추측, 우리는 이미 숙련 된 모델을 가지고있다 그리고 당신은 그것을 적용하기를 원하지만 어떻게 실제로합니까? 가속화 된 방식으로 훈련

그래서 TPU의 두 번째 버전 훈련과 추론을위한 것입니다 이것이 TPU 장치 중 하나입니다 그것에 4 개의 칩을 가지고있다 TPU V3에는 4 개의 칩이 있습니다 물을 식혔습니다

따라서 컴퓨터에 물을 넣는 것은 약간 무서워요 하지만 우리는 그렇게합니다 그리고 우리는이 시스템을 설계했습니다 함께 큰 구성으로 구성하려면 호출 포드 그래서 이것은 TPU V2 pod입니다

이것은 수냉식이있는 더 큰 TPU V3 포드입니다 당신은 실제로 기계의 랙 하나를 볼 수 있습니다 학습 돔 실제로 이러한 것들이 실제로 제공됩니다 많은 계산 능력

4 개의 칩이있는 개별 장치 420 테라 플롭스에 상당한 메모리가 있습니다 실제 포드 자체는 최대 100 페타 플롭스의 연산 이것은 꽤 상당한 양의 계산입니다 그리고 정말로 당신이 매우 빨리 기계를 시험 할 수있게 해줍니다 연구 실험 학습, 매우 큰 생산 훈련 대형 데이터 세트에 대한 모델이며, 이것들은 또한 현재 클라우드 제품을 통해 제공됩니다

어제는 베타 버전으로 발표했다고 생각합니다 여기 성능의 열쇠 중 하나 포드의 칩 간 네트워크 상호 연결입니다 실제로 초고속 2D입니다 랩 어라운드 링크가있는 메쉬 그것이 토로 이달의 이유입니다

그리고 그것은 당신이 본질적으로이 것을 프로그램 할 수 있음을 의미합니다 마치 하나의 컴퓨터입니다 그리고 커버 밑의 소프트웨어 계산을 적절하게 분배하는 역할을한다 모든 축소 된 작업을 매우 빠르게 수행 할 수 있습니다 및 방송 운영

예를 들어, 전체 TPU V2 포드를 사용할 수 있습니다 동일한 문제에 비해 79 분 안에 ImageNet을 교육 8 개의 GPU 저렴한 비용으로 27 배 빠른 교육을받을 수 있습니다 V3 포드는 실제로 실제로 훨씬 더 큽니다

ImageNet 모델을 처음부터 교육 할 수 있습니다 2 분 안에 1 백만 개 이상의 이미지 본질적으로 전체 ImageNet 인 교육에서 초당 데이터는 1 초마다 설정됩니다 또한 매우 큰 BERT 언어 모델을 교육 할 수 있습니다 예를 들어, 내가 무대에서 토론 할 때 어제 약 기조 연설에서 76 분 일반적으로 며칠이 걸릴 것입니다 데이터의 상당히 큰 코퍼스에 그리고 그것은 정말로 우리 연구원을 만드는 데 도움이됩니다

ML 생산 시스템의 생산성 향상 더 빨리 실험 할 수있게되었습니다 2 분 안에 실험을 실행할 수 있다면 매우 다른 종류의 과학과 공학 그 같은 실험이 하루 반 정도만 가져 가세요 권리 더 많은 실험을 실행하는 것에 대해 생각해보십시오 더 많은 것을 시도

그리고 이미 사용할 수있는 모델이 많이 있습니다 승인 자, 우리가 이야기 한 아이디어를 생각해 봅시다 그들이 어떻게 어울릴 지 생각해보십시오 그래서 저는 우리가이 커다란 모델들을 원한다고 말했죠

그러나 그들이 희박하게 활성화되도록하십시오 우리가 기계 학습에서 잘못하고있는 것 중 하나라고 생각합니다 우리는 기계 학습 모델을 훈련시키는 경향이 있습니까? 한 가지 일을하는 것 그리고 나서 우리에게는 다른 문제가 있습니다 우리는 그 다른 일을하기 위해 다른 모델을 훈련시키는 경향이 있습니다

그리고 우리는 어떻게 우리가 어떻게 할 수 있을지 생각해야한다고 생각합니다 많은 것을하는 모델을 훈련 시키십시오 보유하고있는 전문 지식을 활용하십시오 많은 일을하면서 새로운 일을 할 수있게 새 작업을보다 신속하고 적은 비용으로 수행하는 방법을 배웁니다 데이터

이것은 기본적으로 다중 작업 학습입니다 그러나 실제로 오늘날의 다중 학습 과제 3 개 또는 4 개 또는 5 개의 작업을 의미하며 수천 또는 수백만 나는 우리가 정말로 더 크고 굵은 생각을하고 싶다고 생각한다 모든 일들에 대해 한 가지 모델을 실제로 사용하는 것에 대해 우리는 걱정한다 그리고 분명히, 우리는 멋진 ML 하드웨어를 사용하여이 대형 모델을 교육하십시오 승인

어떻게 보이나요? 그래서 저는 우리가 모델을 훈련했다고 상상합니다 다른 작업들에 그리고 이러한 다양한 구성 요소를 배웠습니다 때로는 서로 다른 작업에서 공유 할 수있는 때때로 독립적 인, 전문화 된 특정 작업 그리고 이제 새로운 과제가 등장합니다

따라서 AutoML 스타일 강화 ​​학습을 통해, 우리는 경로를 찾기 위해 RL 로그를 사용할 수 있어야합니다 실제로 우리를 얻는이 모델을 통해 그 새로운 작업을위한 꽤 좋은 상태로, 희망적으로 다른 것들과 몇 가지 공통점이 있기 때문에 우리는 이미 배웠습니다 그런 다음 시스템에 용량을 추가 할 수있는 방법이 있습니다 그래서 우리가 정확성에 대해 정말로 염려하는 작업을 위해, 우리는 약간의 용량을 추가하고이를이 작업에 사용하기 시작할 수 있습니다 그 경로를 그 일에 더욱 전문화시켜야합니다

그러므로 희망에 따라 더 정확합니다 그리고 그것이 흥미로운 방향이라고 생각합니다 우리는 어떻게 그런 시스템을 구축 할 것인지 생각할 수 있습니다 현재 가지고있는 모델의 현재 유형보다 모든 예제에서 전체 모델을 완전히 활성화하는 경향이 있습니다 단 하나의 작업을하는 경향이 있습니까? 승인

나는 우리가 기계 사용에 대해 어떻게 생각해야하는지에 관해서 마무리하고 싶다 학습과 모든 다른 장소 우리는 그것을 사용하는 것이 좋습니다 그리고 나는 내가 생각하는 것들 중 하나를 생각한다 회사로서 자랑스럽게 생각하는 것은 작년에 우리가 출판 한 것입니다 우리가 생각하는 일련의 원칙들 우리가 기계 학습을 사용하는 방법에 대해 다른 것들을 위해

그리고 나는이 일곱 가지를 생각합니다 어떤 제품에서도 기계 학습을 사용합니다 또는 설정 우리가 신중하게 생각하는 방법에 대해 우리가 실제로 이 원리를 사용하여 이런 식으로 기계 학습 실제 원리 웹 사이트에는 더 많은 것이 있다고 생각합니다 네가 찾을 수 있다고 생각하지만,이게 정말, 정말로라고 생각해

중대한 그리고 나는이 것들 중 일부가 진화하는 연구 분야 및 원칙 우리가 적용하고자하는 따라서 예를 들어, 2 번을 만들거나 강화하지 마십시오 불공정 한 편견 기계 학습 모델의 편견 다양한 출처에서 얻는 매우 실질적인 문제입니다 교육 데이터에 편향된 것일 수 있습니다

실제 데이터를 교육 할 수 있습니까? 세계는 편향되어있다 우리가 원하지 않는 방식으로 그래서 우리가 적용하고 확장 할 수있는 연구가 있습니다 편견을 줄이거 나 없애려면 어떻게해야합니까? 기계 학습 모델에서 그리고 이것은 몇몇 작품의 예입니다 우리는 편견과 공정성에 대해 해왔습니다

ML 모델을 사용하면서 우리가하려고하는 것은 가장 잘 알려진 관행을 적용한다 우리의 실제 생산 사용뿐만 아니라 편견과 공정성을 이해하는 데 최첨단 기술 향상 그리고 그것을 더 좋게 만든다 결론적으로, 깊은 신경망과 기계 학습은 실제로 세계의 일부를 달려들고 있습니다 내가 생각하는 커다란 도전들 저는 우리가 여러 분야에서 진전을 이루고 있다고 생각합니다

흥미로운 문제가 많이 있습니다 태클을하고 여전히 노력하고 있습니다 그리고 그들은 컴퓨터 과학뿐만 아니라 영향을 줄 것입니다 권리 우리는 인간 노력의 많은 측면에 영향을 미치고 있습니다

의학, 과학, 다른 종류의 것들처럼 그리고 나는 그것이 큰 책임이라고 생각한다 우리가 이러한 일을 올바르게 수행하도록해야한다는 것입니다 최첨단을 향해 계속 나아갈 것입니다 큰 일에 적용하십시오

정말 고마워요 [음악 재생]