Spreadsheet Understanding Using Statistics and Deep Learning

>> 안녕 저는 벤 존입니다 스프레드 시트 이해에 대해 이야기하겠습니다

두 개의 프로젝트 Jura와 Alex Polozov와의 공동 작업 인 ExceLient는 에머리 버거, 댄 바로우 스프레드 시트에 관한 것 수백만의 사람들이 사용한다는 것입니다 그들은 중요한 결정을 내리는 데 사용됩니다 재정적 결정, 경제적 결정 등과 같은 이 스프레드 시트 중 많은 부분에 실제로 오류가 있습니다 실제로 뉴스를 보면 Reinhart-Rogoff 스프레드 시트 하버드 경제학자가 개발 한 스프레드 시트는 긴축 정책을 정당화하는 데 사용 그리스 및 미국과 같은 국가를 포함합니다 Reinhart-Rogoff 스프레드 시트는 매우 복잡한 스프레드 시트는 부채의 역사 수백 년에 걸친 국가 Reinhart-Rogoff 스프레드 시트에서 찾은 것은 실제로 중요한 오류가 있었다 저자가 잘못된 결론을 이끌어 내도록 유도하십시오

이것의 핵심 메시지는 많은 사람들이 스프레드 시트를 사용하여 중요한 결정과 우리가하려고하는 것은 그들을 도울 스프레드 시트 사용자 스프레드 시트를 더 쉽게 이해하고 그들에게 더 나은 결정을 내 리도록 도와주십시오 먼저 ExceLient라는 첫 번째 도구부터 시작하겠습니다 내가 여기서 보여주는 것은 실제로 Reinhart-Rogoff 스프레드 시트 이 하버드 경제학자들이 처음 개발했습니다 특히 여기서 중요한 시트는 요약 시트입니다 여러 국가 미국에서 볼 수 있듯이 영국 등 24 개국

의 역사적 부채에 관한 정보 이들 국가는 경제 성장과 관련이 있습니다 이 스프레드 시트를 보면 매우 복잡해 보입니다 이 나라들처럼 미국에는 많은 데이터가 있습니다 에 대한 많은 데이터 행 1791 년에 미국에서 시작해 하지만 요약을 보면 당신은 왜 그것이 사용자로서 어렵다고 상상할 수 있습니다 이 스프레드 시트가 올바른지 아닌지를 이해합니다 기술에서 우리가 한 일 중 하나는 우리는 ExceLient라는 기술을 가지고 있습니다 구조를 매우 빠르게 이해합니다 통계를 사용하여 스프레드 시트의 특히이 버튼을 누르면 Reinhart-Rogoff 스프레드 시트의“Reveal Structure '' 색상이 정보를 인코딩 할 것입니다 사물에 대해 사용자에게 스프레드 시트에서 일어나고 있습니다

특히 회색은 데이터가 있음을 의미하며 일반 데이터이지만 회색은 시트의 일부 수식으로 참조됩니다 노란색은 특이한 요소이기 때문에 시트에있는 데이터 수식에서 참조되지 않는 이 프리젠 테이션에서 바로 보는 것은 이 데이터 범위는 어떤 공식에서도 사용되지 않습니다 좀 더 자세히 살펴보면 당신이 찾는 것은 그 공식입니다 여기 평균을 계산하는 실제로이 셀 범위를 평균에 포함시키지 않습니다 이것은 Reinhart-Rogoff 스프레드 시트의 버그입니다 특히 캐나다, 벨기에, 오스트리아 및 호주 평균적으로 계산되지 않습니다

사실, 그것은 잘못된 결론으로 ​​이어집니다 ExceLient와 함께하는 것은 매우 유용한 도구입니다 무슨 일이 일어나고 있는지 빠르게 이해 스프레드 시트를 작성하고 중요한 결정을 내립니다 상상할 수 있듯이 스프레드 시트를 만든 개인 및 원래 Reinhart-Rogoff가이 도구를 가지고 있었다면 그들은 이것을 매우 중요한 오류로 만들었을 것입니다 잘못된 결론으로 ​​이어집니다 우리는 또한 볼 수 있습니다 다른 시트 스프레드 시트 (예 : 미국) 이 구조를 밝히면 당신은 다른 색상을 다시 보여주는 참조 다른 열이 다른 방식으로 계산되고 있습니다

하지만 흥미로운 점은 우리가 여기 있다는 것입니다 본질적으로 우리는 의심 지수라고 부릅니다 이 특정 범위의 세포가 클릭하면 거기로 이동합니다 이 범위의 세포는 의심스럽고 여기 보시는 것은이 세포가 첫 번째 칸인 K7은 실제로 그 아래의 셀과 다른 공식 다시, 아주 빨리 스프레드 시트에서 버그를 발견하고 다시 버그를 찾을 수 있습니다 원본 스프레드 시트입니다

그래서 저자는 실제로 이해하지 못했습니다 괜찮아 이것이 ExceLient입니다 나는 당신이 그것을 시도하는 것이 좋습니다 실제로 온라인에서 사용할 수 있습니다

다른 기술이 있습니다 연구에서 우리가하려고하는 것 중 하나는 스프레드 시트에는 데이터가 모두 포함되어 있으므로 수식은 코드와 프레젠테이션입니다 인간과 같은 것 다른 사람과 의사 소통하려고합니다 따라서이 시트는 특히 이에 대한 예입니다 사용자에게 헤더가 있습니다

사용자는 다음과 같은 방식으로 데이터를 형식화했습니다 공백에 도움이되는 빈 행과 열이 있습니다 결과적으로 어디서 이 테이블의 시작과 끝은 실제로 완전히 명확하지 않습니다 따라서 프레젠테이션에는 명시 적이 지 않습니다 우리가 개발 한 것은 Jura 기술입니다 본질적으로 테이블을 찾으려고 노력하고 있습니다

주어진 시트는 기본적으로 임의의 경계입니다 Jura는 다음을 기반으로하는 기술을 사용합니다 모든 세포를보고 질문을하는 신경망 우리가 질문하는 신경망, 이 셀이 테이블의 1/4입니까? 우리가 가진 것은 능력이 있다는 것입니다 신경망이 어떻게 생각하는지 보여주기 위해 모서리와 우리가보고있는 것은 신경망이이 코너에 이 코너와이 코너는 모두 오른쪽 아래 모서리처럼 보입니다 그것이 파란색으로 인코딩되는 것입니다 여기 위 모서리는 왼쪽 위 모서리처럼 보입니다

그래서 그것이하려는 것은 전체 구조를 이해하는 것입니다 에 기초한 시트 개별 세포와 그것이 생각하는 것이 모퉁이입니다 모든 세포에 대한 전체적인 관점처럼 이해되면 우리의 기술 Jura는 기본적으로 테이블을 찾을 수 있습니다 그들이 찾은 시트에있는 모든 테이블을 보여주기 때문에 그리고 여기서 볼 수있는 것은 이것이 테이블이라는 것을 이해한다는 것입니다 예를 들어,이 특정 부분은 주석 인 테이블 Jura는 테이블의 일부로 계산하지 않습니다

각주와 비슷하기 때문에 의미가 있습니다 여기서 보여 드린 것은 서로 다른 두 가지 기술입니다 두 가지 기술을 사용합니다 통계 분석과 신경 네트워크 스프레드 시트를 이해하고 궁극적으로 사용자가 신속하고 효과적으로 사용할 수 있도록 그들의 스프레드 시트와 올바른 결론 시간 내 주셔서 감사합니다

Machine Learning and AI for the Sciences – Towards Understanding

토 마소 포기 오 : 그래서 토 마소 포 지오 매우 해요 클라우스을 소개 다행입니다 난 당신이 그런 pop– 몰랐 록 스타,하지만

(웃음)하지만 우리가 찾는된다 그래서 그는 컴퓨터에 일하고있다 꽤 많은 시간 동안 학습 나는 그가 기계 학습의 의자를 보유하고 주며 그 생각합니다

세계의 많은 기계 학습 의자가 없습니다 그게 내가 확신 그래서 미래에 더 많은있을 것입니다 그래서 그는 무엇보다도 구성원, 에서 [INAUDIBLE] 아카데미 어느 가지고 아주 오래되고 독특한 영광입니다 그리고 그 무엇보다도 조직, 작년 화신 시작 깊은 학습에 대한 일련의 앞서 도쿄에서 몇 년 이는 지난 여름 동안 베를린에서 조직되었다

그것은 큰 워크샵이었다 하지만 더 중요한 것은, 나는 클라우스 정말 생각 태양의 존재 아침 나는 위층 CBMM 공간에서 그 부딪쳤다 그리고 그는 커피, 쓰기 방정식을 홀짝이 있었다 자신의 노트북에, 슈베르트을 듣고 그는 기본적으로 다시 학생이되고 있었다 멀리 베를린에서 조직의 업무에서, 정말, 낙원이다

그래서 좋아요 그리고 클라우스는 기계 학습과 눈에 대해 말하는 것입니다 이해를 향한 과학에 대한 클라우스 로버트 뮬러 : OK 네 여기에 저를 데려 위해, 토미을 주셔서 감사합니다

그리고 나는이 군중에 의해 두려워 해요 실제로 reminds– 있지만 나는 내 강의를 생각 나게, 의미한다 나는 기계에 대한 전문 강의를 TU 베를린에서, 현재, 학습하는 참석 한 500 명있다 그것은 전문 하나입니다 그래서 바로 집처럼 조금 느낌? 강의실 있지만 조금 더 크다

네 그래서 여기에 멋지고 아름답습니다 그래서 나는 오늘 아침에 MIT와 TrueBot에서 영감을 얻었다 그래서이 좋다 그래서, 다음 시간에 이야기를하려고합니다 기계 학습 및 AI의 기술적 인 측면에 대해

나는 응용 프로그램을 많이 줄 것이다 내가 중요하다고 과학,있다 몇 가지 기술적 인 공헌이있다 그래서 과학자에 대한 좋은 일부 기여 그래서 당신은 바로, 당신이 무엇을 선택할 수 있습니다? 그래서하려고하는 주요 포인트 중 하나를 내가 비선형 학습자를위한 하나의 결정을 이해합니다

그리고 나는 어떤 알고리즘을 소개합니다 우리가 2015 년에 올 것을, 이는 레이어 현명한 관련성 전파라고합니다 내가 말했듯이, 나는 어떤 과학 애플리케이션을 제공 할 것입니다 그래서 꽤 자주 요즘, 사람들 과학의 서로 다른 종류의 기계 학습을 사용합니다 그리고 매우 자주, 그들은 선형 방법을 사용합니다 그리고 당신은 궁금해 왜 비선형 때문에 사람은 훨씬 더 있습니다

그리고 그 이유는 매우 간단합니다 그들이 자신의 물건을 이해하기 원하기 때문에 그들은 도구로 기계 학습을 사용 하지만 그들은 몇 가지 과학적 통찰력을 찾고 싶어요 그리고 그 이유는 지금까지, 기계 학습을 사용할 수 없습니다 특히 비선형 부분적 이 블랙 박스 간주이었다 당신은 내부에 무슨 일이 일어나고 있는지 모른다

이 아니라고 그리고 난 당신을 설득하고 싶습니다 더 이상 경우 그래서 더 이상 선형 방법을 사용할 필요는 없습니다 당신은 물건을 이해하려는 경우 승인? 그리고 나는 당신에게 예를들 것이다 그래서 어쩌면 난 그냥 여기있을 것입니다 승인

그래서 당신은 큰 신경망을 훈련했다고 가정합니다 또는 누군가가있다 그래서 예를 들어, 이것은 우리가 사용하고 있는지 AlexNet입니다 그리고 당신은 AlexNet으로이 사진을 넣어 그렇다면, 그것은,이 닭이라고 대답한다 때문에 수탉입니다 승인? 이 항아리 않는 이유 그래서 당신은, 궁금 당신은 AlexNet이다, 알고, 그래서 그것은 매우 복잡 신경망

그래서 당신은 AlexNet에서 무슨 일이 일어나고 있는지 궁금합니다 무엇 AlexNet을 만드는 것은이 수탉라고 생각합니다 그게 문제입니다 일반적으로 거꾸로 갈 수 있기 때문에 비선형 성을 통해 그리고 세바스찬 바흐는 OK, 누가 지금이 라 푸쉬킨에 자신의 이름을 변경, 그 해결책을 발견했다

그리고 나는 또한이 논문의 일부입니다 그래서 기본적으로 하나의 결정을 부여 이 훈련 네트워크의이 한 장의 사진에 대한, 당신은 뒤로 가서 뭔가를 만들 수 있습니다 이는 우리가 열지도를 호출합니다 그리고이 열지도는 어떤 부분을 보여줍니다 이 하나의 결정 관련이있다 승인? 그리고 녹색 중립, 빨간색은 닭에 대해 말한다 그리고 당신은 그것을 살펴 그렇다면, 그것을 수탉의 머리에 앉아 붉은 물건이 될 것입니다

이것은 닭의 닭 흉내 부분입니다 승인? 이 신경망이 생각하는 것입니다 그리고 나는 동정 승인 그래서 실제로 왜 나를 그냥 간단하게 말할 수 있도록 어려운 노력

그래서 내가 이미 언급 한 당신이 선형 분류를 할 경우, 일이 간단합니다 그래서 여기에 고전 데이터 세트입니다 그것은 아이리스 데이터 세트입니다 그리고 당신은, 홍채의 다른 유형을 가지고 그리고 여기, 꽃받침입니다 그리고 당신은 꽃받침 잎의 길이와 폭 서로 다른 홍채 유형

그리고 당신은 2D에서 그들을 플롯 그래서, 매우 흥미로운 데이터 집합이 아니다 하지만 2 차원 데이터 세트입니다 그래서 우리는 그것에서 무언가를 배울 수 있습니다 그리고 당신은 분명 선형 방법을 취할 경우 홍채 사이에 잘 ​​분리되지 않습니다 당신은 꽃받침 잎 폭이 방향으로 알고 서로 다른 클래스의 차이가있다

당신이 알고 있기 때문에이 분리입니다, 이 방법은이 분류를 설명하는 것이다 승인? 당신이 볼 수 있듯이,이 비선형 문제입니다 그리고 선형 분류는 많은 어디서나 당신을 이끌하지 않습니다 당신이 비선형 classification– 그래서 만약 어쩌면 이것은 당신의 분류는 지금이다 그래서이 considered– 이유 왜 당신이 알고,이 경우 setosa, 여기에 빨간색 포인트, 꽃받침 폭이다

이 경우, 폭과 길이의 혼합이다 그리고 녹색의 [이 경우에? genica?] 정말에만 차이가 길이입니다 이 경우 매 조리개에 대한 설명 그래서 다른 하나입니다 그래서 하나의 일이 아니다 그것은 로컬 것, 그리고이 이유 실제로 비선형 방법을 설명하기 어렵다

그리고 당신은 단지 직관을 얻을 수 그림에서 해당합니다 이제 경우에 당신에 대해 더 높은 차원의 일을 생각 I 더 이상 2D로 그릴 수 없습니다 보트 그래서 승인? 그래서 당신은 보트로이 분류하고자하는 것으로 가정합니다 그리고 우리는 또한 우리에게 좋은 열을 준이 LRP 일을 사용합니다 수탉의지도

그리고이 보트는 보트로 간주됩니다 그것은 본질적으로, 휠 하우스이기 때문에, 신경망하고 흥미를 느낍니다 그 분류합니다 그리고 여기, 그것은 보트의 다른 유형의 선율 것 명확하게 돛 가장 중요한 것은입니다 그런데, 여기이 큰 바람을 주셔서 감사합니다 내 말은, 그리고 항해 없습니다 그러나 여기 사막에서 또 다른 보트가있다

권리? 그래서 심지어 물이 아니다 그러나 특성 활을 가지고있다 그래서 신경 네트워크는 실제로이 생각 때문에 활의 보트입니다 승인? 이제, 당신이 볼 수, 당신은 분류를 할 모든 단일 데이터 포인트, 당신은 설명 모든 단일 데이터 포인트 이것은 당신이 배운 것과 많이 다르다 특징 추출에서

기능 선택 죄송합니다 기능 선택에 따라서, 당신은 전체 앙상블을보고 다음 하나 개의 클래스의 데이터, 그리고 당신 모든이 전체 앙상블을 만드는 기능이 무엇인지 물어 그 보트 만들어가는 보트,의 승인? 어떻게 당신이 분류하는 경우에 가장 많이 사용하는 기능입니다 보트로이 그러나 앙상블보기는 당신이 필요로하는, 그래서 모두가 전체를 your–,의 전체 클래스에 대한 데이터입니다

당신이 적용 그렇다면, 당신은 사진의이 유형을 얻을 승인? 전체 앙상블이 보트 간주됩니다 왜 이렇게이다 승인? 그래서 당신을 말해 주는가? 그냥 알려줍니다 그 사진 보트 중간에 일반적입니다 승인? 그래서 난 그냥 당신이 결과를 보여주는거야 신호 사이의 차이를 만드는 분류 및 앙상블보기 및 기능보세요 따라서 기능 선택은 당신에게이 부분을 허용하지 않습니다

그리고 나는 거기에 도착하는 방법에 대해 설명하려고합니다 그리고 우리는 say– 수있는 이유 블랙 박스 기계 학습 작별 그건 그렇고, 내가 신경 네트워크에 대해서 이야기하고, 하지만 당신은 어떤 비선형 학습이을 적용 할 수 있습니다 기계 그래서 벡터 기계, 현재의 방법을 지원합니다 당신은 모든 기본적으로이 설명의 일을 할 수 있습니다

승인 그래서 그래서 분명히, 우리는 완전히이 시작되지 않았습니다 우리의 첫 번째 논문은 2010 년에했지만 그러나 여기,이 장면의 사진의 비트입니다

그리고 대부분의 사람들은 항상 그라디언트 살펴 보았다, saliencies에서 오른쪽? 그리고 나는 이것이 무엇인지 설명 할 것이다 이 LRP 알고리즘이 다른 이야기입니다 왜 내가 설명 할 것 그리고 다른 질문 승인? 나를 단지뿐만 아니라 일반적인 말을 만들어 보자 그래서 누가, 정말 따라 달라집니다 앙상블 여부 문제를 해결하는 경우 관점은 흥미있는 일, 또는 개별 하나입니다 흥미로운 하나입니다 그래서 당신은 의사 왔다고, 당신은 진단하고 싶습니다

그럼 당신은 기본적으로, 당신은 책에서 찾아 보면, 다음 WHO의 말씀, 즉 앙상블보기입니다 이는 그 질병의 모든 환자에 대한 보유하고 있습니다 이 환자의 경우, 당신은 것 자신에 대한 진단이 정확해야하고 싶다 당신은 앙상블에 대한 상관 없어 다른 모든 사람들의 당신은 덜 신경 수 없었다 그래서 확인

그래서 그냥이 층이 많다는 관련성에 대해 조금 이야기하자 번식 그래서 우리가 이론을 만든 뭔가 그래서뿐만 아니라 알고리즘입니다 알고리즘 곳에 많은 사람들이있다 약간의 설명을하려고합니다 그러나 거기에 몇 가지 이론이있다 당신은 당신이 무슨 일을하는지 도대체 말할 수있는 곳

그래서 설명에 대해 무슨 말을하려고 is– 나는 당신에게 pictures–을 보여 주었다 픽셀이 분류에 얼마나 기여하는 것입니다 당신은 닭이 일 및 보트 활을받을 이유입니다 모든 것을 그리고 감도 또는 돌출 다른 질문을 그것은이 증가 할 픽셀을 요구하는 또는 predictio 점수의 감소를 변경하는 경우 승인? 그래서 이것은 단지 함수의 기울기를 취하고있다 당신이 추정 한 것으로, 또는 신경 네트워크입니다 구현

및 디컨 볼 루션는 뭔가 다른, 다시이며, 다시 앙상블보기 오히려이 경우, 당신은 몇 가지 기본을 찾으려고 이 가장 잘 나타내는 클래스의 패턴 이러한 방법은 모두 다른 문제를 해결, 나는이 먼저 주목해야한다고 생각합니다 그리고 우리는 이제 첫 번째보고있다 그게 내가 가장 관련성이 무엇을 발견하기 때문이다 승인 어떻게 LRP 작동합니까? 그래서 당신은 신경 네트워크가 있다고 가정합니다

그래서 당신은 어떤 그림에 넣어, 그리고 무당 벌레와 같은 어떤 사람들 그래서 그들은, 무당 벌레 사진에 넣어 해야하고, 확실히 충분히 신경 네트워크, 고양이 또는 개 또는 자동차로 여성의 버그로 분류, 그리고 또는 이것 저것 이를 위해, 당신은 깊은 네트워크를하자 그래서, 무당 벌레 깊은 네트워크를 통해 딸랑이하기 위해, 다음은 네트워크의 말씀을 참조하십시오 그리고 과연, 그것은 무당 벌레는 말한다, 그게 다야 그래서 지금 어떻게 뒤로 얻을 수 있습니다

그래서 비선형를 뒤로 점점 우리가 이미 본 바와 같이, 비 간단하다 그냥 기울기를 계산하는 것은 충분하지 않습니다 그래서 이것은 우리가 방법을 찾을 필요가 있다는 것을 의미 비선형를 통해 이동 및 분해 의미있는 방식이 전체 비선형 그래서 우리는이 열지도를 얻을 수 있습니다 그리고 우리는 신경망이 우리를 제공하는 것을 복용에 의해 시작 예측있다 그리고 우리는이에게 relevances를 호출 우리 때문에 레이어 현명한 관련 전파를하고 있습니다

그리고 우리는이 모든 relevances을 우리는 훈련 된 신경망을 그래서 이것들은 신경망의 가중치는 그 훈련을 받았습니다 그리고 우리는 단지 훈련 네트워크의 가중치를 곱 네트워크가 계산되었음을와 relevances 전방에 전달하고 다음 층의 관련성을 계산 뒤로 우리는이를 정상화하고, 우리는이 곱 전방 구문 분석 활동

그래서 당신은 뒤로 모든 레이어에서이 작업을 수행 할 수 있습니다 그것은 에어로빅 전파처럼,하지만 우리는 전파 relevances는 스펙 그리고 공식은, 에어로빅 전파와 동일하지 않습니다 하지만 당신은 무엇을 이해하려면 이것의 이론적 인 해석이며, 그 것 때문에, 몇 가지 손을 흔들며 할 것 매우 긴 강의, 그렇지 그래서 만약 당신이 Montavon 패턴 인식이를 읽을 수있는, 2017 그래서이 비선형 표면에 대해 생각 약간 높은 차원 공간 신경 네트워크 또는 학습 시스템 구현이

그래서 당신은 그 테일러 확장을 할 수 있습니다 글로벌 테일러 전개 그래서이 문제 일의 비트가 당신은 테일러의 모든 높은 주문을 필요로하기 때문에 확장 그래서이 추정하기 어렵고, 그것을 잘라하지 않습니다 권리? 그래서 때문에, 당신은 다른 일을 할 필요가있다

당신이 말할 수 그래서, 왜 로컬 테일러 확장을하지 일부 로컬 루트 점을 중심으로 모든 신경 세포에서 당신은 적절하게 선택하는 것이? 로컬 선형 테일러 전개 때문에 글로벌 비선형 것과 동등한 것으로 표시 할 수 있고, 그냥이 슬라이드에 승인? 그래서는 생각이다 승인? 그럼 그 은유입니다 그래서 우리는 글로벌 테일러을하려고하고 있습니다 아주 똑똑한 방법으로 확장, 로컬 분해 승인? 우리는이 깊은 테일러를 호출 할 이유입니다

그렇게 깊은입니다 때문에 승인 그래서 지금 우리는 각 레이어 이동합니다 우리는이 irrelevances를 계산, 그리고 우리 어떤 관련성이 추가되지 않고 아무도 차감되지 않습니다 있는지 확인하십시오 그래서 관련 보존 원칙이있다

그래서 지금 우리가 결과를 볼 수 있습니다, 우리는, 우리가 이전에 어떤 결과를 본 적이 이미 볼 수 있습니다 보트의,하지만 우리는 이것을 본 적이 없다 그라디언트에서 보이는 감도와 대조 그래서 여기의 차이,이 그림에 대한, 이는 스쿠터 클래스입니다 그래서 신경망이 스쿠터 사진 간주합니다 그래서 지금 우리 만 그라디언트를 보면, 이 엉망처럼 보인다 특히, 활동은있다 분명히 어떤 스쿠터가 없습니다 도로의 중간에있다

왜? 감도가 요구하기 때문에, 어떻게 할 만들기 위해 픽셀을 변경 이 다소 스쿠터? 그리고 분명히, 우리는 거리에서 픽셀을 변경 위해이 스쿠터 확인합니다 일반적이기 때문에, 스쿠터는 하늘에 있지 않습니다 아, 여기, LRP, 그것은 다른 대답을 제공합니다 그리고 당신은 백라이트의 타이어 및 부품 참조 그 같은 것들 그래서 나는이 더 좋은 것을 매우 분명 있다고 생각 설명, 그것은 스쿠터의 개념을 파악하기 때문에 이 [들리지]에

그래서 어쩌면이 기술 일의 비트입니다 당신은 아주 간단한 예를 들자면 경우, 감도는 실제로 problem–있다 이 있는지 또는 그라디언트는 문제가 오차 함수의 일부 비 연속 변화하는 많은 소음을 제공합니다 LRP 연속이다 그래서 지금 우리는 신경망이 말하는 무엇을 볼 수 있습니다 이 3? 이유는 세 가지이다? 여기에 아무것도 아무것도 여기가 있기 때문에 없습니다, 그리고 거기에 여기서 뭔가 이것은 세 가지 이유이다

그리고이 세 가지를 들어, 다른 설명입니다 이 일을 위해, 다시는 다른 설명입니다 당신이 회선을 할 경우, 그것은 항상 같은 일입니다 그러나 당신은 또한 요청할 수 있습니다, 어떤이 세를 무엇입니까? 또는 왜이 아홉인가? 승인? 그리고 분명히, 그것은 구 아니다 신경 네트워크 그래서이 세입니다 생각한다

이 아홉이었다하지만 당신은 그것을 위해 무엇을 말하는 것, 질문을 할 수 과에 대해 무엇을 말할 것인가? 그리고이 부분은 파란색입니다 그것은에 대해 말한다 승인? 아무것도 때문에 구에서, 무언가가 있어야한다 승인? LRP에 건설의 좋은 점, 건설에 의해, 당신은 관련성, 보존이있다

그래서 [AUDIO OUT]는 그것에 대해 통계는 않습니다 이 때문에 잘 정규화 당신은 다른 방법으로이 작업을 수행 할 수 없습니다 이 아니기 때문에 잘 정규화 승인 이제 많은 사진을 볼 수 있습니다, 강아지의 사진처럼, 새, 그리고 당신은이 모든 것을 비교할 수 있습니다 그것은 좋은보기 때문에 당신은 [AUDIO OUT] 할 수 있습니다

그러나 이것은 매우 과학이 아니다 당신은 큰 데이터베이스를 보면, 그들은 3000 만 그림을 가지고있다 당신은 모든보고 싶을까요? 그래서 좀 더 승인 그래서 다른 방법을 비교하는 체계적인 방법이있다 설명의? 승인? 그리고 아주 간단한 아이디어가있다

그래서이 모델은 우리에게 열지도를 제공합니다 어떻게하면이 세 가지 중요하다 좋은 설명은 무엇입니까 그리고 당신은 그냥 플립하자, 음, 말할 수 열이 많이있어 이러한 픽셀, 과의 그들은 확인하지 분류 무엇을 보자? 랜덤 픽셀 반전에 반대했다 그래서 지금은 약간의 픽셀을 틀지하고 있습니다

승인? 여기에 사진, 난 픽셀입니다 승인 그래서 분류는 여전히 아주 좋은 것입니다 여전히 좋은 승인? 빅뱅, 그것은 내려갑니다

그래서 지금은 더 이상 세 아니에요 승인? 그래서이 열지도는 나쁘지 않다 말된다 그러나,이 열지도를보고, 나는이 운동을 할 경우 나는 오래된 임의 픽셀을 전환 할 수 있습니다, I는 두 곡선을 대조 할 수 있으며, I는 계산할 수 이들 곡선 사이의 면적 나는 평균 수 있으며, 이것은 잘 정의 된 양이다

그래서 나는이 방법이 얼마나 잘 판단 할 수 있습니다 나는 1300 만 개 사진을 볼 필요가 없습니다 그래서 좋다 지금은 그렇게 할 수 있습니다 그리고 다른 데이터 세트를 볼 수 있습니다

나는, 실제 데이터 세트가 아닌 장난감 데이터 세트를 의미한다 MIT 장소처럼 당신은 매개 변수를 사용하여 재생할 수 있습니다 곡선은, 더 높은 차이 픽셀 반전에서입니다 승인? 그래서 당신이 훨씬 더,이 붉은 색이다 것을 알 수있다

그리고이 감도이다 녹색, 디컨 볼 루션 승인 그리고 점선은 임의입니다 그래서 우리는이 도구를 사용하여 무엇을 할 수 있습니까? 우리는 많은 것들을 할 수 있습니다

모든 그래서 일단, 그것은 우리에게 방법을 제공합니다 이러한 방법은 무엇 이해하기 또한 그들은 문제를 해결하는 방법에 대해 설명합니다 모든 프로젝트가 어디 그래서 여기에 데이터 세트입니다 주위에 상자 그래서 우리는 누군가의 몇 가지 알고리즘을 취할 수 있습니다 그리고이 다시 AlexNet입니다 이 피셔 벡터 알고리즘이다

두 채우기 컴퓨터 비전 알고리즘 그리고 우리는 올바른 분류를 설명 볼 수 있습니다 두 알고리즘이 보트라고, 그러나 이것은, 즉 물 때문에이 배를 말한다 이 사람은이 다리가 있기 때문에이 배를 말한다 그래서 지금 우리는 활동의 정도를 측정 할 수 있습니다 객체의 경계 상자 내에 우리는 방법을 사용 얼마나 이해할 수 상황이 아닌 상황 그리고 우리는이 판단이를 측정하고, 우리는 볼 수 있습니다, 예컨대, 보트, 피셔 벡터 알고리즘을 사용 당신이 볼 수있는 상황이 많이 깊은 신경망 반면, 하지 않습니다

그리고 이러한 방법의 컨텍스트의 다른 사용법이있다 그리고 우리는 그것을 이해하려고 할 수 있습니다 승인? 이제 우리는 재미있는 질문을 할 수 있습니다 승인? 내 그 수업에 따라서 나는 MIT에 확신이 똑같이,이다 나는 그것이 일반화 있다는 학습 기계 가르쳐 오류 우리는 up– 얻을 것을 것을 우리는 낮은 얻어야한다 승인? 아니 교육 화살표, 일반화의 오류입니다 그래서 은유를 사용하면 데이터를 가지고 있다는 것입니다

당신은 당신의 기계 학습 모델을한다 당신은 당신의 예측을 수행하고 다음을 일반화의 오류가 발생합니다 그리고 컴퓨터 비전에 논문을 많이, 일반적으로 학습 기계, NIPS, ICML, iClear, 그들은이 구조의 모든입니다 당신은 어떤 데이터 세트를 가져 가라 당신은 마지막 방법을 비교한다

당신은 테이블이 있습니다 귀하의 방법이 가장 좋습니다 귀하의 논문은 인정의 승인? 물론 일반화의 오류를 않습니다 권리? 내가 질문을 부탁 해요 지금 그래서 일반화 오류입니다 모든 우리가 필요로하는? 그리고 난에서이 질문을하고 있지 않다 이론적 관점은, 내가 부탁 해요 실용적인 관점에서

우리는 매우 큰 데이터 세트를 가지고 있기 때문에, 하지만 그들은 모든 캡처 충분히 큰 있습니까? 우리는 완전한 해결되지 않기 때문에 당신은 계산하기 위해 해결해야 할 것 일반화의 오류입니다 그리고 여기 재미있는 예이다 승인? 우리는 지금, 세바스찬 바흐의 CVPR 종이에서입니다 came– 라 푸쉬킨 승인? 같은 사람 그래서 그는 다른 두 가지를 설명했다

그래서 그는 피셔 벡터 알고리즘과 깊은 그물을했다 다시 말하지만, 누군가가 깊은 순이다 나는 그것이 AlexNet이었다 생각합니다 그것은 큰 데이터 세트에 비교 하였다 20,000 클래스, 30000000 개 데이터 포인트, 뭐 그런 그리고 이러한 분류 결과이며, 내가 샘플을 다하겠습니다

그래서이 일반화이다 그래서 예를 들어, 말 클래스, 피셔와 깊은 네트워크 설마 또 차이가 없습니다

이 통계적으로 유의하지 않다 지금, 당신은이 말의 이미지 주어진 요청할 수 있습니다 수업이 일반적으로 사용되는 데이터베이스, 방법이 방법은 문제를 해결합니까? 그래서이 말의 엉덩이에 조금 보이는 깊은 네트워크입니다, 라이더, 그리고 말의 코 승인? 피셔 벡터는, 말의 엉덩이에 조금 보이는 그리고 주위 보인다 그리고 왼쪽 아래에 보인다 그리고 당신은 무슨 일이 일어나고 있는지 궁금합니다

권리? 그럼 당신이 가서 이것 좀 봐, 그리고 말한다, 독일어 [말하기 GERMAN] OK, 그리고, 말 사진 아카이브를 두려워 말한다 [웃음] 자,이 우리의 데이터 세트, 단지 아니다 하지만 컴퓨터 비전에 설정된 일반적으로 사용되는 데이터의 그 모두에 자사의 일반화 게임을하고있다

승인? 그래서이 완전한 넌센스입니다 아무도 더 이상이 데이터를 보지 않는다 내 말은, 사람들은 이제 테라 바이트의 데이터를 가지고있다 페타 바이트 그것은 구글 크기의 데이터를합니다

아무도 그 데이터를 보지 않는다 그리고 당신은이 클래스의 넌센스의 모든 종류가 있습니다 그리고 물론, 새로운 방법은 뭔가 그들은 문제를 해결하는 방법이있다 물론이 AI, 그래서 당신은 지능 위해 노력하고 있습니다

이러한 지능형 기계입니다 이건 정말 지능형 기계인가? 당연하지 그것은 속임수 않습니다 하지만 당신은 진단 싶습니다 기계의이 유형으로? 아니 당신은 과학에 대한 이런 종류의 일을 사용 하시겠습니까? 아니

당신은 방법을 이해해야한다 정말 그들이 순서로 문제를 해결하는 방법을 이해 뭔가 지능형인지 여부를 판단합니다 그리고 당신은 과학을 수행하려는 경우, 당신 사실을 이해할 필요가있다 그래서, 일반화의 오류가 우리는 필요하지 않다 생각 그러나 우리는 또한 이해가 필요합니다 방법의 문제는 해결된다 그리고 물론,보기의 이론 지점에서, 나는 말할 수 나는 엄청나게 많은 데이터 포인트를 가지고 있고, 그들은 심지어 샘플링하는 경우 [AUDIO OUT]을하도록 확률 분포이며 잘 유지, 난 그냥 내 일반화에 신뢰할 수있는 오류

승인? 그러나 나는이를 잡으려고합니다 그리고 과연 이러한 문제가 많이있다 당신은 누구의 네트워크를 취할 수 그들이 있기 때문에 온라인으로 넣어 가지고, 당신은 재미있는 일 이러한 종류의를 찾을 수 있습니다 그래서 많은 사람들이 요즘 주위에 숭마된다 승인

물론, 그것은뿐만 아니라 분류에 관하여뿐만 아니라, 컴퓨터 비전 당신은, 말하자면, 연령 추정을 할 수 있습니다 그래서 설명은 네트워크 말씀과 어떻게 생각하는지 알려줍니다 이 얼굴이 조금 오래 이유에 대해 음, 오른쪽 귀 로브는? 승인? 당신이 그것에 대해 생각한다면 귀 로브의 그 연령 광택, 매력, 슬픔을, 이들은 당신이 분석 할 수있는 것들입니다 이러한 방법은 해결 방법을 이해하는 시도 할 수 있습니다 이 문제들

이 텍스트에 적용 할 수 있습니다 그래서 이들은 [AUDIO OUT] 텍스트, 그리고 당신 이 의료인지, 또는이 오토바이인지 궁금 또는이 있는지 공간입니다 당신이 말할 수있는 그리고, 관련 기능은 무엇인가 그 이 공간 텍스트 만들기? NASA 우주 비행사, 지구 승인 라이드, 반드시

그래서 오토바이는 타고 그에게 좋은 말, 오토바이입니다 의학, 불편, 질병 승인 그래서 당신은 이러한 것들로 주위를 재생할 수 있습니다 자연 언어 처리한다 사람들은 좋은 방법을 가지고 있기 때문에 자연 언어 처리를 수행하기 위해, 당신이 그들을 이해할 수있다

이제 좀 더 그래서, 자연이 멋진 종이가 있었다 기억 아타리 게임을 DeepMind에서 우리의 친구에 의해 그래서 당신은이 방법이 무엇을하는지보기 위해 시도 할 수 있습니다 그 모두는 투명합니다 이러한 모델을 재구성 할 수 있습니다

그리고 지금 당신은 모델에서 볼 수 약간의 반복을 위해 훈련하고있다, 그래서 좋은 모델입니다 이 자체를 설명하는 방법 그리고 당신은 볼 수 있습니다 승인? 그래서 어쩌면 그것은 비디오를 표시하는 것이 좋습니다 승인? 그래서 여기이이는 LRP 측이며, 민감도 측면이다 내가 말했듯이, 정말 의미있는 아니에요

이 같은 네트워크에 관하여이다 그래서 명확하게, 네트워크는 볼 것을 배웠다 중요한 일이다 그리고이 일을 바로 중요하다? 그래서 분명하다 이것에 대한 그래서 죄송합니다 그래서 당신이 볼 수있는이 [AUDIO OUT] 네트워크 거기 무엇인지 배웠다

그래서 이것은 실제로 스마트 동작입니다 정말 지적이다 그러나 당신은 어떻게 판단 할 수 있는가? 당신은 네트워크가 품질에서 판단 할 수 있습니다 에서 얼마나 좋은가 게임을 재생합니다 뿐만 아니라 당신은 전략적 가치에서 판단 할 수 이 모델은 실제로 게임을 재생하는 방법

그리고 보여 많은 것이있다 내가 밖으로 실행 해요 때문에 나는 여기에 보여주고 싶지 않아 시간이 없습니다 나는 잠시 얘기하고 싶지 때문에 [AUDIO OUT] 기계 그래서 과학 지금 학습 이것은 나의 궁극적 인 취미 같다 나는 또한 컴퓨터 과학자 해요, 교육에 의한 물리학입니다 하지만 내 마음에, 나는 세계를 이해하려고합니다

난 지금, 그것을 도울 수 없어요? 그래서 내가 그 일을 위해 기계 학습을 사용하려고합니다 승인 그래서 내 긴 취미 중 하나가 구축되었습니다 뇌 – 컴퓨터 인터페이스 그래서 우리는 EG를 사용하고 있습니다 그것은 베를린 뇌 컴퓨터 인터페이스입니다

그래서 우리는 멀티 채널 EG 있습니다 우리는 몇 가지 특징 추출을, 우리는 몇 가지 분류를 할 끝난 승인? 그런 다음 우리는 모든 종류의 것들을 할 수 있습니다 그래서 분명, 뇌 컴퓨터 인터페이스, 필드로, 오랜 시간 동안 주변되었습니다

그것은, 의료 측면에서 주로 온 아이디어는, 사람들이 말을 어디 누가 강하게, ALS 환자를 비활성화됩니다 에 잠긴 예를 들어, 필요 통신 할 수있는 수단을 가지고있다 승인? 그리고 생각에 있었다이 방법을 다시 설치 의 의미있는 방식으로 뇌 활동을 디코딩 연통 나는이에 관여하기 시작했을 때, 피사체가 배워야했다 그래서 다른 말로, 그들은 약 100 배워야했다 300 시간까지 뇌 신호 등을 변경 그 당시의 노드 프로세싱 기술의 상태 디코딩 할 수있다 그래서 우리는이 배우는 기계를 가져왔다 그래서 주제는 그들이 생각하는 어떤 생각, 다음 있는거야 우리는 단지 그것을 디코딩 것입니다

그리고 우리는이 작업을 얻고, 환자 교육 수 오분 같은 것을 300 시간에서 감소되었다 지금 당신은 어떤 훈련을 [AUDIO를 OUT] 할 수 있습니다 그래서 원래의 의욕도 금새 환자를 돕기 위해 그것은 아직 거기뿐만 아니라 다른 일이 것을 당신은 잘 할 수 있습니다 그래서 난 그냥 당신이 기술의 예를 도시하고있다 그래서 당신은 EG 모자를 쓰고, 몇 년 전에 나를보고 거기 의자에 편안하게 앉아

이 앰프입니다 이 노트북에 간다,이 커서를 제어 여기 아래로 좌우 때문에, 좌우 상상 해요 상상력은 [들리지] 내 다른 모터 피질 승인 그래서 여기 당신은 간다

그래서 나는 뿌리깊은 재미 있음을 알 수 있습니다 당신은 that– 특정 속담이있다, 알고 나는이 실험에서, 실제로, 그러니까 의미 실제로 당겨 문자열의 상상력을 사용하고 있습니다 왼손과 오른손으로

승인? 그래서 그냥 상상 그래서 독일어 교수는 몇 가지 기술을 갖고있는 것 같다 그래서 환자들에게이 기술에 의해 희망이있다 그리고 정말로, 그것은 희망입니다 권리? 그리고 뇌졸중을 가진 사람의 거대한 인구는있다 요즘, 닐스 Birbaumer 다른 사람 같은 사람 더 나은, 더 효율적인 작업을 수행하기 위해이 기술을 사용하려는 뇌졸중 재활

그래서 이제 자신의 분야가되었다 그 당시 우리는 거기 시작했을 때 그 일을 세계에서 다스 그룹에 대한했다, 그것은 사람들을 위해 너무 쉽게이기 때문에 지금은 약 450있다 이 작업을 시작합니다 이제, 물론 당신은 신경 과학 문제가 새로운 요청할 수 있습니다 당신은 당신이 리벳 실험을 할 수 물어봐도 수 있습니다 생각을보고 기술의 종류와 실시간으로 뇌 행동 하지만 당신은 정말 이상한 일을 할 수 있습니다

그리고 내가 당신과 함께이 공유하기 때문에 당신은 아마 것 그것에 대해 생각하지 않았다 그래서 시간이 커피 후에, 나는 내 동료와 방황했다, [? 토마스?]? Vigant?] 베를린, 강 옆 그리고 우리는 몇 가지 터무니없는 프로젝트에 대한 이야기 우리가 함께 할 수있다 그래서 [? 토마스?]? Vigant?] 그가 H264의 조상 중 하나입니다, 이는 비디오 코딩 표준입니다 그래서 인터넷의 모든 두 번째 비트는 그에 의해 코딩된다

그래서 생각 해낸 아이디어는 I이었다 에게 말했다 [? 토마스?] 글쎄, 왜하지 MP3 [AUDIO OUT] 같은? 그냥 우리가 실제로 인식 물건을 코딩 승인? 그는 글쎄, 그건 좋은 것입니다 말했다 하지만 어떻게 우리는이를 측정 할 수있다? 음,이 BCI를 사용할 수 있습니다 그리고 물론, 우리는 충분히 바보했다 보조금 제안서에 넣고, 그리고 검토는 것을 특징으로하는, 이 완전한 넌센스입니다 그것은 작동하지 않습니다

아시다시피 지금, 그게 이, 일부 리뷰어가 좋은 사람들이, 하지만 그들은 항상 옳다 아니에요 [웃음] 그래서 우리는 이것을 시작했다

그리고 방법의 두뇌 BCI와 측정하려고 압축 품질의 변화에 ​​반응시켰다 그리고 아이디어는 실제로 기초 신경 과학로 사용하는 것이 었습니다 실험은 사물을 인식하는 방법을 이해합니다 그래서 우리는 SS VEP 실험을했다 우리는 ERP 실험을했다 그리고 결론은 우리가 배운 것입니다 압축 된 비디오 데이터 [AUDIO OUT] 이 엔지니어가 조정할 만들기에 충분했다 그들의 그들이 어떤 비트를 저장할 수있는 점에 코딩

그래서 약 2 년 전 챔피언스 리그 결승에 베를린에서, 그이 변경된 코드에 의해 방송 된 그들은 하임에서 제작 한 것으로 [들리지] 연구소 이 is–의 흥미로운 부분 어쩌면이 짓이야입니다 당신은이에 대한 느낌이 없습니다 나는 우리가 기초 신경 과학 실험을했다, 의미한다 하지만 5 %의 비트 또는 10 %의 비트를 저장하는 경우, 이 원자력 발전소의 합리적인 숫자로 금액 글로벌 규모 그래서 그것이 very–의 usually– 것 나는 그것에 대해 생각 의미

그것은 매우 이상한 생각입니다 실제로 뭔가로 이행하는 것이 결국 흥미 롭군요 유용한 적어도 이제 한 가지 우리가 do– 수 있다는 것입니다 이 내가이 talk–이 점을 넣어 이유 당신은 또한 분류하는 신경 네트워크를 사용할 수 있습니다 그것은 실제로 매우 잘 작동합니다

하지만 지금 우리는이 설명하는 방법을 적용 할 수 있습니다 그리고 좋은 점은 설명 방법이 될 수 있다는 것입니다 매 시험에 적용했다 그래서 흥미 롭군요 시간을 많이하기 때문에, 당신은 당신의 실험을한다 당신은 당신의인지 실험을한다

그리고 당신은 당신의 디코더에서 어떤 결과를 얻을, 그것은 잘못, 하지만 당신은 어떤 이유 모른다 때때로 주제는 관심을 지불하지 않습니다 때로는 자고 가끔은 그냥 뭔가 다른 일을합니다 때때로 어떤

지시를 이해하지 못했다 그래서 다른 이유가있다 우리는이를 정렬 할 수 있습니다 우리는이 모든 걸쳐 평균하면 우리 모터 수영의 매우 아름다운 사진을 얻을 어떤이에게 왼쪽에 대한 관련 설명을 오른쪽 상상 하지만 당신은 모든 단일 재판에 적용 할 수 있습니다

승인? 지금은 지금, 기어를 변경합니다 나는 내 말은 aware– 해요,이 기계 학습 관중 수 있으며, 신경 과학의 군중 일부 물리학이 있는지 잘 모르겠어요 관객한다 그래서 난 야호 [웃음 그래서 난 – OK 그래서 2011 년으로 돌아 간다 승인? 그래서 UCLA에서 장소가있다 순수 및 응용 수학에 대한 IPAM, 연구소를했다

그것은 유럽인 특히, 멋진 장소 사람은 매우 우울한 겨울을 가지고있다 그리고 내 [AUDIO OUT]까지, 내 ​​아내가 아니라, 당신이가는 말했다 당신은 몇 달 동안 캘리포니아에서 잘못 아무것도 할 수 없습니다 그리고 내가 거기 갔다 그리고 프로그램에서 신중하게 보이지 않았다, 그리고이 프로그램 밝혀졌다 양자 화학에 있었다

어떤까지 기계 학습에서 조금 어떻게 든입니다 그리고 나는 유일한 기계 학습 친구가 있었다 그래서 나는이 다른 많은 사람들과 함께 만났다 우리는 모험적인 일을 시작했다 그래서 나는 다음 한 아이디어는 다음과 같습니다 슈뢰딩거했던이 무고한 보이는 방정식이있다

권리? 양자를 제공 슈뢰딩거 방정식 분자 재료 및 모든의 역학 그래서 문제는, 그것이 무고한 보이는 것입니다 하지만 계산하기 정말 어렵다 그래서 당신은 단지 [AUDIO OUT]는, 그것을 계산할 수 있습니다 그리고 당신은 여전히 ​​슈퍼 컴퓨터가 필요합니다 그래서 작은 분자를 들어, 약 5 시간 필요 의 시간과 괜찮은 근사치를 계산 당신이 더 나은 근사가 있다면 그래서, 당신은 샘플 당 7 일해야 할 수도 있습니다

그래서 [AUDIO OUT]는 아마도 그것은 좋은 생각이 될 수 있습니다 근사에서 훈련 많은 데이터를 얻을 수 있습니다 슈뢰딩거 방정식 그리고 대신의 슈뢰딩거 방정식을 해결 시뮬레이션에 의해 그것을 근사하여, 우리는 확률 문제로 취급합니다 방정식의 결과를 예측합니다 승인? 그래서 우리는 수학 단지 완전히 무지 수학자 때문에 일반적으로 자신의 방정식을 해결, 우리는 단지 방정식의 결과를 예측하고있다 그리고 물론, 사람들은 다양한 방법으로 저를 죽이려고 한 그러나 그들은 그들의 마음을 만들 수 없습니다

그게 좋다 그리고 우리는 단지 그것을했다 권리? 그리고 놀라운 것은이 실제로 작동했다 그리고 그것은 또한 조금 무서운, 그리고 I 잠시이 문제를 논의 할 것이다 그래서 우리가 어떻게 [AUDIO를 OUT]합니까? 그래서 우선, 우리는 몇 가지 훈련 데이터를 얻을 필요가있다

그래서이 분자 같다 그리고 당신은 기계 학습을 할 경우 표현입니다 무슨 말을해야합니다 그래서 지금 여기에 원자 맞죠? 클리어 요금 그리고 그들은 3 차원 공간 좌표를 가지고있다 그래서 지금 우리는 매트릭스로 모든 분자를 설명 MIJ 여기서, I 및 J의 원자의 원자 사이의 행렬 요소 바로 쿨롱 힘이다

승인? 그리고 대각선에, 우리는 몇 가지, 24에 I를 택일 한 24은 아나 톨 때문이다 그리고 당신이 그것에 대해 알고 싶다면, 당신은 아나 톨 폰 릴리 엔 펠트을 초대합니다 그래서 지금이 분자를 나타내는 행렬이다

이제 우리는 우리가 일을 비교, 기계 학습을 주는거 객체를 비교 우리는 또한 행렬을 비교할 수 있습니다 우리는이에 대한 Frobenius의 규범을 지금은, 물론,이 사람들은 약간의 모험 싶었다

그들은 음, 신경 네트워크를 사용할 수 있도록했다 이제 정말 뭔가를 해보자 [AUDIO OUT] 멋진 기계 학습 방법 그리고 아니, 아니, 말했다

그냥 간단하게 뭔가를 할 수 있습니다 의 커널 능선 회귀 해 보자 이 커널 능선 회귀 작동하지 않는 경우 때문에, 그것은 아무것도 작동하지 않습니다 그래서 우리는 단지 분자에 가우시안 범프를 넣어 분자 사이의 거리

그리고 당신은 말의 에너지가 당신의 추정치를 얻을 수 단지 모든 가우시안 범프를 통해 합산하여 분자 각각의 알파와 그리고 당신은 당신의 행렬을 반전시켜 그들을 얻을 우리는 실제로 전 – 한 그래서 사실, 알렉스 Tkachenko 보낸 사람이했다 그는 막스 플랑크의 슈퍼 컴퓨터를 사용했다 이 7,000 시간 5 시간 동안 실행하자 그런 다음 우리는 일부 데이터를 가지고있다 우리는 그것의, 말, 1000 데이터 점을

훈련을 위해 사용합니다 그리고 우리는 6,000 남아 보면 및 [AUDIO OUT]을 우리가 측면에서 좋은 결과를 얻을 수 있는지 확인 예측 질의 그리고 당신이 볼 수있는,이 샘플의 수입니다 이것은 평균 절대 오차이다 chemists–하는 과실 K에서 그것은 측정 할 수있는 관련 양입니다

그래서 프로그램 [AUDIO OUT] 11이었다 프로그램의 마지막 주에 우리는, 우리는 피에르 [에 논문을 제출? 문자의 엘?] 장교 그리고 그것은 전 – 그것은 월에 출연했다 그래서 몰 당 10,000 칼은 결과였다 그리고 나중에, 우리는 NIPS에서 일을했다 우리는 몰 당 3K 칼을 얻었다 이제 우리는 몰 당 13K 칼이있다

그리고 최근의 NIPS 제출 몰 당 03k 칼이다 이 아래 몰 당 1,000 칼로리 인 경우 화학자들은 행복하다 이것은 그들이 화학 정확도 부르는 것입니다 따라서이에 대한 걱정 일을 interest– 왜이 일을해야한다고? 승인? 내 말은, 훈련에 의해 이론 물리학 해요, 그래서 나는 이것에 대해 깊이 걱정입니다

그러나 불행하게도,이 대답 할 수 없다 이것은 우리가해야 할 수도 깊은 질문 몇 년 더 알아낼 수 있습니다 우리가 그것을 알아내는 경우에, 당신은 [AUDIO OUT]을 듣게 될 것입니다 그래서 우리가 지금 더 모험적인 가정 해 봅시다 방법으로

그리고 우리가 사용하는 방법 중 하나는 깊은 신경망이었다 그것은 텐서 신경 네트워크이었다 이에 읽어 싶다면 이것은 할까 이었다 이것은 자연 통신에 출판되었다 올해 초

그래서 아이디어는, 다시, 당신은 분자를 가지고있다 당신은 그것에서 기능을 얻을 그래서이 쿨롱 거리와 같다 그런 다음 모델은 이제 조금 복잡 보인다 승인? 그리고 나는 그러니까

생각 나는 조금 나중에 시작했다 그러나 나는 또한 끝날 때가 할 수 있습니다 그래서 당신은 질문의 세부 사항에 대해 물어 수 있습니다 나중에

그래서 아이디어는 [AUDIO는 OUT] 당신의 많은입니다 여기서 [에 알 수있다? VEC?] 맞죠? 어디 [에? VEC η] 알고리즘이며, 당해 분야의 상태 즉, 텍스트에서 표현을 변환 의 vectorial 하나 컨텍스트를 포함 따라서이 텍스트 때문에 매우 복잡하다 복잡한 짐승이다 자연 언어 처리의 사람들은 물론, 알고 즉 자신의 사업입니다 그래서 화학은 복잡한 짐승이다

당신은 원자와 환경을 가지고 있기 때문에 따라서 원자 앉고 주변의 다른 원자와 상호 작용하여, 하지만, 주변의 원자 아니다 뿐만 아니라 전체 분자의 원자이다 이 솔루션에 있는지 그리고 물론, 그것은 더 악화입니다 권리? 그래서이 모델의 아이디어는 find– 실제로이었다 표현을 배울 수 있습니다 쿨롱의 행렬 표현 그래서 아주 순진한 사람이었다

[AUDIO OUT 일 여기에서 표현을 배우고 싶습니다 유사한 방법으로 어디에 [에? VEC?] 하지만 화학 공간입니다 승인? 그래서 우리는 다음에서이 작업을 수행 그래서 여기이 구조는 반복적이다 승인? 그래서 우리는 거리가있다

따라서이 하나 개의 원자를 나타낸다 그리고 당신은 얼마나 많은 원자에 대한 그래프를 반복 할 수 있습니다 당신은 분자 내에있다 그래서 당신은 기본적으로 대략적인 시도 3 차원 차원의 저 차원 공간에서 공간이 얼마나 원자 사이의 거리 [AUDIO OUT] 분자가 표현된다 그들은 바로 분산되어 있는가? 그리고 당신은 몇 가지 매개 변수를 확장합니다 승인? 그럼 당신은 우리가 상호 작용 층 부르는이 점을 넣어

그래서 우리는이 정보를 가지고 가고, 이 중 첫 번째 레이어에, 우리는 원자에 그냥보고 싶은데 원자 표현 그런 다음 우리는 다시 같은 이야기를 할 우리가 원자 표현에서 가져온 것에 피드 그리고,이 개 원자와 더 사이의 상호 작용을 얻을 세, 4, 그리고 우리는 잠시 동안이 작업을 수행 승인? 그래서이 부분 확인을 건너 뜁니다 그래서 어떤 식이다

그러나 실제적으로, 이것은 당신의 표현처럼 당신은 하나 개의 원자 하나 [AUDIO OUT]에 대한 구축하고있다 이것은의 다음 층에 공급 정확히 무게 공유 및 모든과 같은 층 그리고 당신은 원자들 사이의 상호 작용을 가지고있다 그리고 당신이 다시 많은 시간을 승인? 그럼 당신이 볼 수있는,이 잘 확장 모델입니다

그래서 당신은 더 많은 예제를 가지고 일이면, 그럼 그냥 원자 환경을 복용 15 킬로 칼로리로 가져옵니다 상호 작용을 가지고가는 것은 당신에게 낮은 가져옵니다 권리? 어떤 많은 이해 화학 때문에 채권 모두에 관한 것입니다 이 방법 그래서, 우리는 몇 가지 데이터 세트에 훈련 할 수 있습니다

예를 들면, 25,000 화합물하고 우리는 예측할 수 무엇 [AUDIO OUT] 화학 물질 공간 그러나 동일 모델, 우리는 또한 수 분자 역학라고 뭔가 따라서이 하나 개의 분자입니다 분자는 주위를 흔들 승인? 그래서 당신은 시간이 지남에이 분자 역학 궤도를 가지고있다

그래서 다시,이 얻을 매우 비싸다 권리? 그리고 몇 개의 데이터 포인트로, 비슷한 방식으로 배우려고 분자 동적 시뮬레이션을 수행합니다 물론, 당신은 분자 동역학 시뮬레이션을 수행 할 수 있습니다 매우 빠르게 다음, 신경 그물 당신이 보면, 당신은 예측 볼 수 있습니다 그리고 진정한 곡선

승인? 그래서 잘, 당신은 차이 같은 것을 볼 수 있습니다 이제, 흥미로운 질문이 모델을했다한다 즉 [AUDIO OUT] 에너지를 훈련,했다 이 모델은 실제로 뭔가를 배울 물리학이나 화학에 대해? 승인? 결국, 그것은 좋은 것 때문에이하는 매우 잘 예측 모델을 얻을 수 있습니다 일부 화학 통찰력 그것에서 아마도 [AUDIO OUT]가 아니라 그리고 누군가가 DFT에 태그를 잃었다 그러나 그렇게 보이지 않았다

그래서 우리는 우리가 훈련 한 모델을 사용했다 그리고 지금 우리는 테스트 비용 같은 것을 넣을 수 있습니다 신경망 모델 그리고이, 우리는 가능성을 계산할 수 있습니다, 그리고 잠재력은 따옴표로 지금이다 화학 가능성 그것은 화학 폭발 지형이기 때문에 이 단어를 사용하지 않을 경우 따옴표에 넣어

그래서 당신은 수소 원자를 가지고 있다고 가정합니다 그리고 당신은 지금 벤젠 살펴 볼 수 있습니다 이 수소 원자에 결합하고 싶은 곳을보고? 어디 탄소 원자에 결합 하시겠습니까? 그래서 당신은이 모든 질문을 할 수 있습니다 그리고 음, 우리는 화학을 수행하는 방법이 모델을 말하지 않았다 그것은 단지 좌표로부터 에너지를 예측한다 승인? 그래서 흥미롭게도, 우리는 더 재미있는 일을 할 수 그뿐만 아니라 달리 할 수 ​​있기 때문에, 바인딩보다

예를 들어, 우리는 모든 화합물을 취할 수 그게에서 벤젠 고리를 가지고있다 그들은 방향족라는 것입니다 우리는 이들의 방향족 볼 수 있습니다 우리는 우리의 모델에 따라 그들을 주문할 수 있습니다 이것은 전혀 훈련되지 않았습니다 그것은 암시 적으로 배웠다

그리고 화학 사람들은 우리의 모델은 무엇에 대해 행복하다 나는 당신에게 그것에 대해 많은 것을 말할 수 없다 나는 화학자 아니에요 때문에 그 누구도 완벽하지 않아 그래서하지만 흥미롭게도, 우리는 [AUDIO OUT]는 그렇게, 그러나 우리는 또한 권리, 그룹 거기에 대해 생각 할 수 있습니까? 그리고 우리는 분자에 대해 생각하고자하는 그런이 가장 안정적 그룹 또는 뭔가를 포함한다

승인 어쨌든, 그래서 지금은 종료됩니다 나는 비선형 모델을 설명하는 것은 필수적이다 왜 말을하려고합니다 그리고 신경 네트워크를 개선에도 직교이다 모델 그래서 우우 지금은 약간의 뻔뻔한 자기 광고를 할 수 있습니다

우리는 질문을 NIPS에서 워크샵을해야합니다 지금 우리는 지금 무엇을하는 해석 모델을 가지고? 그래서 우리는 그것으로 무엇을 할 수 있습니까? 그래서 우리는 좋은 사진을 볼 수 있습니다 우리는 모델 자신을 설득 할 수 옳은 일을하고 있습니다 우리는 그들이 문제를 해결하는 방법을 이해할 수있다 하지만 어쩌면 더있다 그는 NIPS에서 논의되고있다

[AUDIO OUT] 그래서 절대적를있다 상기 과학 및 의학에 블랙 박스를 열어야합니다 이론이있다 이것은 내가 간략하게 언급 세부 확장이다 그리고 난 이해 모델을 생각 AI와 과학의 발전을 위해 정말 필수 이해 인텔리전스 첫 번째 장소입니다 이와 그래서, 난 그냥 내 이야기를 종료하고 질문을 부탁드립니다