On Causal and Anticausal Learning
Summary: Prediction 방향에 따라 Causal learning과 Anticausal learning이 있다. Semi-supervised Learning의 경우 causal이 아닌 anticausal learning에서만 작동한다. 통계적 상관성은 우리가 알지 못하는 Causal structure 때문에 발생합니다. Causal...
euphoria
Towards Causal Representation Learning
이 논문은 나온지 한 달 정도 된 최신의 논문으로, Causal Learning을 위한 방향들, 그리고 중요한 가정과 이를 이용해 할 수 있는 태스크들을 소개하였습니다. 전체적으로 기존의 ML과 달리 Causal Learning이 할 수 있는 것들을 비교하며 무엇이 가능하게 했는지 기술하고 설명하였습니다. 이 글에서는 이 논문에 대해 소개하고자 합니다...
The Seven Tools of Causal Inference for Machine Learning
이 글에서는 Causal Inference에 대한 소개를 Judea Pearl 교수님의 논문(리포트)인 “The Seven Tools of Causal Inference with Reflections on Machine Learning”을 인용하여 설명하고자 합니다. 1. Intro 현재 많은 머신러닝 방법들의 가시적인 성과들이 나타나고 있습니다....
Relevance Vector Machine
먼저, 이 글은 PRML (CH7) 공부를 바탕으로 작성된 글입니다. 따라서, 간혹 틀리다거나 더 좋은 해석이 있다면 편하게 댓글 부탁드립니다! Relevance Vector Machine Summary! RVM은 Bayesian SVM입니다! 특징: evidence approximation 과정에서 SV...
Gaussian Process
먼저, 이 글은 (대부분) PRML (CH6) 및 GPML (CH2)공부를 바탕으로 작성된 글입니다. 따라서, 간혹 틀리다거나 더 좋은 해석이 있다면 편하게 댓글 부탁드립니다! 이 글에서는 Gaussian Process와 Gaussian Process를 Regression과 Classification에 적용하는 Gaussian Process ...
Semi-Supervised Learning and MixMatch
이 글에서는 Semi-Supervised Learning이란 무엇이고, 이와 관련한 연구 중 하나인 MixMatch 논문과 후속 연구들에 대해 소개하고자 합니다. 먼저 Semi-Supervised Learning에 대해 소개하고, 그 다음 논문 리스트이자, 이 글의 순서는 다음과 같습니다. MixMatch: A Holistic Approach...
Introduction to Multi-Task Learning
이 글에서는 Multi-Task Learning이란 무엇이고, 어떤 장점을 가지며 Classical 하게 어떤 방법들을 가지고 있는지 소개하고자 합니다. 다음 글에서는 Deep Learning에서 MTL 방법들을 소개하겠습니다. 전체적으로 글의 흐름은 하나의 큰 물음에 대해 MTL이 어떻게 설명하고, 해결하는지를 설명하면서 진행합니다. 1. Int...
Uncertainty in Bayesian Deep Learning
이번 글에서는 Yarin Gal (및 그 외)이 쏘아올린 공.. 바로 Uncertainty에 대하여 소개하고자 합니다. 이를 소개하기 위해 그의 팀에서 나온 논문 몇가지를 함께 소개하고자 합니다. 논문 리스트이자, 이 글의 순서는 다음과 같습니다. What Uncertainties Do We Need in Bayesian Deep Learni...
Bayesian Logistic Regression
먼저, 이 글은 PRML (CH4) 공부를 바탕으로 작성된 글입니다. 따라서, 간혹 틀리다거나 더 좋은 해석이 있다면 편하게 댓글 부탁드립니다! 분류 모델인 로지스틱 회귀에 Bayesian Approach를 적용해봅시다. Bayesian Linear Regression과 다른 점은, Gaussian Approximation을 위해 Lapla...
Bayesian Linear Regression
먼저, 이 글은 PRML (CH3) 공부를 바탕으로 작성된 글입니다. 따라서, 간혹 틀리다거나 더 좋은 해석이 있다면 편하게 댓글 부탁드립니다! 이 글에서는 우리가 흔히 알고 있는 Linear Regression에 Bayesian Approach를 적용하는 Bayesian Linear Regression에 대해 다룹니다. Linear Reg...