머신러닝

    가중치 초기화의 정의와 방법론

    본 게시물은 2021.04.15. 에 작성되었으며, 블로그를 이전하며 현재 날짜로 등록되었습니다. 본 게시물은 CS231n(2017) lecture 6을 공부하며 정리한 내용입니다. 확률통계학 스터디에서 분포에 대해 공부하는 도중, 가중치 초기화에서 분포를 고려했던 점에 대해서 자세히 알아보기로 했다. 가중치 초기화(Weight Initialization) 우리는 모델 안에서 가중치를 학습한다. 학습하기 전의 가중치는 어떤 모양일까? 학습하기 전 가중치를 어떤 값으로 설정(초기화)하는 것을 가중치 초기화(Weight Initialization)이라고 한다. 여러 방법을 시도(가정)하면서 어떤 방법이 가장 좋을지 찾아보도록 하겠다. 0으로 초기화하자! 만약 모든 가중치를 0으로 초기화한다면 어떻게 될까? ..

    규칙기반 머신러닝

    본 게시물은 2021.03.31. 에 작성되었으며, 블로그를 이전하며 현재 날짜로 등록되었습니다. 본 게시물은 문일철 교수님의 인공지능 및 기계학습 개론 강의를 보고 정리한 내용입니다. 머신러닝의 정의 많은 경험(E)을 학습해 특정 task(T)에 대한 수행 성과가 높아진다. 경험, 데이터, 사전 지식이 많아질수록 수행 성과가 높아진다. 규칙 기반의 task를 통해 머신러닝 알아보기 완벽한 세상(perfect world)이란? 완벽한 세상 : 관측의 에러가 없다, 모든 관측이 일관적이다, random effect가 없다, 결과를 설명할 수 있는 모든 요인에 대한 경험이 있다. 야외활동 가능 여부를 위한 요인들 우리는 야외활동(EnjoySport)이 가능한가에 대한 결과(Yes/No)를 얻기 위해 어떤 요..