FUNDAMENTAL 6. 딥러닝과 신경망의 본질
1. Deep Learning == Representation Learning?
- 딥러닝과 머신러닝의 차이는 무엇인가?
- 데이터의 '표현' 방법 : 분자, 이미지, 표, 카테고리 - 사람의 개입의 차이 정도
- 데이터의 내재된 표현과 좋은 표현을 추출한다는 의미는 무엇인가?
2. 딥러닝을 관통하는 철학
- 행동주의 : 자극 -> 행동
- 인지주의 : 자극 -> (정보처리) : 블랙박스 정보 처리 -> 행동
- 연결주의 : 지능체(백지) -> 다수의 사례를 통한 경험 -> 지능체(학습)
3. 신경망의 본질
- 블랙박스(숨겨진, 히든) 정보처리 과정
- 수학의 함수와 프로그래밍에서 말하는 함수는 본질적으로 다르지 않다.
4. 함수의 역할
- x와 y를 나타내 주는 도구 : y = 2x
- x를 변환해주는 도구 : 선형변환, 변환 후에도 선형이여야 함, 원점은 달라지지 않아야 함.
- x의 공간에서 y의 공간을 mapping 해주는 도구 : 스칼라와 벡터, one(입력)-to-one(출력), many-to-one, many-to-many,
5. 함수와 모델
- 완벽한 함수를 찾는 것이 아닌 '그나마 가장 잘 근사할 수 있는 함수'를 찾는 것.
- 모델을 어떤 함수 형태로 나타낼 것인지 함수 공간을 정하고, 그 안에서 최적의 함수를 찾아서 학습시킨다.
6. AI의 현재와 미래
- 머신러닝, 선형모델
- 딥러닝, 퍼셉트론, 다층 퍼셉트론
- 심층 신경망, 완전 연결 신경망, 컨볼루션 신경망, 순환 신경망
7. 딥러닝은 블랙박스인가 아닌가
- 블랙박스라는 주장과 블랙박스가 아니라는 주장이 있고 아직 무엇이 맞고 틀리다는건 없다.
- 머신러닝 모델에 대해 해석을 할 수 있어야 하는 이유가 무엇인가
- LIME 라이브러리 : 입력값을 조금 바꿨을 때 모델의 예측값이 크게 바뀌면, 그 변수는 중요한 변수다