오늘의 주제

• 딥러닝의 수학적 개념
• 모델 학습 프로세스
• 손실과 옵티마이저의 종류와 사용법
• 텐서플로, 케라스 사용법

오늘의 목표

• [ ] 텐서의 연산과 데이터 종류에 따른 텐서의 형태를 이해한다.
• [ ] 기하학적 해석가능함과 매니폴드 개념을 연결지을 수 있다.
• [ ] 오차역전파법을 이해하고 체인룰을 통한 역전파 과정을 계산그래프로 설명할 수 있다.
• [ ] 모델의 학습 과정을 이해하고, 코드로 구현한다.
• [ ] 옵티마이저, 손실, 평가지표의 종류와 특성을 이해한다.

오늘의 미션

1. 다차원 넘파이 배열 텐서를 통해 데이터를 표현합니다.

   • 텐서의 핵심 속성에는 3가지가 있습니다.

     • (미션)텐서의 속성에는 무엇이 있나요? 각각이 의미하는 것을 무엇인가요?

       텐서의 3가지 핵심 속성
       1. 축의 개수(랭크)
       2. 크기(shape)
       3. 데이터 타입(dtype)
       

   • 텐서의 실제 사례로 벡터데이터, 시계열 ,이미지, 동영상 등이 있습니다. 데이터의 특징에 따라 표현되는 텐서의 속성이 달라집니다.

     • (미션) 주식의 가격을 텐서로 표현한다고 했을 때, 그림2-4(이미지 데이터 텐서) 처럼 표현해보세요. 1분 데이터를 누적해서 1일 데이터로, 이를 누적해서 1년 데이터로 표현해보세요.

     1분 간 데이터 : [현재 주식 가격, 1분 최고 가격, 1분 최저 가격], (3, )
     1일 간 데이터 : [
     [현재 주식 가격, 1분 최고 가격, 1분 최저 가격], 
     [현재 주식 가격, 1분 최고 가격, 1분 최저 가격] ... * 390]
     1년 간 데이터 : [
     	[
     	[현재 주식 가격, 1분 최고 가격, 1분 최저 가격],
     	[현재 주식 가격, 1분 최고 가격, 1분 최저 가격]... * 390], 
     [
     	[
     		[현재 주식 가격, 1분 최고 가격, 1분 최저 가격]], 
     [
     	[현재 주식 가격, 1분 최고 가격, 1분 최저 가격]] ... * 390] ... * 365 ]
     

   • 텐서의 연산은 기하학적 해석이 가능하고, 비선형 함수가 추가되고 연산이 깊어질 때, 딥러닝모델을 매니폴드의 개념으로 설명할 수 있습니다.

     • (미션) 매니폴드의 개념을 더 조사해보고 팀원들과 이해한 내용을 토론하여 하나의 설명으로 정리해봅시다. 잘 설명하는 시각자료를 찾아 추가합니다.

       고차원의 데이터를 비교적 간단하게 연산하기 위해 더 낮은 차원으로 데이터를 변환시키는 작업
       

       

2. MNIST 데이터셋을 분류하는 간단한 모델을 통해 학습, 역전파, 가중치 업데이트 등의 과정을 살펴봅니다.

   • 사용한 데이터는 어떤 변환을 거쳐 입력데이터로 사용되었는지 살펴보세요.
   • 모델의 dense 층은 size가 각각 몇이며, 활성화함수로 무엇을 사용하였나요?
   • 옵티마이져, 손실, 평가지표는 무엇을 사용하였나요?
   • 이러한 단계는 그림 2-26 으로 표현될 수 있습니다.
     • 그림 2-26 에서 각 요소(입력 X, 층, 가중치, 예측 Y, 손실함수, 옵티마이저 등) 가 무엇인지 코드(p102, p103 의 첫 번째 예제), 데이터 shape 등과 연결지어 이해해봅시다.