Google Machine Learning Bootcamp 2022/Neural Networks and Deep Learning5 4. Deep L-layer Neural Network Deep L-layer Neural Network layer L개를 가지고 있는 neural network를 L-layer neural network라 한다. Why Deep Representation? 1. low-level으로부터 high-level로 점차 output을 끌어올림 (우리가 원하는 output이 high쪽이라고 했을 때) 2. 얉지만 기하급수적으로 큰 hidden units을 필요로하는 function을 작은 hidden units을 가진 L-layer deep neural network로 표현할 수 있음. Parameters vs Hyperparameters Parameters: weights, bias Hyperparameters: Learning rate, iterations, h.. 2022. 7. 4. 3. Shallow Neural Networks Neural Network Representation input layer와 output layer을 제외한 나머지 layer를 hidden layer라 부른다. input layer를 제외한 hidden layer와 output layer를 갯수로 어떤 neural network를 # layer neural network라 부른다. Computing a Neural Network's Output logistic regression 같은 경우 한 노드에 두 step의 computation이 있다. 하나는 \( z = w^Tx + b \)를 계산하는 것이고 다른 하나는 \( a = \sigma(z) \)를 계산하는 것이다. Activation Functions activation function의 종류는 .. 2022. 7. 2. 2. Neural Networks Basics #2 Python and Vectorization Vectorization - Vectorizing Logistic Regression's Gradient Descent feature이 여러 개 있다고 했을 때, iteration을 이용해 derivative를 구하는 것보다 vector형태로 만들어 python numpy의 method를 사용하는 것이 유리하다. 모든 게산을 해주어야 하는 것은 똑같지만 하드웨어, 소프트웨어적으로 해당 계산이 최적화되어 있기 때문에 계산속도가 월등히 빠르다. Broadcasting in Python Broadcasting — NumPy v1.23 Manual The basic operation of vector quantization calculates the distance .. 2022. 6. 29. 2. Neural Networks Basics #1 Logistic Regression as a Neural Network Binary Classification 어떤 데이터 x가 0인지 1인지를 분류 (ex. 사진이 고양이 사진인지 아닌지를 판별, ...) Logistic Regression Binary classifiction을 위해 activation function으로 sigmoid function을 추가하여 threoshold를 기준으로 0 또는 1을 판별 Logistic Regression cost function Logistic regression model의 output \( \hat{y} \)이 실제 \( y \)를 얼마나 잘 예측하는지 loss function으로 측정. L2 loss function은 logistic regression.. 2022. 6. 28. 이전 1 2 다음
