Learning Rate를 옵티마이저에서 셋팅하는 코드

Learnig Rate란 

Gradient Descent 를 이용하여 오차를 줄이는 학습을 진행할 때의 보폭과 같다.

 

셋팅하는 법

tf.keras.optimizers의 여러 옵티마이저 기법들의 파라미터에 있는 learning_rate를 설정하면 된다.

 

예시

learning_rate = 0.001 로 설정

def build_model() :
    model = Sequential()
    model.add(Dense(units = 64, activation = 'relu', input_shape = (8, )))
    model.add(Dense(units = 64, activation = 'relu'))
    model.add(Dense(units = 1, activation = 'linear'))

    # 옵티마이저의 learning rate 를 설정하는 방법
    # metrics 검증의 척도, 학습의 에포크가 끝날때마다 출력하게 된다.
    model.compile(tf.keras.optimizers.RMSprop(learning_rate = 0.001), loss = 'mse', metrics = ['mse', 'mae'])
    return model