주절주절

창조는 모방의 어머니 였나? CNN 튜닝하다가 막히는 부분이 있어서 구글링 하다가 원하는 코드가 있어서 발췌해본다. 내가 하고자 했던 것은 CNN Convolution Layer를 몇개쯤 지정을 해야 하는지 였다. 그리고 Layer별 필터수를 각각의 Layer별로도 알아야 했다. 그래야 Before / After를 해볼 수 있지 않을까? 아래는 num_layer 만큼 layer를 추가해보고, 추가한 Layer의 필터를 num_filter Array에 지정해주고 있다. 첫번째 Layer는 고정으로 연결해주고, Max Pooling 해준다. 그리고 Convolution Layer만 연속적으로 추가해주고, 이후에 Max Pooling, Dropout 이후 Dense층에 연결하고 있다. 정리하면 아래와 같이 되..

머신러닝 딥러닝/Keras 2022. 1. 23. 21:38

tensorflow에서 분류 문제를 위해 입력 데이터의 class probability를 predict 해주던 predict_classes는 2.6 이상 버전 부터 더 이상 지원하지 않는다. 하여 2.6 이상에서 predict_classes를 대신해서 사용하는 방법에 대해 알아 보도록 하자. 분류는 흔히 둘 중 하나를 선택하는 것(binary classification)과 여러개 중에 하나를 선택하는 경우 (multi class classification)가 있기 마련이다. 그 두가지 방법은 acivation funtion으로 각각 sigmoid와 softmax 를 사용하게 되는데 그 두가지 방법에 대해 predic_classes를 대신해 사용할 수 있는 방법은 다음과 같다. 1. softmax 을 사용..

Tips 2022. 1. 21. 22:50

tensorflow에서 GPU를 제대로 로딩하는지 확인 하는 몇가지 방법이다. 어느 것으로 하든 GPU가 제대로 보인다면 설치가 정상적으로 된 것이고 GPU를 이용해서 모델을 학습할 수 있다는 것을 의미한다. 1. list_local_devices() from tensorflow.python.client import device_lib print(device_lib.list_local_devices()) print("Num GPUs Available: ", len(tf.config.list_physical_devices('GPU'))) 2. list_physical_devices('GPU') tf.config.list_physical_devices('GPU') 3. is_build_with_cuda() ..

머신러닝 딥러닝/Tools 2022. 1. 18. 16:38

NVidia Graphic Driver, CUDA 그리고 cuDNN을 구글이 문제 없다고 한 버전을 제대로 설치했음에도 tensorflow에서 GPU를 인식하지 못하는 경우가 있다. 문제는 tensorflow를 conda 명령으로 설치하면서 발생했다. 빠른 해결 방법은 다음과 같다. 1. tensorflow를 conda 명령으로 삭제 한 후 conda uninstall tensorflow 2. pip 명령으로 tesorflow 설치 pip install tensorflow==2.6.0 3. GPU 로딩 확인 문제가 발생했을 때에는 아래의 명령으로 tensorflow를 설치 했었다. conda install -c conda-forge tensorflow==2.6.0 anacoda 환경에서는 conda명령을..

머신러닝 딥러닝/Tools 2022. 1. 18. 16:20

환경 오류로 "Another metric with the same name already exists." 라는 오류가 뜨는 경우는 keras가 두개 이상 설치되어 있는경우이다. 해결 방법은 keras를 uninstall 하고나서 재 설치 하면 된다. 1. keras를 uninstall 한다. pip uninstall keras 2. 특정 keras 버전을 설치한다. ==는 2.6.0만 설치하라는 구문임. pip install keras==2.6.0 생각해보니, 초기 설치 시 tensorflow를 conda 명령으로 설치했으나 GPU를 인식하지 못하는 문제로 conda uninsall 하고 다시pip로 keras를 설치 했는데, clean remove가 되지 않은 모양이다. 위 화면을 보면 2.7.0이 깔..

머신러닝 딥러닝/Tools 2022. 1. 18. 15:51

optuna는 딥러닝의 hyperparameter를 자동으로 최적화 해주는 툴이다. learning rate, dropout, filter 수 등 최적화 하고 싶은 parameter 들에 대해서 값의 범위를 지정하고 모델을 돌려볼 수 있다. 튜닝하고자 하는 값이 많으면 많을 수록 study 수를 늘려야 하는데, 시간이 많이 걸린다. 아래는 최적화 과정이 다 끝나고 나서 그 값을 저장하는 방법이다. 많은 시간을 들여 진행한 결과를 한꺼번에 날려 버리는 일이 없었으면 좋겠다. # SAVE import joblib joblib.dump(study, "optuna_tuning_model.pkl") # LOAD & USE load_study = joblib.load("optuna_tuning_model.pkl")..

카테고리 없음 2022. 1. 12. 20:38

주피터 노트북을 사용하여 모델 학습을 하는 중에 새로운 가상환경을 만들어서 모델을 돌려야 하는 경우가 있다. 며칠동안 돌고 있는 기존 노트북 세션을 종료하면 안되기에.! 이럴 때는 그냥 jupyter notebook만 다시 실행하면 알아서 다른 포트로 세션을 열어 준다. 혹은 포트를 지정해서 실행 해줘도 된다. conda로 새로운 가상환경을 만들어 주고 (conda create ...) 해당 가상환경을 activation 시켜주고 (conda activate ....) jupyter notebook 실행 ★ 이미 실행 중이라면 +1하는듯. 아니면 실행 시 지정가능 jupyter notebook --port 10000 새로운 포트 허용 (방화벽으로 막혀 있는 경우) 아나콘다 가상환경이나 다른 팁들은아래 참..

카테고리 없음 2022. 1. 12. 20:32

주피터 노트북에서 kernel을 여러개 만드는 방법이다. 주피터 노트북에서의 커널은 우리가 알고 있는 그런 커널이 아니다. 주피터 노트북 application을 실행하기 위한 실행 환경이라고 생각하면 될 것 같다. 아시다시피 주피터 노트북에서는 여러 언어 (파이썬, R 등)를 작성할 수 있는데, 이것은 각각의 주피터 application과 그 application을 동작하게 하기 위한 환경 (kernel)이 각각 연결 되어 있기 때문에 가능하다. 만약 주피터 노트북에서 하나의 환경만 사용한다면 구지 kernel을 추가할 필요는 없다. 기본적으로 ipykernel 은 지원하고 있다. 커널을 추가 하게 되면 우리는 주피터 노트북의 홈에서 커널을 선택할 수 있다. 명시적으로 선택할 수 있기 때문에 자신의 환경..

Tips 2022. 1. 12. 00:17