구글 코랩을 사용하다가 비용 부담이 되어 좀 더 저렴한 런팟을 사용해본 과정을 기록했습니다. 추후 더 사용해보며 글을 업데이트할 예정입니다.2024. 9. 16 최초작성2024. 9. 16 SSH를 사용한 접속2024. 9. 17 Visual Studio Code를 사용한 접속런팟 간단히 사용해보기SSH를 사용한 접속Visual Studio Code를 사용한 접속영상이 편하신분은 유튜브 영상을 보세요. SSH를 사용한 접속과 Visual Studio Code를 사용한 접속은 포스트를 참고하셔야 합니다. https://youtu.be/usSzB7oST3M 런팟 간단히 사용해보기 1. 회원 가입을 먼저 해야 합니다. 다음 주소에 접속하여 화면 중앙에 보이는 Get started를 클릭하거나 화면 오른쪽..
XGBoost와 표준화(standardization)를 하나의 파이프라인으로 생성하여 학습을 진행하면 나중에 파이프라인으로 추론시 표준화까지 처리됩니다. 포스트에서 사용하고 있는 스케일러인 StandardScaler 외에 RobustScaler, MinMaxScaler, Normalizer, QuantileTransformer, PowerTransformer 도 테스트를 통해 사용해보세요. 데이터셋에 따라 잘 동작하는 스케일러가 다릅니다. 테스트를 통해 스케일러를 적용 전후 또는 서로다른 스케일러 적용시 Optuna의 최적 파라미터값이 같을 수 있다는 것을 확인했습니다. 하지만 모델 추론시 차이가 발견되었습니다. 주의할 점은 데이터에 따라서는 이마저도 별차이가 없는 경우도 있습니다.2024. 7. 4..
Optuna를 사용하여 XGBoost의 최적 하이퍼 파라미터 구하는 예제코드입니다.2022. 03. 12 최초작성2024. 5. 292024. 7. 4import pandas as pdfrom sklearn.model_selection import train_test_splitfrom sklearn.metrics import accuracy_scorefrom xgboost import XGBClassifierimport optunafrom sklearn.datasets import load_irisRANDOM_SEED = 42# Iris 데이터셋 로드iris = load_iris()df = pd.DataFrame(data=iris.data, columns=iris.feature_names)df['la..
코랩을 사용해본 후기입니다. 2022. 11. 10 최초작성2024. 2. 172024. 6. 19 변경된 하드웨어 반영. 일부 사용률도 변경됨글 작성 시점에서(2024. 6. 18) Colab 요금제 입니다. Colab Pro를 구독하지 않고 필요할때마다 충전해서 사용하는 Pay As You Go를 사용하고 있습니다. 이 글을 처음 작성할때에는(2022. 11. 10) Colab Pro를 구독했었습니다. 코랩 프로의 경우엔 매달 9.99달러가 지불되며 컴퓨팅 단위 100개를 받습니다. 신용카드를 등록한 후, 컴퓨팅 단위 100개를 구입할 수 있습니다. 사용가능한 하드웨어 가속기 종류는 다음과 같습니다. 성능은 A100 GPU > L4 GPU > T4 GPU 순입니다. 성능이 좋을 수록 컴퓨..
XGBoost에서 GPU(cuda)를 사용하기 위해 테스트한 과정을 기록해놓았습니다. 선택적으로 필요한 부분만 확인하여 활용하세요.글 작성에 사용한 XGBoost 버전은 2.0.3입니다. 최초작성 2024. 6. 13결론부터 적어보면 큰 데이터를 학습/추론할때에는 GPU를 사용시 성능이 개선되었지만 작은 데이터를 학습/추론시에는 GPU를 사용해서 성능이 개선되기는 겨녕 오히려 CPU를 사용할때보다 안좋은 성능을 보였습니다. 우분투의 경우엔 XGBoost에서 GPU 사용 테스트시 문제가 없었지만 윈도우에서는 XGBoost에서 GPU를 제대로 사용못하는 현상이 있었습니다. CUDA가 설치되어 있는 우분투와 윈도우에서 테스트를 진행했습니다. CUDA 설치 과정은 다음 포스트를 참고하세요. 포스트에선 CUD..
혼동행렬(confusion matrix)과 모델을 평가하는 방법인 특이도, 민감도, 재현율, 정확도, 정밀도를 정리했습니다. 2021. 12. 9 최초작성2022. 2. 3 2024. 3. 10 혼동행렬(confusion matrix) 내용 추가2024. 3. 112024. 3. 132024. 3. 20본 포스팅에서 다루는 모델 평가 방법을 계산하려면 우선 아래 표에 있는 TP, FP, TN, FN - 4가지에 해당되는 개수를 각각 구해야 합니다. 4가지 경우는 다음 두가지를 기준으로 합니다. Positive는 양성으로 판정을 의미, Negative는 음성으로 판정을 의미. True는 판정이 옳았음을 의미, False는 판정이 틀렸음을 의미.혼동행렬에서 표시하는 다음 구조에 맞도록 표를 ..
RandomizedSearchCV를 사용하여 XGBoost의 최적 하이퍼 파라미터 구하는 예제코드입니다.최초작성 2024. 5. 30 import pandas as pdimport numpy as npfrom sklearn.model_selection import train_test_split, RandomizedSearchCVfrom sklearn.metrics import accuracy_scorefrom xgboost import XGBClassifierfrom sklearn.datasets import load_irisRANDOM_SEED=42# Iris 데이터셋 로드iris = load_iris()df = pd.DataFrame(data=iris.data, columns=iris.feature..
CoreNet으로 OpenELM 모델을 사용하는 방법을 다루고 있습니다.Macbook M1에서 진행했지만 M2, M3에서도 가능할거라고 예상됩니다. 시간날때마다 CoreNet을 살펴보며 글을 보완할 계획입니다. 참고https://github.com/apple/corenet2024. 5. 5 최초작성글작성 시점에 CoreNet 버전은 0.1.0입니다.0. 예제를 실행시켜보려면 주피너 노트북 개발 환경을 만들어야 합니다. 본 포스트에서는 아직 살펴보지 않지만 튜토리얼 예제들이 주피터 노트북 파일입니다. Miniforgea를 사용한 Conda 환경도 같이 설치하게 됩니다. Macbook M1에 Visual Studio Code + Jupyter Notebook 개발 환경 만들기https://webna..
Keras에서 이미지 데이터셋을 불러오는 두가지 방법인 flow_from_directory와 flow_from_dataframe에 대한 간단한 예제코드입니다. 2022. 4. 30 최초작성 2024. 4. 21 데이터셋으로 다음 링크에 있는 것을 사용했습니다. https://www.microsoft.com/en-us/download/details.aspx?id=54765 소스코드가 있는 폴더에 다음처럼 데이터셋이 위치하는 상태에서 코드를 실행해야 합니다. 이미지를 불러오는 두가지 방식을 테스트로 동작시켜보는 코드이기 때문에 CNN의 레이어는 단순하게 되어있고 에포크는 20번으로 되어있습니다. 데이터셋을 사용시 다음 에러가 발생하기 때문에 이 데이터셋을 사용하기 전에 오류가 있는 이미지 파일을 삭제합니다...
AUC - ROC Curve에 대해 다루고 있습니다. 2022. 4. 26 최초작성 2024. 4. 1 아래 링크의 원문을 바탕으로 이해한 내용을 추가하여 작성되었습니다. https://towardsdatascience.com/understanding-auc-roc-curve-68b2303cc9c5 추가로 참고한 사이트입니다. https://bioinformaticsandme.tistory.com/148 머신 러닝의 분류 문제에서 성능을 확인하거나 시각화가 필요할 때 AUC(Area Under Curve) - ROC(Receiver Operating Characteristics) Curve를 사용합니다. 혼동행렬(Confusion Matrix) TP, FP, TN, FN - 4가지 경우는 다음 두가지를 ..