Deep Learning & Machine Learning/LLM Fine Tuning2025. 3. 31. 23:29Gemma3 4B 모델을 한국어 질문 답변 데이터셋으로 파인튜닝하기
허깅페이스에 있는 Gemma3 4B 모델을 한국어 질문 답변 데이터셋으로 파인튜닝해봤습니다.파인튜닝은 무료 버전 코랩에서 진행했습니다. 코드를 자세히 설명하기보단 진행과정을 어떻게 파인튜닝을 진행하는지 과정만 다루었습니다.사용한 모델과 데이터셋은 다음과 같습니다.사용한 모델 - google/gemma-3-4b-it 사용한 데이터셋 - KorQuAD/squad_kor_v1 https://youtu.be/fvOF5SsFigk
Deep Learning & Machine Learning/LLM Fine Tuning2024. 10. 3. 12:35Llama 3.2 3B fine tuning 해보기
Llama 3.2 3B를 파인튜닝 해보는 과정을 다루고 있습니다. 최초작성 2024. 10. 3 1. 허깅페이스 사이트에 회원가입을 해야 합니다. https://huggingface.co/ 2. 다음 링크에 접속하여 Llama 3.2 3B 모델 접근 권한을 얻어야 합니다. https://huggingface.co/meta-llama/Llama-3.2-3B 버튼을 클릭합니다. 다음 정보를 입력하고 Submit 버튼을 클릭합니다. 이제 모델 접근을 허용한다는 메일이 오기를 기다려야 합니다. 3. 공개 모델이 아닌 경우엔 허깅페이스 액세스 토큰을 얻어야 합니다. 오른쪽 위에 있는 프로필 아이콘을 클릭 후, 메뉴에서 Settings를 선택합니다. 왼쪽 메뉴에서 Access Tokens를 선택합니다. Create..