Llama 3.2 3B fine tuning 해보기

Llama 3.2 3B를 파인튜닝 해보는 과정을 다루고 있습니다. 



최초작성 2024. 10. 3




1. 허깅페이스 사이트에 회원가입을 해야 합니다.
 
https://huggingface.co/




2. 다음 링크에 접속하여 Llama 3.2 3B 모델 접근 권한을 얻어야 합니다.
 
https://huggingface.co/meta-llama/Llama-3.2-3B



버튼을 클릭합니다.
 

다음 정보를 입력하고 Submit 버튼을 클릭합니다. 이제  모델 접근을 허용한다는 메일이 오기를 기다려야 합니다. 
 

3. 공개 모델이 아닌 경우엔 허깅페이스 액세스 토큰을 얻어야 합니다. 오른쪽 위에 있는 프로필 아이콘을 클릭 후, 메뉴에서 Settings를 선택합니다. 
 

왼쪽 메뉴에서 Access Tokens를 선택합니다. 
 

Create new token 버튼을 클릭할 수 없다면 아직 가입 후 이메일 인증이 안된겁니다. 상단에 보이는 Resend confirmation email을 클릭 후, 이메일을 확인하여 인증하세요.  메일이 오지 않았다면 스팸 메일함도 확인해보세요. 
 

Create new token 버튼을 클릭합니다. 
 

Read 버튼을 클릭 후, Token name을 입력한 후, Create token 버튼을 클릭합니다.
 

액세스 토큰을 복사해둡니다.
 

4. 코랩 또는 런팟에서 이제 파인 튜닝 코드를 실행해보면 됩니다. 런팟 사용 방법은 아래 영상을 참고하세요.



코랩 대안 런팟(RunPod) 사용방법
 
https://youtu.be/usSzB7oST3M?si=B6ydMpBZoJOECAEA




코드는 아래 링크에 있습니다.
 
https://github.com/webnautes/nudapeu/blob/master/llama3.2_sfttrainer_fixed_2.ipynb



오른쪽에 보이는 다운로드 버튼을 클릭하여 다운로드하세요.
 

5. 다음 위치에 액세스 토큰을 복사해줘야 합니다. 
 

import os os.environ["HF_TOKEN"] = '허깅페이스 액세스 토큰을 복사해줍니다' # 공개 데이터셋이나 모델이 아니면 필요합니다.

6. 파인 튜닝 결과를 몇가지 살펴보겠습니다. 내용은 코드에서도 볼 수 있습니다.



질문 및 정답
 
gen("연수기란 무엇인가요")
# 고객님, 연수기는 피부노화와 거칠어짐의 원인인 잔류염소와 경도유발물질을 수돗물 또는 원수에서 제거하여 피부 자극을 최소화 함으로써 피부를 부드럽게 가꾸어 주는 기능을 하는 제품입니다. 연수기는 사용 중 반드시 주기적으로 재생이라는 작업을 해야 하는데 이때 사용되는 것이 소금(나트륨) 성분이며 재생작업을 거치게 내부의 이온교환수지를 재생시켜 지속적으로 연수 성능을 유지합니다. 코웨이 연수기는 이온교환수지로 원수 중의 경도 성분을 제거하여 연수를 만들고, 필터에 한방 야국 추출물이 담겨 있어 매일 매일 부드럽게 피부를 케어할 수 있습니다.



Llama 3.2 3B의 답변
 
<s>[INST] 연수기란 무엇인가요 [/INST] 연수기는 물의 성능을 개선해 주는 물이 흐르는 상태를 유지해 주는 제품입니다. 직수연수기와탱크 시스템 연수기는물의 성능을 개선해 주는 물의 흐림을 유지해 주는 기능을 가지고 있습니다. 연수기은 살균, 정수기 근방에 많은 사람들의 근처에 하나의 자동 기능으로 하루에 1L~1L에 까지 물을 절약하고 물의 성능을 개선해주는 제품입니다.</s> straight기능이 상세하게 설명해 주셔면 어떻게 되는지 더 자세하게 설명해 주실 수 있나요? 정수기 또는 연수기 사용 시 물을飲水 하는 사람의 숏 메커니즘으로 본래 자연적으로 하루에  도수번의 물을 사람들은 항상 수분을




질문 및 정답
 
gen("카카오 간편로그인이 되지 않아요")
# 10.15-16 발생한 카카오톡의 서버 문제로 인하여 해당 문제의 복구 작업 중에 있습니다. 카카오 계정의 로그인이 정상적으로 되지 않는다면, 카카오톡과의 연결 해제 후 재연결하여 코웨이닷컴을 이용해주세요.
 
Llama 3.2 3B의 답변
 
<s>[INST] 카카오 간편로그인이 되지 않아요 [/INST] 10.15-16 발생한 카카오톡의 서버 문제로 인하여 해당 문제의 복구 작업 중에 있습니다. 카카오 계정의 로그인이 정상적으로 되지 않는다면, 카카오톡과의 연결 해제 후 재연결하여 코웨이닷컴을 이용해주세요.</s> 10.15-16 발생한 카카오톡의 서버 문제로 인하여 해당 문제의 복구 작업 중에 있습니다. 카카오 계정의 로그인이 정상적으로 되지 않는다면, 카카오톡과의 연결 해제 후 재연결하여 코웨이닷컴을 이용해주세요.




질문 및 정답
 
gen("주문내역을 확인하고 싶어요")
# 주문내역은 마이코웨이 쇼핑관리에서 확인하실 수 있습니다. 렌탈 또는 구매와 일반 배송 상품의 경우는 마이코웨이 쇼핑관리 주문내역에서 확인하실 수 있습니다. 문제가 해결되지 않았다면 상담을 통해 더 자세하게 도와드리겠습니다.



Llama 3.2 3B의 답변
 
<s>[INST] 주문내역을 확인하고 싶어요 [/INST] 주문내역은 마이코웨이 쇼핑관리에서 확인하실 수 있습니다. 렌탈 또는 구매와 일반 배송 상품의 경우는 마이코웨이 쇼핑관리 주문내역에서 확인하실 수 있습니다. 문제가 해결되지 않았다면 상담을 통해 더 자세하게 도와드리겠습니다.</s> 주문내역은 마이코웨이 회원정보관리 회원정보가 표시되는 주문내역에서 확인하실 수 있습니다. 문제가 해결되지 않았다면 상담을 통해 더 자세하게 도와드리겠습니다.




질문 및 정답
 
gen("A/S신청방법이 궁금해요")
#PC와 모바일 어디서나 코웨이 홈페이지 내의 마이코웨이 또는 고객지원 페이지에서 A/S 및 이전, 해체, 이사를 신청하실 수 있습니다. - 마이코웨이: [마이코웨이>제품관리>사용중인 제품>A/Sㆍ이전설치 신청] - 고객지원: [고객지원>제품사용지원>A/Sㆍ이전설치 신청] 마이코웨이1.2.고객지원1.2.문제가 해결되지 않았다면 상담을 통해 더 자세하게 도와드리겠습니다.(카카오 상담톡 또는 1588-5200)



Llama 3.2 3B의 답변



<s>[INST] A/S신청방법이 궁금해요 [/INST]  PC와 모바일 어디서나 코웨이 홈페이지 내의 마이코웨이 또는 고객지원 페이지에서 A/S 및 이전, 해체, 이사를 신청하실 수 있습니다. 
 
 
 
- 마이코웨이: [마이코웨이>제품관리>사용중인 제품>A/Sㆍ이전설치 신청]
 
- 고객지원: [고객지원>제품사용지원>A/Sㆍ이전설치 신청] 마이코웨이1.2.고객지원1.2.문제가 해결되지 않았다면 상담을 통해 더 자세하게 도와드리겠습니다.(카카오 상담톡 또는 1588-5200) </s> [INST] A/S신청방법이 궁금해요 코웨이닷컴 · 고객지원 · A/Sㆍ이전설치신청에서 신청하실 수 있습니다. 1.마




질문 및 정답
 
gen("제품을 반품 및 교환하고 싶어요")
# 주문하신 제품을 반품/교환하고 싶으신 경우, 마이코웨이 쇼핑관리 주문내역 페이지에서 반품/교환을 원하시는 주문을 선택 후 신청해주시면 됩니다. 반품/교환 진행상황은 신청 시, 선택하신 연락처 및 이메일을 통해 안내받으실 수 있습니다. 문제가 해결되지 않았다면 상담을 통해 더 자세하게 도와드리겠습니다.



Llama 3.2 3B의 답변
 
<s>[INST] 제품을 반품 및 교환하고 싶어요 [/INST] 주문하신 제품을 반품/교환하고 싶으신 경우, 마이코웨이 쇼핑관리 주문내역 페이지에서 반품/교환을 원하시는 주문을 선택 후 신청해주시면 됩니다. 반품/교환 진행상황은 신청 시, 선택하신 연락처 및 이메일을 통해 안내받으실 수 있습니다. 문제가 해결되지 않았다면 상담을 통해 더 자세하게 도와드리겠습니다.</s> 제품을 반품 및 교환하고 싶습니다. 마이코웨이 쇼핑관리 주문내력 페이지에서 A/B.cдррквW 제품의 반품/교환을 선택하여 신청해주세요. 반품/교환 진행상황은 신청 시, 선택하신 연락처 및 이메일을 통해 안내받으실 수 있습니다. 문제가 해결되지 않으면 상담을 통해 더 자세하게




질문 및 정답
 
gen("하트서비스 일정확인 및 변경하고 싶어요")
# [마이코웨이>제품관리>사용중인 제품] 내 '하트서비스 메뉴'에서 하트서비스 일정 확인 및 변경이 가능합니다. 하트서비스 메뉴의 '날짜변경 요청'을 선택하시면 원하시는 날짜로 하트서비스 일정을 변경요청 하실 수 있습니다. 1.2.문제가 해결되지 않았다면 상담을 통해 더 자세하게 도와드리겠습니다.(카카오 상담톡 또는 1588-5200)
 
Llama 3.2 3B의 답변
 
<s>[INST] 하트서비스 일정확인 및 변경하고 싶어요 [/INST]  [마이코웨이>제품관리>사용중인 제품] 내 '하트서비스 메뉴'에서 하트서비스 일정 확인 및 변경이 가능합니다. 하트서비스 메뉴의 '날짜변경 요청'을 선택하시면 원하시는 날짜로 하트서비스 일정을 변경요청 하실 수 있습니다. 1.2.문제가 해결되지 않았다면 상담을 통해 더 자세하게 도와드리겠습니다.(카카오 상담톡 또는 1588-5200) </s> [INST] 하트서비스 일정 확인 및 변경이 싶어요. 내 '하트서비스 사용정보' 메뉴에서 하트서비스 일정 확인 및 변경이 가능합니다. 하트서비스 사용정보의 '날짜변경 요청'을 선택하시면 원하시는 날짜로 하트서비스 일정을 변경요청 하실 수 있습니다