• 기간 : 2023.04 ~ 2023.05
• 인력: 3명

👩‍🏫소개

Databricks Dolly 기반의 Customize - LLM 모델 개발

• Chatgpt의 임의 사용은 회사 기밀 정보를 유출할 위험이 있어 Databricks 기반으로 Customize - LLM 모델 개발하여 내부 사용 가능

작업 내용

데이터 수집

• 신한은행 홈페이지에 있는 질의문답을 크룰링을 통해 데이터 수집하여 Dolly 모델 훈련할 수 있는 포맷으로 변환
• 수집된 데이터를 Chatgpt api를 호출하여 요약본 데이터를 도출

모델 훈련 및 결과 확인

• Github에 있는 코드를 분석하여 data load 하는 부분을 만든 데이터셋으로 변경해서 모델 학습을 진행
• 은행 원본 데이터만 사용하여 모델 학습 시키고 모델 저정한 후에 요약본 데이터를 사용하여 추가적인 학습을 진행 후 결과 좋아지는 것으로 확인