huggingface
-
zero-shot-classification fine-turningDEV 2023. 12. 20. 00:43
'유저 질의 의도(도메인)를 파악할 수 있는 모델을 파인튜닝 해 볼 수 있을까?' 🫤 zero-shot-classification 모델이 레이블이 지정된 예제 세트에 대해 훈련된 다음 이전에 볼 수 없었던 클래스의 새로운 예제를 분류할 수 있는 자연어처리 작업 - 훈련 중에 모델에서 볼 수 없는 클래스를 예측하는 작업 하지만 다양한 라벨링 데이터를 확보하는 것은 어려운 일 GPT-3와 같은 거대 규모로 학습된 언어 모델은 라벨링을 거의 사용하지 않고도 태스크를 수행할 수 있음을 보여줌 하지만 GPT-3와 같은 모델을 활용해야만 가능한 작업이 나고 묻는다면 꼭 그렇지는 않다. 거대모델을 사용하지 않고 문장의 도메인을 분류해 보자. 1. Sentence Similarity task, sentence-tran..
-
HuggingFace에서 Transformer 모델을 fine-turning 해보자DEV 2023. 12. 8. 21:27
Hugging Face The platform where the machine learning community collaborates on models, datasets, and applications. https://huggingface.co/ 자연어 처리(Natural Language Processing) NLP(Natural Language Processing)란 사람의 언어와 관련된 모든 것을 이해하는 데에 중점을 둔 언어학 및 기계 학습(머신 러닝) 분야를 말합니다. NLP의 목적은 단순히 하나의 개별 단어를 이해하는 것을 넘어, 해당 단어들의 문맥을 이해하는 것 전체 문장 분류(Classifying whole sentences): 리뷰(review)의 감정(sentiment)을 식별, 이메일..