| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | |
| 7 | 8 | 9 | 10 | 11 | 12 | 13 |
| 14 | 15 | 16 | 17 | 18 | 19 | 20 |
| 21 | 22 | 23 | 24 | 25 | 26 | 27 |
| 28 | 29 | 30 |
Tags
- Windows
- numpy
- 책갈피
- list
- TORCH
- AI
- ubuntu
- Python
- file
- judge
- Package
- DB
- Database
- pandas
- LLM
- Laravel
- docker
- Container
- PostgreSQL
- KAKAO
- GitLab
- Mac
- evaluation
- Flask
- format
- Linux
- Converting
- pytorch
- git
- Paper
Archives
- Today
- Total
목록Huggingface (1)
Daily Develope
[AI] Hugginface, sklearn, torch 샘플 코드 및 설명
Huggingface Model/Tokenizer 설치 pip install transformers사용 예시 Tokenizer 선언 (불러오기) from transformers import AutoTokenizer model = "klue/bert-base" tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)Encoding (Tokenize-토큰화) & Decoding (디코딩) ### [pre-condition] Tokenizer 선언 이후 ### Encoding my_data = "text of target data" tokenized_input = tokenizer(my_data, padding='max_length', trunc..
AI
2023. 10. 17. 13:42