자연어 챗봇 만들때 Claude3 haiku 모델 강력 추천
2024. 3. 24. 02:42ㆍWeb Frontend
자연어 챗봇을 만들고 있는데
동일한 프롬프트/파라미터/토큰 제한/질문으로 Claude haiku와 openAI GPT4-turbo 모델을 간단하게 비교 봤음.
1. 일반적인 내용(수학/코딩이 아닌) 기준으로 좀 더 퀄리티 있는 답변이 나왔음.
2. haiku 모델이 108배 정도 저렴함(6,355 token 사용시 3.15원 발생).
3. 답변 속도는 haiku가 6배 이상 빠름.
좋은 모델과 상당히 저렴한 비용, 무엇보다 빠른 응답 속도를 활용하여
얻은 답변을 다시 모델에게 던져서 재검증할 수 있는 여유를 얻게 되고
결국, 할루시네이션도 최소화 할 수 있을듯.
'Web Frontend' 카테고리의 다른 글
| javascript 이벤트 핸들러와 메모리/성능 최적화 방법 (0) | 2024.03.26 |
|---|---|
| [php] firebase의 realtime database 콘솔에서 rule의 auth 인식 불가 문제. (0) | 2024.02.10 |
| ios 브라우저에서 이미지 흐려지는(blur) 문제 (0) | 2023.12.30 |
| git에서 특정 커밋 구간의 폴더구조 채로 변경된 부분 추출 방법 (0) | 2023.12.12 |
| 배포 프로세스 개선 - gulp watch와 이미지 최적화 (0) | 2023.12.10 |