openAI API를 사용하면서... (비용, 방식 등)
fine tuning 모델(구모델)을 사용할 경우와 gpt-turbo 3.5 이상(최신 모델)을 사용할 경우로 나눌 수 있음. 최신 모델의 경우 fine tuning을 할 수 없지만 프롬프트 디자인을 통해서 제어할 수 있음. system 속성에 가스라이팅 오지게 하면 거의 원하는 답변 통제가 가능함. 필자는 fine tuning을 통해서 많은 공수를 들여 튜닝하는 것보다 최신 모델을 활용하여 프롬프트 디자인을 통해서 답변 통제하는 것이 가성비 좋다고 생각됨. 이유는 fine tuning 된 모델 사용료가 더 비싸고 답변 통제를 위한 관련 질문과 답변을 상당히 많이 준비해야 하지만, 최신 모델을 활용하면 원하는 정보만 제공하고 약간의 가스라이팅을 통해 역할을 정립해 줘도 충분히 좋은 챗봇 역할을 할 수 있..
2023.06.09