본문 바로가기

practical AI

프로젝트 종류별 GPT API 하이퍼파라미터 설정

프로젝트 종류별 GPT API 하이퍼파라미터 설정

매개변수 종류

https://oreil.ly/_s_we

주요 파라미터 설정

  • 내용과 스타일이 일관적이여야 하는 경우 > temperature, top_p 낮게
    • 예시: 코드 생성, temp=0.1, top_p=0.1
  • 객관적 사실이 중요한 출력 > temp 높게, top_p 낮게
    • 예시; 챗봇 응답, temp=1, top_p=0.1
  • 창의성이 필요한 출력 > 둘다 높게
    • 예시: 창의적 글쓰기, temp=1.2, top_p=0.5