[챗봇 만들기 feat.OpenAI] 선택지 여러개 요청하기, 결과에 질문을 같이 나오게 하기 (n, echo)

지난 기록들

[챗봇 만들기 feat.OpenAI] Completion, stop

 

 

Chat GPT에게 선택지를 여러개 달라고 해보자

 

openai.Completion.create(
    model="gpt-3.5-turbo-instruct",
    prompt="tell me a joke about death",
    max_tokens=100,
    n=3
)

 

 

결과
- 다음과 같이 choices를 3개 준다.
- 이때 각 tokens는 각각 100까지 사용한다. (다 합쳐서 100개인 게 아님. 주의하자!)

 

Q. 질문으로 3개의 결과값을 달라고 한다면?

3개의 농담을 말해달라고 질문해보자.

openai.Completion.create(
    model="gpt-3.5-turbo-instruct",
    prompt="tell me a 3 jokes about death",
    max_tokens=100,
    n=3
)

 

결과
- 3개의 답을 n만큼 반복해서 준다.
- 따라서 사용처는 각각 다르니 다르게 활용하자.

 

 

Echo

기본적으로 GPT에게 질문을 하면 다음과 같은 응답을 한다.

openai.Completion.create(
    model="gpt-3.5-turbo-instruct",
    prompt="What is the largest continent in the world?",
    max_tokens=100,
)

이때 Echo 기능을 추가한다면?

openai.Completion.create(
    model="gpt-3.5-turbo-instruct",
    prompt="What is the largest continent in the world?",
    max_tokens=100,
    echo=True
)

 

결과
- 다음과 같이 응답값에 질문을 적어준 뒤, 답을 써준다.