AI

Langchain 사용하기 - 02. prompt template

김덕꾸 ㅣ 2024. 7. 30. 10:00

이전 글은 여기서 볼수있다.

https://musej.tistory.com/9?category=1179483

 

prompt template 정의

✅prompt 란 ?

AI 의 답변을 받을 때 요구하는 답변 가이드. 자세하게 적을 수록 좀 더 세밀하고 요구사항에 가까운 답변이 출력된다.

prompt_template = "이 음식 리뷰 '{review}'에 대해 '{rating1}'점부터 '{rating2}'점까지의 평가를 해주세요."
prompt = PromptTemplate(
    input_variables=["review", "rating1", "rating2"], template=prompt_template
)

Temperature 속성 이란 ?

0~1까지로 설정할 수 있고, 0에 가까울 수록 (낮은 값) 보다 일관된 결과를, 1에 가까울 수록 (높은 값) 보다 다양한 결과를 생성하도록 하는 설정해주는 속성값이다.


01. basic과 같이 OPENAI_API_KEY를 import 하고, temperature 속성을 설정한다.

temperature 가 0.7 정도이면 적당한 설정이라고 한다. (비슷한 질문에는 어느정도 일관되지만, 비교적 다양한 결과를 도출함)

openai = ChatOpenAI(model="gpt-3.5-turbo",
                    api_key=OPENAI_API_KEY, temperature=0.7)

prompt 와 LLM 연결 하기

chain = prompt | openai

| 기호를 이용하면 프롬프트와 LLM을 연결할 수 있다.

사용자의 리뷰에 대한 평가 요청 (추론)

try:
    response = chain.invoke({
        "review": "사과네 피자 치킨을 전부 남겼습니다!",
        "rating1": "1",
        "rating2": "5"
    })
    print(f"평가 결과: {response}")
except Exception as e:
    print(f"Error: {e}")

결과

이렇게 프롬프트 엔지니어링 완전 기초초초초초초 기본적인 방법 끝!