upstage의 llm 모델 Solar 사용하기!! (feat. 성킴 대표님 강의)

2024.05.16 - [데이터&AI/LLM] - [2024.5.16]SNU x Upstage LLM 세션① : 컴공과 교수님들의 강의!!

[2024.5.16]SNU x Upstage LLM 세션① : 컴공과 교수님들의 강의!!

 

 

Intro

요즘시대에 필요한 능력은???

트렌드를 이해하기와! 행동할 수 있는 능력!!

이에 실제로 파이썬으로 써보며 알아보자!!  그래서 다가오는 AGI시대에 적응해야한다!!

 

예전에는 DBMS가 완전 핫한 주제였다!!

그런데 지금은? 그냥 DBMS는 그냥 쓰는거다!!

그냥 써서 카카오톡도 나오고 페이스북도 나오고 한다

마찬가지로!?

지금은 llm 연구가 엄청 핫하지만,

나중에는 llm 을 그냥 써서 새로운 무언가를 만들어야겠지???

 

진짜 시작 - Solar 사용하기!!

1. 콘솔에 접속해서!! credit 500$ 을 받자~!

https://console.upstage.ai/

Upstage Console

 

2.  coupon 등록합니다~~ 500$ 감사합니다!^^

 

3. API 키 받기!! : 보안을 철저히합시다!!

 

4. 키를 사용해서 프로그래밍해보기~~

.env를 만들고 거기에  아래아 같이 저장해줍니다!

그럼 안전하게 키를 사용할수 있어요~!

UPSTAGE_API_KEY=your_api_key

 

이제 본격 llm 사용 시작!!!

 

그런데!!  openai의 패키지는 너무 어려워!

langchain을 써볼수 있을까~?

# Quick hello world
from langchain_upstage import ChatUpstage

llm = ChatUpstage()
llm.invoke("What's the best season to get to Korean?")

 

 

langchain기반으로 대화를 이어가보자!!!

# Chat prompt
from langchain_core.prompts import ChatPromptTemplate

chat_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a helpful assistant."),
        ("human", "What is the capital of France?"),
        ("ai", "I know of it. It's Paris!!"),
        ("human", "What about Korea?"),
    ]
)

# 3. define chain
from langchain_core.output_parsers import StrOutputParser

chain = chat_prompt | llm | StrOutputParser()
chain.invoke({})

 

langchain기반으로 문제를 풀개해보면!?? 

 

?? 틀린다!

 

그래서 나온개념!!

CoT

CoT(Chain of Thought) 방법론 :  대형 언어 모델(LLM)의 문제 해결 능력을 향상시키기 위한 접근 방식

단계별로 분해하여 해결하는 방법으로, 인간이 사고 과정을 통해 문제를 해결하는 방식과 유사함!!

 

ㅁ 개념 요

 

 

 

ㅁ 참고자료! : github URL : https://github.com/hunkim/SolarLLMZeroToAll

GitHub - hunkim/SolarLLMZeroToAll: Full Stack SolarLLM Zero to All