본문 바로가기
데이터&AI/LLM

Grok-2 beta의 API 활용해보기 (feat. python)

by 일등박사 2024. 10. 28.
728x90

https://x.ai/blog/grok-2

 

Grok-2 Beta Release

August 13, 2024 Grok-2 Beta Release Grok-2 is our frontier language model with state-of-the-art reasoning capabilities. This release includes two members of the Grok family: Grok-2 and Grok-2 mini. Both models are now being released to Grok users on the

x.ai

2024년 10월 13일 머스크의 LLM 회사인 xAI는 Grok-2 Beta를 공개했습니다!

모든 모델들이 이야기하듯!! 

 

ELO점수 및 다양한 지표들로 그 우수성을 강조했는데요!

 

지금까지  모델들은 X(구 트위터) 에서만 사용가능했었는데!!

이번에는 API를 통해 활용 가능함을 이야기했습니다!!

 

그리고!! 1주일전!! Grok API를 출시하였습비다!

 

https://www.digitaltoday.co.kr/news/articleView.html?idxno=538060

 

일론 머스크 xAI, AI 모델 '그록' API 출시 - 디지털투데이 (DigitalToday)

[디지털투데이 AI리포터] 일론 머스크가 이끄는 인공지능(AI) 기업 xAI가 회사의 주력 생성형 AI 모델인 그록(Grok)의 API를 통해 제공한다.21일(현지시간) IT매체 테크크런치에 따르면 지난 8월 일론

www.digitaltoday.co.kr

 

 

사이트에서는  documentation 도 잘 되어있었는데요!!

https://docs.x.ai/api/integrations#openai-sdk

 

Welcome to the xAI documentation

Learn how to use our products and services

docs.x.ai

 

가격을 알아보면!!

 

 

입력은 백만토큰당 $5 이며, 출력은 백만토큰탕 $15로서, 

 

openAI의 gpt-4o (입력은 백만토큰당 $2.5, 출력은 백만토큰탕 $10로서, ) 와 비교 시

1~2배 비쌌습니다!!!

그럼!! 한번 사용해보죠~~

 

1. 가입하기!!

 X에 가입절차를 진행하며 API를 받게됩니다!! 

저는 google 계정과 연동해서 가입을했어요!

 

그럼 결국! 위와같이 API키를 받게되지요~!

 

2. 코드!!

표준이된 openai 패키지로 사용이 가능합니다!!

코드는 아래와 같아요!!

 

import os
from openai import OpenAI

XAI_API_KEY = '{내 API 키}'
client = OpenAI(
    api_key=XAI_API_KEY,
    base_url="https://api.x.ai/v1",
)

completion = client.chat.completions.create(
    model="grok-beta",
    messages=[
        {"role": "system", "content": "You are Grok, a chatbot inspired by the Hitchhikers Guide to the Galaxy."},
        {"role": "user", "content": "What is the meaning of life, the universe, and everything?"},
    ],
)

print(completion.choices[0].message)

 

앗!! 그런데 에러가 생기는데,,,

 

Grok 은 처음 가입했다고 feee credit을 하나도 안주네요ㅠㅠ

 

 

 

이후 꼭 사용하고싶다는 마음이 들때!! credit 을 충전하고 사용해봐야겠습니다~!^^

728x90

댓글