본문 바로가기
728x90

데이터&AI/LLM49

llama3 의 모델을 api로 호출하기!! (feat. ollama, python, embedding) 지난 포스팅에서는!! ollama로  올라간 llama를shell 환경에서 진행해보았는데요!!2024.05.29 - [데이터&AI/LLM] - 내 서버에서 llama3 실행하기!! (feat. ollama) 내 서버에서 llama3 실행하기!! (feat. ollama)이전 포스팅에서 ollama를 활용하여 llama2-uncencored 모댈을 활용해보았고,airllm을 활용하여 llama3 모델을 활용해보았는데요!! 이번에는 ollama를 활용하여 llama3를 사용해보겠습니다!! 1. ollama 실행!! -drfirst.tistory.com  이번에는 API를 호출하는 방법으로 해당 모델을 사용해보겠습니다!! 1. ollama모델 구동 - 기존과 동일하게, 서버에서 ollama를 우선 구동시킵니다.. 2024. 6. 1.
내 서버에서 llama3 실행하기!! (feat. ollama) 이전 포스팅에서 ollama를 활용하여 llama2-uncencored 모댈을 활용해보았고,airllm을 활용하여 llama3 모델을 활용해보았는데요!! 이번에는 ollama를 활용하여 llama3를 사용해보겠습니다!! 1. ollama 실행!! - 우선 기존에 설치괸 ollama를 background 에서 실행합니다!!~OLLAMA_MODELS={모델의 위치} ollama serve 2. llama3모델 다운!! ollama에서 지원하는 모델이 많아젔습니다! 그중 llama3가 있지요~~ollama run llama3run 을 해주었을때, 해당 디렉토리에 모델이 없다면 자동으로 다운로드를 진행합니다!  > 참고 : https://github.com/ollama/ollama GitHub - ollama/.. 2024. 5. 31.
지금시간 맞추는 GPT 만들기 (feat. function calling) 2024.05.28 - [데이터&AI/LLM] - LLM 에이전트(llm agent) 란 무엇일까?- 코드로 알아보기 (feat. prompt engineering) LLM 에이전트(llm agent) 란 무엇일까?- 코드로 알아보기 (feat. prompt engineering)https://www.etnews.com/20240501000118 AI 에이전트 시대 열린다…단순 답변 넘어 '일상의 동반자'로인공지능(AI)이 챗봇을 넘어 기차표를 예매하고 레스토랑을 예약해주는 ‘AI 에이전트 시대’가 열린다.drfirst.tistory.com  LLM Agent, function calling, tool 등 GPT를 활용한 다양한 기술들이 개발되고있는데요!!오늘은 이 function calling 기능을 .. 2024. 5. 30.
LLM 에이전트(llm agent) 란 무엇일까?- 코드로 알아보기 (feat. prompt engineering) https://www.etnews.com/20240501000118 AI 에이전트 시대 열린다…단순 답변 넘어 '일상의 동반자'로인공지능(AI)이 챗봇을 넘어 기차표를 예매하고 레스토랑을 예약해주는 ‘AI 에이전트 시대’가 열린다. 1일 업계에 따르면, 눈과 손이 달린 것처럼 고도화된 업무를 직접 수행하는 AI 에이전트,www.etnews.com LLM이 이슈가 되면서 이제는 LLM Agent라는 말이 여러 매체에서 화두가되고있습니다이 LLM Agent란 무엇일까요? LLM에서의 에이전트의 정의와 예시 , 그리고 코드로 알아보기!!LLM에서의 에이전트란?LLM 에이전트란 입력받은 정보를 바탕으로 작업을 수행하거나 결정을 내리는 자율적인 개체를 의미합니다예를 들면 아래와 같은 서비스들이 llm 에이전트 기.. 2024. 5. 29.
728x90