70B2 내 서버에서 llama3 70B 모델 사용하기 (feat. airllm) 2024.04.19 - [데이터&AI/LLM] - llama3 무료로 쉽게 사용해보기 (feat. huggingface) llama3 무료로 쉽게 사용해보기 (feat. huggingface)우리시간 지난 밤(2024년 4월 18~19일 밤) 메타에서는 라마3를 오픈소스를 공개했습니다!! GPT-3.5, Claude Sonnet 보다 평가가 좋고!! 아직 공개되지 않은 400b 모델은 GPT-4, Claude 3 Opus를 뛰어넘을 것으로 예drfirst.tistory.com 지난 포스팅에서 llama3를 huggingface 플랫폼 내에서 사용하는 방법을 공유했었습니다. 오늘은!!!이 llama3 70B 모델을 내 서버에서 사용하는 방법을 알아보곘습니다!! 바로 airllm을 활용하는것 인데요!! 1... 2024. 5. 7. ollama 의 모델 저장 디렉토리 바꾸기!! 다양한 LLM opensource 모델들을 손쉽게 사용할 수 있는 Ollama 가 오픈되어 공부중인데요~!@ https://ollama.ai/ Ollama Get up and running with large language models, locally. ollama.ai 3.8GB의 LLAMA 7B 모델부터 39GB가 넘는 LLAMA2 70B 모델까지 여러 공개된 오픈소스 모델들의 사용이 가능합니다! https://ollama.ai/library/llama2-uncensored/tags Tags · llama2-uncensored Uncensored Llama 2 model by George Sung and Jarrad Hope. ollama.ai 70B등 대규모 모델을 사용하다보면, 현 디렉토리 용량.. 2023. 12. 26. 이전 1 다음
