본문 바로가기
728x90

데이터&AI149

내 서버에서 llama3 70B 모델 사용하기 (feat. airllm) 2024.04.19 - [데이터&AI/LLM] - llama3 무료로 쉽게 사용해보기 (feat. huggingface) llama3 무료로 쉽게 사용해보기 (feat. huggingface)우리시간 지난 밤(2024년 4월 18~19일 밤) 메타에서는 라마3를 오픈소스를 공개했습니다!! GPT-3.5, Claude Sonnet 보다 평가가 좋고!! 아직 공개되지 않은 400b 모델은 GPT-4, Claude 3 Opus를 뛰어넘을 것으로 예drfirst.tistory.com 지난 포스팅에서 llama3를 huggingface 플랫폼 내에서 사용하는 방법을 공유했었습니다. 오늘은!!!이 llama3 70B 모델을 내 서버에서 사용하는 방법을 알아보곘습니다!! 바로 airllm을 활용하는것 인데요!! 1... 2024. 5. 7.
Gemini-advanced 사용해보기@ (feat. google AI premium 요금제) AI 모델의 시대입니다,다양한 서비스들이 월 $20 수준으로 서비스를 제공하고 있는데요!!! 가장 인기있는 GPT-4 사용료 월 $20 + 2$ (부가세)최근들어 핫한 클로드 월 $20 + 2$ (부가세) 그런데!!!!!구글에서는 Google Drive 2TB와 함께  Gemini advanced를 사용하며월 29,000원 (약 $21, 부가세 포함) 할수 있는 요금제가 있어!!게다가 2개월 무료로 사용이 가능하기에 사용 신청해보았습니다!!  1. 신청방법 카드드를 등록하고 2개월 뒤 결재되도록 간단히 세팅이 가능합니다!!2. 사용하기성능은 어땠을까요? 결재가 완료되면!! gemini advanced 화면으로 보여집니다. > 우선 기존에 불가능하던 이미지 .. 2024. 4. 24.
llama3 무료로 쉽게 사용해보기 (feat. huggingface) 우리시간 지난 밤(2024년 4월 18~19일 밤) 메타에서는 라마3를 오픈소스를 공개했습니다!! GPT-3.5, Claude Sonnet 보다 평가가 좋고!! 아직 공개되지 않은 400b 모델은 GPT-4, Claude 3 Opus를 뛰어넘을 것으로 예상된다고합니다!! 이 모델을 무료로, 쉽게 테스트해보세요!! 사용방법 1. 허킹페이스 접속!! https://huggingface.co/chat/ HuggingChat Making the community's best AI chat models available to everyone. huggingface.co 2. 모델을 llama3로 변경하기!! 3. 프롬포트 입력하며 사용해보기!! > 결과물은 아래와 같았습니다!!^^ Here's a sample o.. 2024. 4. 19.
[ LLM 공부] Mixture of Experts (MoE) 쉽게 이해하기! 이번 포스팅은 유튜브 영상을 보고 Mixture of Experts LLM (MoE) 에 대하여 학습한 영상을 정리하고자합니다~~ Mixture of Experts (MoE) 의 정의 MoE 모델은? - 언어 모델을 더 작고 특화된 하위 모델, 즉 전문가 모델들로 분해할 수 있다는 점에 기반을 두고 있다. - 이 전문가 모델들은 각자 특정 부분을 처리하는 데 "특화되어 있어" 전체적인 계산 효율과 자원 할당을 개선 MoE 의 역사는? > 2017년의 'Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer' (by google Brain)에서 시작 논문분석!! - 1 - 원문 URL : https://arxiv.org.. 2024. 4. 12.
728x90