728x90 주제496 우분투 서버에서 GPU 세팅하기 (nvidia-smi > cuda 비상입니다.잘되던 GPU 서버가 이것저것 환경을 건드리다 먹통이되었어요,,,GPU가 작동하지 않습니다!ㅠㅠ 처음부터 해결방법을 알아보아요!! 1. nvidia-smi설치하기! 이에 ubuntu-drivers devices 를 실행해보고!!bongo@sotalk201:~/Downloads$ ubuntu-drivers devices== /sys/devices/pci0000:3c/0000:3c:01.0/0000:3d:00.0 ==modalias : pci:v000010DEd00002204sv000010DEsd00001454bc03sc00i00vendor : NVIDIA Corporationmodel : GA102 [GeForce RTX 3090]driver : nvidia-driver-535-s.. 2024. 6. 23. Hugging Face Transformers: Pipeline vs. AutoModel, 뭘 사용할까!?? 저의 포스팅에서 지속적으로 huggingface의 오픈 소스모델을 바탕으로 테스트를 진행해보고 있습니다~~ 2024.06.21 - [데이터&AI/LLM] - llama3 한국어 모델 On-premise로 활용하기 (feat. Bllossom) llama3 한국어 모델 On-premise로 활용하기 (feat. Bllossom)airllm으로 llama3를 썻다가 메모리 부족 문제로 실행하지 못하는 문제를 겪었었습니다!!2024.05.07 - [데이터&AI/LLM] - 내 서버에서 llama3 70B 모델 사용하기 (feat. airllm) 내 서버에서 llama3 70B 모델 사용하drfirst.tistory.com2024.05.29 - [데이터&AI/LLM] - llama3 의 모델을 api로 호출하기.. 2024. 6. 22. llama3 한국어 모델 On-premise로 활용하기 (feat. Bllossom) airllm으로 llama3를 썻다가 메모리 부족 문제로 실행하지 못하는 문제를 겪었었습니다!!2024.05.07 - [데이터&AI/LLM] - 내 서버에서 llama3 70B 모델 사용하기 (feat. airllm) 내 서버에서 llama3 70B 모델 사용하기 (feat. airllm)2024.04.19 - [데이터&AI/LLM] - llama3 무료로 쉽게 사용해보기 (feat. huggingface) llama3 무료로 쉽게 사용해보기 (feat. huggingface)우리시간 지난 밤(2024년 4월 18~19일 밤) 메타에서는 라마3를 오픈소스를 공개drfirst.tistory.com 그런데!! 이제는 내 서버에서!!!한국어를 잘하는 llama3 오픈소스 모델을 사용할수 있게되었습니다!! 바로.. 2024. 6. 21. OnPremise LLM을 Langchain으로 연결하기 (feat. Solar) 안녕하세여!! 지난 포스팅을 통해서 Huggingface를 통해 다운받은 Solar 모델을 구현시키는 방법을 알아보았습니다 2024.06.13 - [데이터&AI/LLM] - Solar 오픈소스 모델 활용해서 ON-premise LLM 만들기 Solar 오픈소스 모델 활용해서 ON-premise LLM 만들기안녕하세요!지난 포스팅에서는 Upstage의 솔라 모델을 API로 활용하는 법을 배웠었는데요!2024.05.16 - [데이터&AI/LLM] - upstage의 llm 모델 Solar 사용하기!! (feat. 성킴 대표님 강의) upstage의 llm 모델 Solardrfirst.tistory.com 이번포스팅에서는 해당 모델을 langchain 기반으로 가동시키는 작업을 진행해 보겠습니다!!코드가 아.. 2024. 6. 14. 이전 1 ··· 11 12 13 14 15 16 17 ··· 124 다음 728x90
