본문 바로가기
728x90

주제498

[Mistral Small 3] GPT-4o-mini를 대체할 수 있는 On-premise 모델!~ 2월1일,프랑스 AI 기업인 미스트랄은 GPT-4o-mini에 대응되는,빠르게 답변할수 있는 24B 파라미터 규모의 AI 모델 미스트랄 스몰 3(Mistral Small 3)을  공개했습니다. 또한 이 모델은 오픈소스모델로서 어디서든지 테스트할수있는데요!우선 미스트랄이 발표한 모델의 특징을 알아보겠습니다!!!Mistral Small 3의 주요 특징은!?여러 지원Mistral Small 3은 수십 가지 언어를 지원하며, 영어, 프랑스어, 독일어, 스페인어, 이탈리아어, 중국어, 일본어, 한국어, 포르투갈어, 네덜란드어, 폴란드어 등을 포함한 다양한 언어로 작업할 수 있습니다.!! 한국어가 포함되어 있기에 잠시후 테스트를 진행해보겠습니다!!에이전트 중심function calling 기능에 잘 적응하기 위해!.. 2025. 2. 3.
on-premise로 deepseek-R1기반의 챗봇 만들기!(with Ollama&gradio) 안녕하세요!! 오늘은 최근의 핫이슈!! deepseek-R1을 바탕으로 챗봇을 만들어보겠습니다!! deepseek에 대해서는 요즘 아주 많은 기사들과 잘 설명된 내용들이 있기에!!설명은 각설하고!@ 바로 설치부터 시작해보아요~! 1. Ollama에서 deepseek-r1 모델 다운!!감사하게도~!^^ollama에는 이미 deepseek-r1모델이 이미 올라와있습니다! https://ollama.com/library/deepseek-r1 deepseek-r1Get up and running with large language models.ollama.com 1.5B 부터 671B 까지7가지 모델이 있는데요~!저는 9GB 수준의 용량이 적잘한 14B 모델을 사용하보겠습니다!ollama run deepseek.. 2025. 1. 28.
파이썬!! 일관성 있게 코딩하기! (feat. Ruff linter) 프로그래밍에서 일관성 있는 코드 스타일은 가독성을 높이고, 협업 시 생산성을 극대화하는 중요한 요소입니다.특히, Python과 같은 유연한 언어에서는 코드 스타일이 엇갈리기 쉽습니다.이번 글에서는 Python에서 일관성을 유지하며 깔끔한 코드를 작성할 수 있도록 도와주는 도구와 팁을 소개합니다. 1. Python 코딩 스타일의 중요성 Python은 PEP 8 (Python Enhancement Proposal 8)이라는 코드 스타일 가이드를 제공합니다.이 가이드는 코드의 가독성을 높이고, Python 개발자들 사이의 통일성을 유지하는 것을 목표로 합니다. 그러나 사람마다 스타일이 다를 수 있기 때문에, 프로젝트에서 일관성을 유지하려면 자동화된 도구의 도움이 필요합니다. - 2. PyPI 도구 활용하기 P.. 2025. 1. 6.
LLM의 요약을 잘했는지 평가하는 방법! ROUGE 점수! (with python code) 점수의 타입!!   chatgpt이후로!LLM을 통한 요약, 변역에 정말 효과적이어서 많은 분들이 사용하고 있는데요~~이때 정말 요약을 잘하는걸까? 에 대하여어떤 모델이 더 요약을 잘할까? 를 평가하는 지표가 있어 오늘 소개하고자합니다!!   바로 ROUGE (Recall-Oriented Understudy for Gisting Evaluation) 점수!!! 인데요!! 이 ROUGE 점수가 어떻게 계산되는지,python 코드로 이 점수를 구하는 방법을 오늘 알아보겠습니다!!ROUGE 점수의 타입 및 평가방법!ROUGE 점수는 요약 성능을 평가하는 주요 지표입니다.요약 결과 내의 텍스트가 기준 텍스트와 얼마나 일치하는지를 측정합니다. ROUGE는 주로 n-그램(연속된 단어의 집합) 일치를 기반으로 하는 .. 2024. 11. 9.
728x90