본문 바로가기
728x90

openai44

gpt realtime console로 사용해보기 24년 9월 25일!! chatgpt advanced voice 모드가 공개되서 많이 환영을 받았습니다!그리고 10월1일!! 이 realtime의 API가 공개되었습니다!! 이 realime에 대하여 간단히 이해해보자면!! 아래와 같았습니다!!   - 빠르고 (저지연 :low-latency)  - 목소리-텍스트-이미지 등이 자유자제로 전환되는( 멀티모달 경험 : multimodal experiences)  - 베타버젼!!  - 자연스러운 음성 대화를 지원 / 음성 입력과 출력을 실시간으로 처리 (advanced voice 랑 동일) - 텍스트나 오디오 입력에 대해 텍스트나 음성으로 응답 - WebSocket 연결을 통해 메시지를 주고받음!!   오늘 저는 포스팅의 제목과 같이 gpt realtime co.. 2024. 10. 13.
vllm 설치하고 오픈소스 모델을 openai 모듈로 써보기!(feat. 알리바바의 qwen2.5 예시!!) 2024.06.23 - [데이터&AI/LLM] - 오픈 소스 LLM 서빙 소프트웨어 비교해보기!! (vLLM, Ollama, OpenLLM, LocalAI, llamafiles, GPT4All) 오픈 소스 LLM 서빙 소프트웨어 비교해보기!! (vLLM, Ollama, OpenLLM, LocalAI, llamafiles, GPT4All)안녕하세요!!제 포스팅에서는 그동안 오픈소스 llm을 크게 2가지 방법으로 시도해보았었습니다~~ 1. 직접 huggingface에서 모델 다운받아 실행하기2024.06.21 - [데이터&AI/LLM] - llama3 한국어 모델 On-premisdrfirst.tistory.com 지난 포스팅에서 여러 llm 서빙 모델에 대하여 알아보았는데요!!오늘은 이 중 하나인 vllm.. 2024. 10. 8.
[프롬포트엔지니어링]wikipedia 검색해서 gpt로 글쓰기!! (feat. wikipediaapi, 사육신) GPT의 글쓰기 능력이 뛰어난것은 누구나 알고있지요!하지만, 어떻게 글을 생성해야할지. 그 재료는 우리가 잘 입력해야합니다!!  위와 같이 사육신에 대하여 물어보면 이상한 대답을합니다.그래서 위키피디아으 데이터를 가지고 사육신을 소개하는 글을 써보고자합니다  1. Wikipedia 검색을 통한 정보 수집Wikipedia API 사용하기Wikipedia는 다양한 주제에 대한 정보를 쉽게 얻을 수 있는 훌륭한 출처입니다.Wikipedia API를 사용하면 원하는 주제에 대한 정보를 수집 할 수 있습니다.Python을 이용한 간단한 예제는 다음과 같습니다: import wikipediaapi# Wikipedia API 객체 생성user_agent = 'Mozilla/5.0 (Windows NT 10.0; Wi.. 2024. 7. 14.
Hugging Face Transformers: Pipeline vs. AutoModel, 뭘 사용할까!?? 저의 포스팅에서 지속적으로 huggingface의 오픈 소스모델을 바탕으로 테스트를 진행해보고 있습니다~~ 2024.06.21 - [데이터&AI/LLM] - llama3 한국어 모델 On-premise로 활용하기 (feat. Bllossom) llama3 한국어 모델 On-premise로 활용하기 (feat. Bllossom)airllm으로 llama3를 썻다가 메모리 부족 문제로 실행하지 못하는 문제를 겪었었습니다!!2024.05.07 - [데이터&AI/LLM] - 내 서버에서 llama3 70B 모델 사용하기 (feat. airllm) 내 서버에서 llama3 70B 모델 사용하drfirst.tistory.com2024.05.29 - [데이터&AI/LLM] - llama3 의 모델을 api로 호출하기.. 2024. 6. 22.
728x90

티스토리툴바