준호씨의 블로그

Gemini is now accessible from the OpenAI Library 2024.11.08https://developers.googleblog.com/en/gemini-is-now-accessible-from-the-openai-library/ Gemini is now accessible from the OpenAI Library- Google Developers BlogStarting today, developers can access the latest Gemini models via the OpenAI Library and REST API, making it easier to get started with Gemini. We will initially support the Chat ..

요즘 LLM을 이것저것 시험해 보고 있습니다. 맥에서 ollama를 종종 시험해 보곤 하는데요. 맥의 자원을 아끼기 위해 데스크톱에서 ollama를 구동시키고 맥에서는 데스크톱의 ollama를 호출하면 좋겠다는 생각이 들었습니다. 결국 성공했는데 설정할 것들이 꽤 많았습니다. WSL2 설정systemd 설정ollama 원격 접속 설정sshd 설정 포트포워딩 설정방화벽 설정 원격 데스크톱 설정 차라리 데스크톱에 리눅스를 설치하는 게 더 좋지 않을까 생각이 들기도 합니다. 언젠가 설정 방법들도 포스팅해 볼까 합니다.외부에서 사용할 수 있도록 설정해 봐도 좋을 것 같습니다.

Whisper는 OpenAI가 개발한 자동 음석 인식(ARS) 모델입니다. 다양한 언어와 억양을 이해하고 텍스트로 변환할 수 있습니다. 요즘 음성을 텍스트로 변환하는 다양한 도구들과 AI 모델, 서비스들이 나오고 있는데요. 아직 Whisper를 능가하는 경우를 보진 못했습니다. Whisper 모델을 사용하려면 보통은 OpenAI의 API를 생각할 수 있는데요.Whisper 모델을 OpenAI를 통해 사용하게 되면 1분에 $0.006입니다. 1시간짜리 음성을 인식시키게 되면 $0.36으로 500원 정도를 사용하게 됩니다. 비싼 가격은 아니지만 이것저것 사용하다 보면 비용을 무시하진 못할 것 같습니다. Whisper 모델은 공개되어 있기 때문에 OpenAI API를 이용하지 않고 직접 Whisper 모델을 ..