LLM
これは、なにをしたくて書いたもの？ ローカルで動かせる日本語のモデルはたまに把握しておきたいと思うのですが、今回はテキスト埋め込みモデルであるPLaMo-Embedding-1Bを 少し動かしてみます。 ついでに、他のモデルも少しメモ。 PLaMo-Embedding-1B PLaM…
これは、なにをしたくて書いたもの？ OpenAIからgpt-ossがリリースされました。 Introducing GPT-5 | OpenAI gpt-oss が登場 | OpenAI gpt-oss-120bとgpt-oss-20bの2つのモデルがリリースされていて、Ollamaで利用できるようなので1度動かしてみようかなと。…
これは、なにをしたくて書いたもの？ 前に、LangChain MCP Adaptersを使ってMCPを試してみました。 LangChain MCP AdaptersとOllamaでMCP（Model Context Protocol）を試す - CLOVER この時はチュートリアルに習って簡単なMCPサーバーを作ってみましたが、今…
これは、なにをしたくて書いたもの？ MCP（Model Context Protocol）というものを、ちょっと勉強してみようかなということで。 MCP（Model Context Protocol） MCP（Model Context Protocol）は、Anthropic社がオープンソースとして公開したプロトコルです。…
これは、なにをしたくて書いたもの？ 前に、LangChainのRAGのチュートリアルをやってみました。 LangChainのチュートリアル、RAG Part 1を試す（LangSmith、LangGraphなし） - CLOVER LangChainのチュートリアル、RAG Part 1を試す（LangSmithなし、LangGrap…
これは、なにをしたくて書いたもの？ 前に、OllamaをWeb UIで操作できるツールのひとつとして、Open WebUIを扱いました。 Open WebUIを使って、OllamaをWeb UIから操作する - CLOVER Open WebUIを使うと簡単にRAGを試せるようなので、1度使ってみたいと思い…
これは、なにをしたくて書いたもの？ 前に、LangChainのチュートリアルからRAGのPart 1を試してみました。 LangChainのチュートリアル、RAG Part 1を試す（LangSmith、LangGraphなし） - CLOVER LangChainのチュートリアル、RAG Part 1を試す（LangSmithなし…
これは、なにをしたくて書いたもの？ OllamaでGemma 3が使えるようになっていたので、軽く動かしてみます。 今回のエントリーはどちらかというと、モデルのメモです。 Gemma 3 Gemma 3はGoogleのLLMです。単一のGPUまたはTPUで実行できるモデルとしては、現…
これは、なにをしたくて書いたもの？ こちらのエントリーで、LangChainのチュートリアルRAG Part 1をLangSmith、LangGraphなしで試してみました。 LangChainのチュートリアル、RAG Part 1を試す（LangSmith、LangGraphなし） - CLOVER ただ、その後のチュー…
これは、なにをしたくて書いたもの？ 前に、LangChainのチュートリアルからセマンティック検索を試してみました。 LangChainのチュートリアルのセマンティック検索を試す - CLOVER 今回はこの発展形であるRAGのPart 1を試してみたいと思います。 RAG Part 1…
これは、なにをしたくて書いたもの？ 前に、LangChainを始めてみました。 LangChainを始めてみる（チュートリアルのチャットモデルとプロンプトテンプレートを試す） - CLOVER 今回はチュートリアルの続きで、セマンティック検索をやってみたいと思います。 …
これは、なにをしたくて書いたもの？ OllamaをWeb UIで操作できないかなと探していたら、Open WebUIというものを見つけたので試してみることにしました。 Open WebUI Open WebUIのオフィシャルサイトはこちら。 Open WebUI GitHubリポジトリーはこちら。 Git…
これは、なにをしたくて書いたもの？ Ollamaで使うモデルを探したりしているのですが、ここで見つからないモデルは自分でGGUFに変換したり、Modelfileを作って GGUFからOllamaで扱えるようにするのかなと思っていました。 Search modesl ですが、どうやらHug…
これは、なにをしたくて書いたもの？ そろそろLangChainを始めてみようかなと思いまして。 ひとまず概要を眺めて、Hello World的なことをやってみたいと思います。 LangChain LangChainのWebサイトはこちら。 LangChain といっても、この企業はLangChain、La…
これは、なにをしたくて書いたもの？ 久しぶりにローカルLLMを試してみようと思いまして、以前はllama-cpp-pythonやLocalAIを使っていたのですが。 Ollamaがひとつ抜けて人気のようなので、1度試してみることにしました。 Ollama OllamaのWebサイトはこちら…
これは、なにをしたくて書いたもの？ 前に、テキスト埋め込みベンチマークであるMTEBについて調べたことがあります。 テキスト埋め込みのベンチマークMTEB（Massive Text Embedding Benchmark）って？ - CLOVER どうやらこのMTEBの日本語向けのものがあるよ…
これは、なにをしたくて書いたもの？ ベクトルデータベースというかベクトル検索を扱うと、検索で使う類似度の比較方法の指定を求められます。 どういう時になにを選んだらいいのか全然わからないのですが、少しヒントになりそうな情報をまとめておこうかな…
これは、なにをしたくて書いたもの？ これまでよくOpenAI API互換のサーバーにOpenAI Python APIライブラリーからアクセスして試していたのですが、1度Javaからも アクセスしてみようかなと思いまして。 アクセス先としては、llama-cpp-pythonを使うことにし…
これは、なにをしたくて書いたもの？ 今までQdrantのチュートリアルを試してきたのですが、今度はExampleを見てみようと思います。 Examples - Qdrant ただ、Exampleで見るのは「基本的なRAG（Basic RAG）」のみにしたいと思います。それから、Qdrant自体を…
これは、なにをしたくて書いたもの？ MetaからLlama 3がリリースされました。 Meta、無料で商用可の新LLM「Llama 3」、ほぼすべてのクラウドでアクセス可能に - ITmedia NEWS このLlama 3をOpenAI API互換のサーバーを持つllama-cpp-pythonおよびLocalAIで動…
これは、なにをしたくて書いたもの？ 前に、GoogleのLLMであるGemmaをTransformersで動かしてみました。 GoogleのLLM「Gemma」をTransformersで試す - CLOVER なのですが、これが自分の環境だとものすごく重かったので、ちょっと方向を変えてOpenAI API互換…
これは、なにをしたくて書いたもの？ 先日、GoogleからAIモデル「Gemma」が公開されました。 Gemma: Google introduces new state-of-the-art open models グーグル、軽量でオープンな新AIモデル「Gemma」 - Impress Watch 今回は、こちらをHugging FaceのTr…
これは、なにをしたくて書いたもの？ 以前のエントリーで、SalesforceのCodeGenのモデルを使ってソースコードの生成を行ってみました。 Transformersでコード生成を行ってみる - CLOVER この時は、llama-cpp-pythonのドキュメントで紹介されていたReplit Cod…
LLMに関することをいろいろ試そうとすると、使うモデルが必要になります。 このモデルの探し方がどうしたらいいのかわからないのですが、Awesomeなどを見つけたのでメモしておこうかなと。 ランキング Aider LLM Leaderboards。 Aider LLM Leaderboards | ai…
これは、なにをしたくて書いたもの？ llama.cppやLocalAIを使って、コード生成を試せないのかな？と思ったドキュメントを見ると、llama-cpp-pythonのドキュメントに コード生成（コード補完）について書かれているのを見つけまして。 OpenAI Compatible Serv…
これは、なにをしたくて書いたもの？ 以前のエントリーで、SentenceTransformersとintfloat/multilingual-e5のモデルを使ってテキスト埋め込みを試してみました。 SentenceTransformersとintfloat/multilingual-e5でテキスト埋め込みを試してみる - CLOVER i…
これは、なにをしたくて書いたもの？ テキストの埋め込み（ベクトル化）の方法をいろいろ見ているのですが、SentenceTransformersというものを押さえておいた方が よさそうに思ったので試してみることにしました。 SentenceTransformers SentenceTransformer…
これは、なにをしたくて書いたもの？ テキスト埋め込みについていろいろ試していて、どんなモデルがあるのか知らないといけないなと思ったところ、MTEBという ベンチマークの存在を知ったのでメモしておこうかなと。 追記） 日本語テキスト埋め込みのベンチ…
これは、なにをしたくて書いたもの？ 以前、こんなエントリーを書いてみました。 llama-cpp-pythonで立てたOpenAI API互換のサーバーで、テキストをベクトル化してみる - CLOVER このエントリーの最後にテキストをベクトル化して、ドキュメントの集合に対し…
これは、なにをしたくて書いたもの？ Transformersかつ日本語で、なにか動かしてみたいなと思って題材を探していたのですが、MLM（Masked Language Modeling）が ちょうど良さそうだったので試してみました。 MLM（Masked Language Modeling） MLM（Masked L…
