llama-cpp-pythonを使うのはいいのですが、llama-cpp-pythonが使っているllama.cppのバージョンが気になるところです。 リリースの頻度も高いです。 Releases · ggerganov/llama.cpp · GitHub どれを見ているのでしょう？ llama-cpp-pythonのバージョン確認…

これは、なにをしたくて書いたもの？ llama-cpp-pythonを使うとOpenAI API互換のサーバーを立てられることを知ったので、ちょっと動かしてみました。 llama-cpp-python llama-cpp-pythonのGitHubリポジトリーはこちら。 GitHub - abetlen/llama-cpp-python: …