CLOVER🍀

That was when it all began.

2024-01-03から1日間の記事一覧

Transformersでマスクされたトークンを予測してみる(MLM:Masked Language Modeling)

これは、なにをしたくて書いたもの? Transformersかつ日本語で、なにか動かしてみたいなと思って題材を探していたのですが、MLM(Masked Language Modeling)が ちょうど良さそうだったので試してみました。 MLM(Masked Language Modeling) MLM(Masked L…

TransformersやDatasetsといったHugging Faceのライブラリーを使った時に、モデルやデータセットがどこにダウンロードされるのかを確認する

Hugging Faceのライブラリー(TransformersやDatasetsなど)を使うと、学習済みのモデルやデータセットをHugging Face Hubから ダウンロードしてきます。 これ、けっこう大きなサイズのものになるので、使わないものは削除しないとディスクがいくらあっても…

Transformersでテキスト生成を試してみる

これは、なにをしたくて書いたもの? Transformersでテキスト生成ができそうだったので、こちらをTransformersの足がかりとして試してみたいと思います。 Transformersでのテキスト生成 テキスト生成には、Transformersでできることに挙げられています。 Tr…

Transformersのドキュメントをざっくり眺めてみる

これは、なにをしたくて書いたもの? Hugging Faceの開発しているライブラリーであるTransformersを使うと、これだけでも質疑応答やテキスト分類といったタスクが 実行できるようなので、ちょっと調べてみました。 最初はなにかタスクを試してみようかなと思…