スキップしてメイン コンテンツに移動

LLMは公開のライブラリー等はありますか?特にPythonがあれば

 はい、LLMの公開ライブラリはいくつかあります。特にPythonで利用できるライブラリとしては、以下のようなものがあります。

Hugging Face Transformersは、最も人気のあるLLMライブラリの1つです。さまざまなLLMモデルをサポートしており、使いやすいAPIを提供しています。

PyTorch Lightningは、PyTorchベースの機械学習フレームワークです。LLMのトレーニングやデプロイを簡単に行うことができます。

NLTKは、自然言語処理のライブラリです。LLMのトレーニングやデプロイを行うこともできますが、Hugging Face TransformersやPyTorch Lightningに比べると、LLMに特化した機能は少ないです。

これらのライブラリを利用することで、LLMを簡単に利用することができます。なお、LLMは高性能なモデルであるため、GPUやTPUなどの強力なハードウェアを用意する必要があります。

また、日本語のLLMを利用する場合は、以下のライブラリもおすすめです。

rinnaは、株式会社rinnaが開発した日本語LLMライブラリです。36億パラメーターのモデルを提供しています。

OpenCALMは、株式会社サイバーエージェントが開発した日本語LLMライブラリです。68億パラメーターのモデルを提供しています。

これらのライブラリを利用することで、日本語のLLMを簡単に利用することができます。

コメント

このブログの人気の投稿

自己流思い付き

 長年契約してきたさくらインターネットのVPSに稼働しているWordpressが何らかのものに削除されました。幸い残したいものはこのブログに移したので、あまり困ったことはありませんでした。もうVPSを解約しようと思いますが、今年の11月までの契約なので、正直って迷っております。  職場のホームページサーバがMacmini上のピュアDebianなので、実験台としてVPSを契約したのですが、もう実験しないし、解約してもよいだと思います。   このブログもこれをきっかけにタイトルを変えました。

Excel Power Query 英数字の全角から半角への変換

最近仕事上でExcelのPower Queryを始めました。しかし、英数字の全角から半角への変換関数がないため、下記のサイトを参考して、 作っちゃいました。  https://qiita.com/baku2san/items/8041d0259fe0db680e7e https://www.yoheim.net/blog.php?q=20191101 (original as text) as text =&gt; let    originalText = Text.Combine({original, ""}),    replaceResult =  Web.Page("<script>var originalText="&"'"&originalText&"'"&";var result=originalText.replace(/[A-Za-z0-9]/g, function(s) {return String.fromCharCode(s.charCodeAt(0) - 0xFEE0);});document.write(result);</script>")       [Data]{0}[Children]{0}[Children],    result = if (List.Count(replaceResult) &lt;= 1) then    {        "" as text // 変換して何も残らない場合    } else if (replaceResult{1}[Text]{0} = null) then    {       originalText   as text// 何も見つからない場合    }  else {       replaceResult{1}[Text]{0} as text    } in     result{0}  

余裕ですかね。

  いまの自分はやることが多いが、意外と慌てず一歩一歩現場と歩んでいき、地道にデータ入力から可視化までの利便性、完全性と正確性を追求する余裕が出ております。SpotfireというBIツールにハマり、人に使い方を教えながらもまたその恩恵を受けているといういい循環も大きいですね。大体自分のようなポストにいる人たちはあまりプログラムを書く余裕もないだが、自分は幸せのほうと思います。