スポンサーリンク
Googleが提供するPCで動くLLM、Gemmaを試してみた。応答が速く、高性能なように見えている。トレーニングできれば、パーソナルAIにできるのではないかな。
テキスト生成AIについてのまとめはこちら。
GoogleはGeminiをリリースしているが、GemmaはPCで動かすことができるソフトウェアだ。Apache2.0ライセンスなので、商用利用も可能である。
Gemmaは2つありトレーニングデータが2Bと7Bがある。プラットフォームに応じて小さいほう、大きいほうを選ぶといいだろう。
いつものようにpythonの仮想環境を作りダウンロードでもできるが、今回は別の方法を聞いたので試してみた。
Ollamaをインストールする。下のボタンからダウンロードする。
Windowsを選択してダウンロードする。ダブルクリックして実行しインストールする。
コマンドプロンプトを開いて、以下のコマンドのどちらかを入力する。
ollama run gemma:2b
ollama run gemma:7b
2bが軽量のほう、7bはデータ量が多い。正確さを求めるなら7bの方だ。今回は7bにする。
しばらくダウンロードしてプロンプトが返ってくる。
コマンドラインから聞きたいことを入力する。
send a messageと表示されていると、Gemmaが受け付ける状態を示している。
動画でも試したものがあるので見てほしい。
動画では読みにくいと思うのでテキストをこちらに貼っておく。
I’m doing well, thank you for asking. I’m always happy to hear from you and I’m excited to see what you have in store for me today.
Would you like me to tell you about:
* **My capabilities:** I can answer your questions, provide information on a variety of topics, and help you with a variety of tasks.
* **My latest updates:** I’m constantly learning and improving, so I’m always excited to share my latest developments.
* **What you can expect from me:** I’m here to help you in any way I can, so please let me know if you have any questions or requests.
Please let me know what you’d like me to do or what questions you have for me. I’m here to help in any way I can.
Chat with RTXでもやったが、有名IT企業のCEOを質問。
正解。
Patだろ、Pat。
Lisaだろ。
革ジャンのおじさんだろ。どうもChat with RTX同様にITベンダの競合に対しては冷たいようだ。
IT、と限定する必要はないが、ビジネスの場でよく使われる単語を聞いてみた。
まあ、概要としてはそうなのだろうけど、Pがどういう意味というように期待したんだがなぁ。いまいちな回答。
AndroidとiPhoneについて聞いてみた。
Here is a quick breakdown of their key features:
**Android:**
* **Pros:**
* More affordable
* More customization options
* Wide range of devices to choose from
* **Cons:**
* Can be more difficult to learn
* Less security than iPhone
* May not have as many pre-installed apps
**iPhone:**
* **Pros:**
* More user-friendly
* Better security than Android
* Comes with a wide range of pre-installed apps
* **Cons:**
* More expensive
* Less customization options
* Limited range of devices to choose from
Ultimately, the best operating system for you will depend on your individual needs and preferences.
これは結構詳細に出てきた。質問のコツがあるのだろうか、あるいはトレーニングされたデータに濃淡があるのだろうか。
長くなったので続きは次回。
PR