スポンサーリンク
Googleが提供するPCで動くLLM、Gemmaが出た時に試してみたが、半年もたたずに新しいバージョン、Gemma2がリリースされた。早速試してみた。
応答が速く、以前よりも回答が良くなっているようだ。トレーニングできれば、パーソナルAIにできるのではないかな。
テキスト生成AIについてのまとめはこちら。
HuggingFaceに書かれているものを和訳したものを示す。
Gemmaは、Google製の軽量で最先端のオープンモデル・ファミリであり、Geminiモデルの作成に使用されたものと同じ研究とテクノロジーから構築されています。これらは、テキストからテキストへのデコーダーのみの大規模言語モデルで、事前トレーニング済みのバリアントと命令調整済みのバリアントの両方に対してオープンな重み付けを備えています。Gemma モデルは、質問への回答、要約、推論など、さまざまなテキスト生成タスクに適しています。比較的小型であるため、ラップトップ、デスクトップ、独自のクラウド インフラストラクチャなど、リソースが限られた環境に導入でき、最先端の AI モデルへのアクセスを民主化し、すべての人のイノベーションを促進するのに役立ちます。
このように、PCなどのGPUでも比較的早く回答ができる、軽量なLLMだ。トレーニングしたデータが9Bと27Bの2種類ある。Bは10億という意味だ。まずは27Bを使ってみよう。
Gemmaでも応答性はよかったが、回答がいまいちなところがあった。例えば明日の天気を聞くとリアルタイムデータにはアクセスできないという。
まあ、あらかじめトレーニングされたデータに基づいて動くAIでは難しいのかもしれないが。
GemmmaをインストールしているPCなら、Ollamaをインストールしているだろう。これを使うだけだ。
初めて使う場合は下のボタンからOllamaをインストールする。
コマンドプロンプトを開いて、起動する。
ollama run gemma2:27b
9Bなら
ollama run gemma2:9b
詳細はHuggingFaceのページを参照。
Gemma2 出典:HuggingFace
今回もデータ量が巨大なのでしばらくダウンロードにかかる。終わるとOllamaの中でプロンプトが表示され、質問を入力できるようになる。
今回も英語と日本語でいつもの質問をしてみた。前回の記事と比較するといいと思う。
Gemma2 英語
Gemmaのときはもう少し返答が長かった。短くなったな。
He has been CEO of Google since October 2, 2015, and is also the CEO of Alphabet Inc., Google’s parent company.
Is there anything else you’d like to know about Sundar Pichai or Google?
ちょっと説明が長くなった。
Gemmaでは回答できなかったが今回は正しい回答だ。CEOになった年月も表示している。
こちらもGemmaでは回答できなかったが今回は正しい回答だ。CEOになった年月も表示している。
こちらもGemmaでは回答できなかったが今回は正しい回答だ。革ジャンではなくセーターで有名とあるが何かと間違えているのかな?
説明が詳細になった。
前とは違った回答だ。
前回と同等の回答だ。
前回はいくつか候補を挙げてくれたが、今回はどういうところがいいのか、質問を返してきた。
前回同様にリアルタイム情報にはアクセスできないと回答。まあ仕方ない。
**Tokyo to Osaka by Shinkansen:**
1. **Choose your route:** There are two main Shinkansen lines that connect Tokyo and Osaka:
* **Tokaido Shinkansen:** This line runs directly from Tokyo Station to Shin-Osaka Station. It’s a popular
option for tourists as it offers the opportunity to see Mount Fuji on a clear day.**
2. **Get your tickets early:** Shinkansen tickets are best purchased in advance, especially if you’re traveling
on popular routes like Osaka. You can buy them online or at ticket counters in major train stations.
3. **Consider different types of Shinkansen:** There are various types of Shinkansen trains:
* **Nozomi:** The fastest and most frequent option, but it doesn’t stop at all stations on the route.**
4. **Purchase a Japan Rail Pass:** If you plan to travel extensively by train in Japan, purchasing a Japan Rail
Pass before arriving can save you a lot of money. This is a great way to make the trip more affordable for
tourists.
**Osaka is a popular destination on the Shinkansen line,** so you’ll have plenty of options.
**From Tokyo:**
* **Travel to Nagoya:** Take the Tokaido Shinkansen (the train line connecting Tokyo and Osaka) to Shin-Osaka
Station. This is the fastest way to get to Osaka.
* **Purchase JR Shinkansen tickets:** You can buy them in advance online, at a travel agent, or at a JR ticket
office.
**The Shinkansen journey offers:**
* **Speed and Efficiency:** The train journey will be a smooth and quick experience.
* **Comfort and Convenience:** Enjoy comfortable seating, spacious interiors, and amenities like free Wi-Fi and
charging ports on many trains.
* **Stunning Views:** The Shinkansen route between Tokyo and Osaka is renowned for its views of Mount Fuji during
certain times of the year.
**Important Considerations:**
* **Timing:** The journey time from Tokyo to Osaka by Shinkansen is roughly **2.5-3 hours**.
* **Cost:** Consider the cost of individual tickets vs. a Japan Rail Pass. If you’re planning on traveling
elsewhere in Japan, a **JR Pass might be more economical.**
* **Comfort and Convenience:** The Shinkansen offers a comfortable and convenient way to travel between Tokyo and
Osaka.
**To choose the best option for your trip, consider:**
* **Your Budget:** Individual tickets can be expensive, but a JR Pass will save you money if you’re traveling on
multiple lines.**
**There are different types of Shinkansen trains, some faster than others:**
* **Hikari:** A good option for those on a tighter budget.
* **Kodama:** This is the slowest and least expensive type of Shinkansen and stops at every station.
**Choosing the right Shinkansen:**
* **Cost:** The Tokaido Shinkansen is the most popular route, connecting Tokyo to Osaka with the highest speed and
fewest stops.**
**5. Travel Time:**
* **Nozoka:** Stops at all stations along the route.
* **Kodama:** Stops at every station between Tokyo and Osaka.
Let me know if you’d like more information on any of these specific train types, as they often have different
levels of comfort and amenities.
**I hope this helps!**
Do you have a particular route in mind or a preference for a specific type of Shinkansen?
ずいぶん長くなり、注意点まで書いてくれている。
Gemma2 日本語
正解
ん?インテルCPUを製造するAMD?
正解
ん-いっていることがよくわからない。
ん?マイクロソフトの話が混じっている?
しかも質問は不正解。
正解
あれ、英語であるし、オリンピックの話が混じっている。
**個性的な体験ができる場所:**
* **秋葉原:** アニメや漫画好きなら、アニメショップやメイド喫茶など、日本のサブカルチャーを体感できる場所です。
* **原宿:** 個性的なファッションやストリートカルチャーが楽しめる街です。
* **浅草寺:** 東京の象徴的な場所の一つで、多くの観光客が訪れます。
**ちょっと変わった東京のスポット:**
* **猫カフェ:** 猫と触れ合いながらお茶を楽しめる、人気の体験です。
* **ロボットレストラン:** 刺激的なロボットショーは、忘れられない思い出になるでしょう。
**自然を満喫できる場所:**
* **新宿御苑:** 広い庭園で、四季折々の花や景色を見ることができ、都会のオアシスとして知られています。
* **皇居:** 東京の中心にある広大な庭園です。
**歴史・文化に触れる場所:**
* **東京国立博物館:** 日本美術や歴史を深く学ぶことができます。
* **浅草橋:** 昔ながらの「下町」の雰囲気を感じることができる場所として知られています。
* **新宿御苑:** 都会の喧騒から離れて、静寂な時間を楽しむことができます。
**ロボットレストラン** は、ちょっと変わった体験をしたい方におすすめです。
**歴史的な場所** を探しているなら、
* **秋葉原にあるロボットレストラン「かっぱ寿司」** など、東京にはたくさんの面白い場所があります。
**どの様な体験を求めていますか?**
例えば、
* **歴史・文化** がお好きですか?
* **最新のテクノロジー** を見てみたいですか?
* **アニメや漫画、ゲームなど** の特定の分野で、 **おすすめの場所** や **イベント** はありますか?
* Let me know what kind of interests you have, and I can give you a more personalized list!
他にない秋葉原、ロボットレストランが上がっている。さすが27B。
**新幹線に乗車する時の注意点:**
* **乗車券は事前に購入するのがおすすめです。** 特に混雑期には、予約が必須です。
* **新幹線はJR東海とJR西日本が運行しています。** 東京駅から名古屋駅や新大阪駅へ向かう際には、東京駅を管理する会社は
「のぞみ」に乗車する時に指定した座席を確保する為にも事前に確認しておきましょう!
* **新幹線は、東京駅から京都駅・名古屋駅など、多くの都市に停車します。**
* **「のぞみ」は、停車駅が少ないので、東京から大阪への移動時間は「のぞみ」と「みずほ(こだま)」「おとく」などの
「弾丸旅行」を体験したいなら、
**東京から大阪へ行く** ために、
* **新幹線で大阪へ行く**
のが最も一般的な方法です。
* **東京駅** から **新幹線の「のぞみ」** や **「ひかり」** で **「東京駅-名古屋駅」**間を **新幹線** で移動する場合
は、
**東京駅・品川駅** などから乗車できます。・・・
前半は正解。この後もだらだらと続き、みずほ、こだみ、おとくという意味不明な列車も登場。酔っぱらっているのかな?
Actionの説明がないのかな。
**「スマホの最新のシェア率」** は、世界中のモバイルオペレーティングシステム (OS) の人気を測る上で重要な指標です。
**「Android」**
**「Androidのマーケットシェア」**は、
*
スマートフォン市場全体で、* **「世界中のスマホ利用者数」** を考えると、Android は圧倒的に多いです。
**「Google Playストアのアプリのダウンロード数や人気ランキングを参考にすると良いでしょう」**・・・
URLの提示をするのは進化している。(9Bの方では誤った回答をしていたが)
まあそうだわな。
不正解。(9Bは正解)
正解
世界の人口に関する質問は、データ分析が得意な私達には少し難しいです。私は世界の人口やその詳細を把握していません。
**しかし、RFP(提案依頼書)のテンプレートを作成することはできます!**
**[企業名]** 様
**[日付]**
**提案依頼書**
**[プロジェクト名]**
**[提案の対象となるプロジェクトについて簡潔に記述]**
**1. プロジェクト概要**
* この提案を何のために作成されましたか? [企業名]
**2. 提案目的**
[提案する具体的なデータ分析タスクを説明する。例として、以下の項目を参考に編集・追加する。]* **データ:** 人口、人口密度、年齢構造など、必要なデータのタイプを指定]**
* **範囲:** 本社、工場、従業員数などの情報を提供する。**
* **目的:** [提案するデータ分析の具体的な目標を記述。例:
* 私は[企業名]の[あなたの名前・役職]です。この提案は、世界の人口の動向を分析し、[目的のデータ分析]に関するデータを提供する目的で作成しました。
* このデータ分析の結果を、[対象となる相手]に活用して頂きたく、・・・
ここでも先の質問の影響がみられる。27Bは記憶する機能があるのかな。
動画は9Bのデータでとっているのでかなり軽快だ。27Bでよく見られただらだらと続く回答や前の質問の記憶があって変な回答をすることはなかった。
最近はJisaku8のRTX3060 12GBでは処理しきれないデータ量のLLMも出てきている。CoPilot-PCはGPUほど潤沢なリソースがあるはずないので、当面は10B前後のトレーニングデータに落ち着いていくのかな。
PR