スポンサーリンク
GPUメーカのNVidiaが提供するPCで動作するテキスト生成AIの一種であるRAGの、Chat with RTXがバージョンアップされて、名称がChat RTXになった。
日本語にも部分的に対応したようだ。
テキスト生成AIについてのまとめはこちら。
【RAG】PCで動くAI Chat BotのChat RTXが更新されたので試してみた <==本記事前回の記事はこちら。
英語しか使えないがPCのローカルストレージに学習用のデータファイルを置いて学習させることで、質問に回答できる。
前回はあやふやだったがこういうものはRAGというそうだ。
反応はいいが、英語だけだったので多言語対応されたら使い道が広がりそうだと思った。
今回は日本語にも対応しており、画像にも対応したという。早速ダウンロードして試した。
NVidiaのサイトからダウンロードする。
Chat RTX RAG ダウンロードページ
上記ボタンをクリックして、左にある「今すぐダウンロード」ボタンをクリックする。巨大なファイルなので結構な時間がかかる。Windows用だ。
ダウンロードを終えたらインストールしよう。
ちなみにソフトウェアを使える要件も明示されているが前回と同じだ。
Chat RTX RAGシステム要件
GPUについては上述の通りだが、旧世代のGTXは対象外のようなので注意。またグラボには8GB以上のメモリが載っていること。
PC側のメモリは16GBあればいい。
インストールもまあまあ時間がかかる。起動すると真っ黒なウインドウが開く。コマンドプロンプトだ。多くのAIソフト同様にPythonで書かれているのかな。
ここからWEBブラウザが開かれて、操作はコマンドではなくWEBの方で行う。
このような黒いWEB画面が開く。
Chat RTX RAG コンソール画面
使い方は前とあまり変わらない。質問は下にある入力欄に書き込むだけだ。
学習させるデータ量とGPUの仕様次第と思うが、デフォルトの学習データでRTX3060のPCでは3秒程度で回答が表示されている。圧倒的に学習量が少ないため早いのだろう。
もっとテキストファイルを置けば学習量が増えると思う。今回は追加データで学習させることはしていない。
前回はデモソフトだったが、実用的になったんじゃないかな。
メリット
問題点
使った様子を動画にしている。
回答の文言は以下の通り。日本語の未列挙しておく。
ん。回答の意味が分からない。
どちらも回答なし。情報が書かれたファイルがないのだろう。
これは以前のレビューでも正解だった。
東京に関する質問をした。
英語ではあるがまあまあの回答。
東京は世界中の一つの最も壯麗な都市です。東京には、多数の観光地があり、それらを観光することが非常に楽しみです。以下は東京のお勧めの観光地を紹介します。
東京スカイツリー
東京スカイツリーは、東京の最高のビルです。ビルの高さは1,148メートルです。東京スカイツリーの観光は、ビルの高さから見て、東京の眾身を感じることができます。
東京の皇居
東京の皇居は、東京の最古の建築物です。皇居は、東京の文化と歷史を表現します。皇居の観光は、皇居の内部を見て、東京の文化を感じることができます。
東京の天気台
東京の天気台は、東京の天気を見て、東京の�身を感じることができます。天気台の�光は、天気の変化を見て、東京の天気を感じることができます。
東京の��
東京の緑地は、東京の眾身を感じることができます。緑地の観光は、緑地の中で�ぶことができます。
東京の美術館
東京の美術館は、東京の美術を見て、東京の�身を感じることができます。美術館の�光は、美術の作品を見て、東京の美術を感じることができます。
これらは東京のお勧めの観光地です。東京には、さらに多数の観光地があり、それらを��することが非常に楽しみです。
まず文字化けがひどい。なぜなのだろう。
そして列挙されている情報が、スカイツリー、皇居はいいのだが、他はどこの緑地、美術館なのかわからない。いまいちな回答だ。
英語ではあるが正しい答えだ。乗換案内を期待すると、物足りないが。
PC内に情報をため込んでいる場合は、エクスプローラの検索よりもRAGによる検索をするほうが速いかもしれない。
ただしそこにはあいまいな検索に対する、誤答が付きまとう。誤答が減ればかなり使えそうな感触。
あと、文字化け、意味不明の日本語はちょっと対策しないといけないだろうな。
PR
