【実体験・続編】自作したローカルAI、その後――57歳で知ったパソコンの本当の能力と、これから目指す世界
AIは安上がりな趣味だと思っていた。しかし、まったく違った
私はこれまで、経営者の頃は費用対効果の観点からそれなりにパソコンにはお金をかけてきたつもりでした。
仕事で使うために何台も購入し、必要に応じて買い替えてきました。
インターネット、書類作成、写真の管理、動画編集、ホームページ制作など、パソコンは十分に便利な道具だと思っていました。
ところが、AIを本格的に使い始めて、その考えが大きく変わりました。
私は今まで、パソコンの本当の能力をほとんど知らずに使っていたのではないか。
AIを使えば、専門的な知識がなくても、これまで自分には難しいと思っていたことに挑戦できる。
プログラムを作り、自分専用のAIを動かし、過去の経験を記憶として活用することまでできるのです。
最初は、こんなに安上がりで面白い趣味はないのではないかと思いました。
しかし、知れば知るほど、まったく違う世界が見えてきました。
もっと高度なことをやってみたいと思うと、パソコンに要求される性能も上がっていきます。
そして、その費用も驚くほど高くなるのです。
100万円、200万円、場合によっては300万円でも足りない用途がある。
安上がりな趣味だと思って始めたAIが、どこまでもお金をかけられる世界だったのです（笑）。
それでも、私はこの世界をもっと知りたいと思っています。
57歳になって、初めて知ったパソコンの能力
私は19歳から自営業を始め、長年さまざまな事業に携わってきました。
新しい仕事に挑戦するたびに、必要な道具や設備をそろえてきました。
しかし、パソコンについては、長年使ってきたにもかかわらず、その可能性を十分に理解していなかったようです。
AIの処理では、GPUという部品が重要な役割を果たします。
これまで私は、パソコンの性能といえばCPUやメモリ、保存容量などを中心に考えていました。
ところが、自分のパソコンでAIを動かしてみると、GPUの性能だけでなく、GPUメモリの容量も大きな制約になると分かりました。
しかも、高性能なGPUを搭載すれば、どんなAIでも動かせるわけではありません。
AIモデルの大きさ、必要なメモリ、処理方法によって、できることが変わります。
今までそれなりにお金をかけてきたパソコンも、AIという用途から見れば、必ずしも高性能とはいえなかったのです。
ただ、それはパソコンが悪かったということではありません。
私自身が、そこまでの能力を必要としていなかったのだと思います。
新しいPCを買う前に、手元にある2台で挑戦してみた
今回、私は自分専用のローカルAIを作ることにしました。
ローカルAIとは、外部のAIサービスに毎回問い合わせるのではなく、自分のパソコン内に保存したAIモデルを使って動かす仕組みです。
私が使ったのは、すでに所有していた2台のパソコンです。
1台はDellのPC。
もう1台は、NVIDIAのRTX 2070というGPUを搭載したPCです。
この2台をLANケーブルで直接接続しました。
AIモデルを動かすためにはOllamaというソフトウェアを使用し、GemmaやQwenなどのモデルを試しました。
私はプログラミングの専門家ではありません。
今回も、ChatGPTに相談しながら、表示された指示に従って作業を進めました。
何度もエラーが出ました。
設定がうまくいかず、何度もやり直しました。
途中では、何をしているのか分からなくなることもありました。
それでも、少しずつ進めていくと、実際に自分のパソコンでAIが動き、質問に回答するようになりました。
新品の高額なPCを購入しなくても、今ある2台のPCを組み合わせることで、自分専用のAIを動かせたのです。
これは私にとって、大きな発見でした。
900本以上の自分の記事を、AIの外部記憶として利用する
私がローカルAIを作りたいと思った理由の一つは、自分自身の経験をAIに活用させたかったからです。
私はホームページ「かけはし」で、これまで900本以上の記事を書いてきました。
19歳からの経営経験、仕事での失敗、税務調査、海外生活、モンゴルでの投資、不動産、DIY、車の修理など、実際に経験したことを中心に記録しています。
これらの記事をAIの外部記憶として利用できるようにしました。
仕組みとしては、RAGと呼ばれる技術を使っています。
これは、AIモデルそのものにすべてを覚え込ませるのではなく、保存した資料から質問に関係する情報を検索し、その内容を使って回答する方法です。
例えば、実際にこんな質問をしてみました。
「私がモンゴルでビザを更新したとき、現地の滞在期間、書類がそろってからの所要期間、途中で求められたことを教えてください」
すると、ローカルAIは保存した記事を検索して、次の内容を取り出しました。
現地に約3週間滞在したこと
必要書類がそろってから約2週間かかったこと
途中で追加書類を複数求められたこと
さらに、回答の根拠となった保存資料も示しました。
これは、私が実際に経験して書いた内容です。
一般的なインターネット検索ではなく、自分の記録から回答を作っているのです。
このとき、私はローカルAIの面白さを実感しました。
自分が何年もかけて経験し、書き残してきたことを、AIが必要に応じて取り出してくれる。
ただし、記事を登録しただけでAIそのものが賢くなったわけではありません。
検索できる情報が増え、回答に活用できるようになったということです。
それでも、自分専用の相談相手を育てるためには、大きな一歩だと思いました。
ローカルAIは実際に動いた。
しかし、ChatGPTとの差はまだ大きい
今回の制作では、プログラムを何度も改良し、第11版、第13版といった段階まで進めてきました。
保存記事の検索とAIによる回答の仕組みは動作しています。
ただし、今の段階で、普段使用しているChatGPTと同じように相談できるかといえば、まだそこまでの能力はありません。
特に、複雑な相談や推論、長い会話の理解などには差があります。
そこで私は、もっと高性能なパソコンを購入しようと考えました。
候補にしたのは、RTX 5090というGPUを搭載し、メモリ128GB、SSD 4TB程度を備えたPCです。
想定予算は100万〜120万円程度です。
さらに上の世界を調べると、200万円、300万円を超える設備もあります。
しかし、ここで一度考え直しました。
本当に、今すぐそれほど高性能なPCを購入する必要があるのだろうか。
回答が遅くてもよい。
それなら今のPCでも、もっとできるのではないか
私は、ローカルAIの回答が多少遅くても構わないと考えています。
質問してすぐに回答が出なくても、30秒、1分、場合によっては数分待って、内容の充実した回答が得られるのであれば、それでよいのです。
そこでChatGPTと相談し、現在の2台のPCを使って、もう少し性能を引き出してみることにしました。
AIモデルの選択、検索精度、記憶の整理、回答の検証方法など、まだ改善できる部分があります。
ただし、時間をかければ何でもできるというわけではありません。
大きなAIモデルは、必要なメモリが足りなければ動かせない場合があります。
CPUやメインメモリを利用することで動作できても、極端に遅くなることがあります。
また、小さなAIモデルに長時間考えさせても、最新の高性能AIと同じ能力になるとは限りません。
それでも、まだ今のPCで試していないことが数多くあります。
そこで100万円クラスのPC購入は、いったん保留することにしました。
まずは手元にある設備を使い、どこまでできるのかを確認する。
そのうえで、本当に必要な性能が分かってから設備を更新する。
今は、この方法が合理的だと思っています。
最終目標は、ChatGPTに可能な限り近い相談相手を作ること
私が作りたいローカルAIは、単に過去の記事を探すだけの検索システムではありません。
目標は、ChatGPTに可能な限り近い相談相手です。
自分の経歴や経験、考え方を理解し、経営、不動産、投資、海外生活、日常の疑問など、さまざまな相談に対応してくれるAIです。
単に私の考えに賛成するのではなく、間違っていることは間違っていると指摘してほしい。
複数の可能性を示し、反対意見も含めて考えてほしい。
そして、以前相談した内容を必要なときに取り出し、会話を続けられるようにしたい。
これが、私の考える自分専用のAIです。
もちろん、現在のローカルAIがそこまで完成しているわけではありません。
しかし、保存記事の検索と回答ができるようになったことで、目標に向けた基礎はできつつあります。
オンラインではChatGPTとGoogle Geminiを連携させる
ここからは、今後さらに進めたい構想です。
私はローカルAIだけですべてを処理しようとは考えていません。
インターネットが利用できるときには、外部の高性能AIも積極的に利用したいと思っています。
最初の連携先として考えているのが、OpenAIのChatGPT系モデルとGoogleのGeminiです。
それぞれのAPIを利用し、自分専用のローカルAIから問い合わせができる仕組みを作ります。
例えば、私が経営について質問した場合、ローカルAIが過去の記事から関連する経験を検索する。
必要に応じて、その情報を使いながらOpenAIやGoogleのAIにも分析させる。
そして、それぞれの回答を比較する。
こんな使い方を考えています。
一つのAIだけに相談するのではなく、複数のAIから意見を聞けるようにしたいのです。
ただし、AIの回答が複数一致したからといって、それが正しいとは限りません。
重要な判断では、根拠となる情報の確認も必要です。
また、普段ブラウザで使っているChatGPTと、APIを使って呼び出すAIは、料金体系や保存される会話履歴などが異なります。
外部AIとの接続には、それぞれの利用条件に合わせた設定が必要です。
※この記事の執筆時点では、ローカルAIによる保存記事の検索・回答は動作確認済みです。OpenAI APIとGemini APIを組み合わせた統合機能については、接続・動作確認を進める段階です。
APIが利用できるAIは、今後もできる限り連携させたい
私の構想は、ChatGPTとGeminiだけでは終わりません。
今後も、新しいAIが次々と登場すると思います。
それぞれのAIには得意分野があります。
文章作成、情報調査、プログラミング、画像生成、動画制作、音声処理などです。
そのため、すべての処理を一つのAIに任せる必要はないと考えています。
APIが利用でき、必要な条件を満たすAIであれば、今後もできる限り接続していきたいと思っています。
例えば、画像を作りたいときには画像生成AI。
動画を制作したいときには動画生成AI。
複雑な相談では複数の対話AI。
こうした機能を、自分専用のAIから利用できるようにしたいのです。
ただし、すべてのAIが同じ方法で接続できるわけではありません。
APIの仕様、利用料金、規約、情報の取り扱いなどが異なります。
また、複数のAIを連携させれば、必ず回答の質が上がるわけでもありません。
余計な費用や待ち時間が増える可能性もあります。
そのため、必要なときだけ必要なAIを利用する仕組みが理想です。
自分専用のAIを中心に置き、その周囲にさまざまなAIの能力を追加していく。
私が目指しているのは、そんな環境です。
AIが進化しても、自分の経験や記憶を引き継げるようにしたい
もう一つ、重要だと思っていることがあります。
それは、自分の情報を一つのAIサービスだけに依存させないことです。
今後、AIはさらに進化するでしょう。
現在使っているAIより高性能なものが登場することも考えられます。
そのとき、新しいAIに乗り換えるたびに、過去の経歴や経験を一から説明し直すのは大変です。
私は、自分が書いてきた記事や会話記録、判断の根拠などを、自分で管理できる形にしておきたいと思っています。
そして、新しいAIが登場したときには、その情報を必要に応じて活用させたいのです。
ただし、過去の会話には、間違った回答や古くなった情報が含まれていることもあります。
すべてを無条件に記憶させるのではなく、事実と推測、自分で決定したこととAIから提案されたことを区別する必要があります。
また、自分の情報を外部AIに送るときは、個人情報や機密情報を確認し、必要な範囲だけを送信する仕組みも重要になります。
私にとっての理想は、AIの能力は新しいものを取り入れながら、自分自身の経験と記録は手元に残し続けることです。
インターネットが遮断されても、AIを使えるようにしておきたい
私がローカルAIを作っているのには、趣味以外にも理由があります。
それは、インターネットが使えなくなったときへの備えです。
今後、社会のさまざまな場所でAIが使われるようになると思います。
しかし、災害、通信障害、サイバー攻撃などによって、インターネットが利用できなくなる可能性はあります。
もし、普段からクラウド型AIだけに頼っていた場合、通信が止まると利用できなくなることがあります。
そこで、最低限の相談機能は自分のパソコンで動かせるようにしておきたいのです。
インターネットにつながっているときには、ChatGPTやGeminiなどの高性能AIを利用する。
通信が遮断されたときには、手元のローカルAIを利用する。
これが、私の考える基本的な仕組みです。
もちろん、インターネットが使えなければ、最新ニュースやリアルタイムの情報は取得できません。
また、停電した場合には電源も必要です。
私はポータブル電源なども所有しているため、今後は実際に通信と外部電源を切り離した状態で、どこまで動かせるか検証したいと考えています。
オンラインでは最新のAIを使い、オフラインでは自分のAIを使う。
両方を備えることで、便利さと独立性をある程度両立できるのではないかと考えています。
AIを使って、未知の世界へ進む時間をできる限り短縮したい
私は19歳から長年、経営を続けてきました。
新しい仕事を始めるときには、自分で調べ、人に聞き、失敗しながら覚えてきました。
しかし、AIが登場したことで、その方法が大きく変わり始めています。
今までなら何日もかかった調査や、専門家に聞かなければ分からなかったことを、AIに相談しながら短時間で進められる場合があります。
もちろん、AIの回答が間違っていることもあります。
実際、今回のローカルAI制作でも、指示どおりに進めてうまくいかないことは何度もありました。
それでも、AIと一緒に問題を解決していくことで、以前なら自分だけでは挑戦しなかった分野に入ることができました。
私がAIに最も期待しているのは、単に作業を楽にすることではありません。
まだ知らない世界へ進むために必要な時間を、可能な限り短縮することです。
そして、その過程で得られた知識や経験を、自分専用のAIにも残していきたいと考えています。
今後の計画――高額なPC購入より、まず仕組みを完成させる
今後は、現在の2台のPCを使い、次のようなことを進めていく予定です。
保存記事や過去の会話履歴を整理し、検索精度を高める
AIの回答能力を改善し、ChatGPTとの違いを比較する
OpenAIとGoogle GeminiのAPI連携を実装・検証する
その他のAPI対応AIを、必要に応じて順次追加する
複数AIの回答を比較し、必要な情報を保存できるようにする
音声による会話や、画像・資料の理解にも挑戦する
インターネットを遮断した状態での動作を検証する
必要なPC性能が明確になった段階で、設備更新を判断する
高性能PCの購入を完全にやめたわけではありません。
将来的に100万円、あるいはそれ以上の投資が必要になるかもしれません。
しかし、今は高額なPCを購入すること自体が目的ではありません。
今ある設備でどこまでできるのかを確かめ、足りない部分が明確になったときに投資する。
その方が、私の目的である時間の短縮にもつながると思っています。
57歳になって、こんな世界があるとは思わなかった
正直、私は今までパソコンを長年使ってきましたが、ここまで面白い道具だとは思っていませんでした。
そして、AIの世界を知れば知るほど、まだ知らないことが次々に出てきます。
一つできるようになると、次はもっと高度なことを試してみたくなる。
そこからさらに、新しい可能性が見えてくる。
おそらく、この繰り返しなのだと思います。
AIの進化は非常に速く、今日できなかったことが、数か月後にはできるようになっているかもしれません。
逆に、高額な設備を購入しても、すぐに新しい技術が登場する可能性もあります。
だからこそ、私は特定の機械やAIだけにこだわらず、進化する技術を柔軟に取り入れていきたいと思っています。
私にとってAIは、仕事道具であり、趣味であり、実験でもあります。
そして、これからの人生で、まだ知らない世界を知るための道具でもあります。
今回、手元の2台のPCをつないでローカルAIを動かせたことは、その第一歩です。
まだ完成にはほど遠いかもしれません。
しかし、自分が経験してきたことをAIに検索させ、さらに外部の高性能AIと組み合わせていくという方向性が見えてきました。
これから先、AIがどこまで進化するのかは分かりません。
そして、自分がどこまで使いこなせるようになるのかも分かりません。
ただ、一つだけはっきりしています。
私は、完成されたAIをただ使うだけでなく、進化し続けるAIと一緒に、まだ知らない世界を試し続けたいのです。
そのために必要なら、時間もお金も使う価値があると思っています。
ただし、無駄な時間と無駄な設備投資は、できる限り減らしたい。
これからも、その過程を実体験として記録していこうと思います。
記録時点：2026年11月
この記事は、実際に行ったローカルAI構築の経験と、今後の開発構想をまとめたものです。2台のPCによるAIモデルの稼働と保存記事の検索・回答は確認できていますが、外部AIの統合、完全オフラインでの総合運用、ChatGPTに近い相談能力の実現については、今後の開発・検証課題です。
コメント