前回は「すみちょ」という名前の由来を紹介したので、今回は開発の中身について。
すみちょは、ChatGPTのスカリーと一緒に開発している自作AI。
AIの頭脳をゼロから作っているわけではなく、既存の小型AIに記憶やWeb検索、判断の仕組みを組み合わせている。
何を使っているの?
最初に使っていたのは、Qwen3 4Bという小型AI。
現在はMinistral 3Bも使って開発を進めている。どちらも比較的小さなAIモデルで、文章を理解したり、回答を作ったりする役割だ。
主な構成はこんな感じ。
- Ollama:PC上でAIを動かす仕組み
- Python:会話・検索・判断などの処理
- SQLite:調べた情報や経験を保存する記憶装置
- GitHub Actions:Webの自動巡回を実行する仕組み
プログラムも役割ごとに分けている。
sumicho_junkai.py はWebの巡回、smith_memory.py は記憶の管理、local_apps/sumicho_chat.py は会話画面。
そして sumicho/decision.py では、AIの回答をそのまま正解として覚えさせず、人間が確認した判断を記録する仕組みを作っている。
何がうまくいかなかった?
最初は、知識を増やしていけば賢くなると思っていた。
ところが、そう簡単ではなかった(笑)。
Web検索が失敗すると、存在する情報を「存在しない」と判断してしまったり、資料に書かれていないことを勝手に補って答えたりする。
さらに、二つの資料に違うことが書かれているのに、一方だけを正解として答えることもあった。
知識があることと、知識を正しく使えることは別問題だった。
そこで、単に覚えさせるだけでなく、情報の種類を区別して、根拠を確かめる仕組みが必要だと分かってきた。
今は何をしている?
現在はMinistral 3Bを使って、AIの頭脳そのものを追加学習させる実験も進めている。
専用のプログラムは sumicho/mini_training.py。
最初は学習データの一部が途中で切れてしまう問題も発見。原因を調べて修正し、再学習させた。
その結果、新しい架空の資料を使った96問のテストでは、86問に合格。
残り10問も調べると、8問は引用した資料の並び順だけの違い。実際に分類を間違えたのは2問だった。
もちろん、これは限られた条件でのテスト結果。実際のWeb記事や普段の会話で同じようにできるかは、まだ検証が必要だ。
それに、この追加学習モデルは普段のすみちょに組み込まず、別に保存して実験している。
目指しているのは
すみちょに身につけてほしいのは、
「分類する・考える・判断する」
という能力。
知らないことは調べる。分からなければ分からないと言う。間違えたら原因を調べて、次に生かす。
そんなAIに育てたい。
今はまだ、テストをしては問題を見つけ、原因を調べて修正する毎日。
でも、最初に比べると少しずつ進歩している。
さて、すみちょはどこまで成長できるのか。
まだまだ実験は続きそうだ(笑)。




コメントをどうぞ