会計専用AI構築

GoogleのNotebookLMに、会計の書籍、雑誌300冊（仕様上300冊がMAX）を学習させて、会計専用のAIのPoC（Proof of Concept）を実施してみました。これが結構良い回答を返してきます。信頼できる書籍、雑誌に基づいているので、回答も信頼性が高いです。今の段階でも十分に活用できます。

この実験結果を受けて、自分用、会計専用のローカルLLMの製作を決断し、高性能GPUを発注しました。自宅の作業パソコンは、自作なのですが、私はゲームを一切やらないので、GPUはプアなものを取り付けていました。他のパーツは高性能なのに、GPUのみプアな、パーツのバランスの超悪いパソコンです。そのパソコンに、メモリーも大きい高性能GPUを取り付け、モデル構築、会計の書籍、雑誌を学習させようと考えました。ローカルなので、情報漏洩、著作権上の問題も生じません。

完成したら、もう書籍、雑誌を購入して読まなくても、AIに学習させれば、必要な時に取り出せるようになると思い、Ollama + anythingLLM + pakachan/elyza-iiama3-8bやgemma4:26bでの構築にトライしましたが、全くうまく行きません。当初、AIが嘘をつく現象であるハルシネーション（Hallucination：幻覚）が強く発生し、正確な情報を提供してくれませんでしたが、解決できました。しかし、回答の内容の質が私が期待する水準に全く達することができませんでした。

ランサーズでAIの専門家を募り、相談しましたが、無償のモデルを使って、会計専用ローカルLLMを作ることには限界があると判断し、最近では、Vertex AI Searchの活用に切り替えて取り組んでいます。