top of page


Local LLM Creation
ローカルLLMでAI-OCRを作ってみた話(検証と壁)
休憩中のニュースで見つけた「自分のPCで無料で商用利用も可能なLLMを構築できる」という魅力的な情報。これを機に、以前自作したAI-OCRのAI部分をローカルLLMに置き換えて検証してみました。
参考ドキュメント:https://www.lmstudio.ai/docs/app
期待を胸に帳票を読み込ませたところ、思わぬ事態が発生。なんと「株式会社Hoge」が「naito」と誤読されてしまいました。原因を追うと、LLMではなく前段のPython OCRライブラリの文字認識やレイアウト解析が破綻していたためでした。
ローカルLLM活用の夢と可能性を感じつつも、実用化に向けたOCR精度の壁という現実的な課題が見えた興味深い検証となりました
7月21日読了時間: 1分


AI-Powered Management Decision Support System (MDSS) Development Notes3
今日は、AIを活用したManagement Decision Support System(MDSS)のチャット機能を改善しました。これまでの課題は、「Hello」のような挨拶でもAIが経営分析を始めてしまうことでした。原因は、通常チャットでも分析前提のプロンプトを使用していたためです。今回、業務に関する質問のみ分析データを参照し、それ以外は通常の会話として応答するよう設計を見直しました。一方で、What-if分析やフォローアップはLLMによる推論が不可欠なため、APIを呼び出す構成としています。AI・データベース・アプリケーションの役割分担を設計することが、使いやすさと運用コストの両立につながります。
7月3日読了時間: 2分
bottom of page