今日は、AIを活用したManagement Decision Support System(MDSS)のチャット機能を改善しました。これまでの課題は、「Hello」のような挨拶でもAIが経営分析を始めてしまうことでした。原因は、通常チャットでも分析前提のプロンプトを使用していたためです。今回、業務に関する質問のみ分析データを参照し、それ以外は通常の会話として応答するよう設計を見直しました。一方で、What-if分析やフォローアップはLLMによる推論が不可欠なため、APIを呼び出す構成としています。AI・データベース・アプリケーションの役割分担を設計することが、使いやすさと運用コストの両立につながります。