Local LLM Creation
7月21日
読了時間: 1分

とある業務の休憩中ニュースをみていたら興味深い記事を発見した。それはLLMを自分のPCで構築ができるということだ。
それって自作AIがすでに世に出ているLLMが無料で使えるってことじゃないか。しかも無料、商用もOK。これって試さない理由がはないよね。
https://www.lmstudio.ai/docs/app <これが詳細。

で、まずは前に作ったAIOCRのAI部分をローカルLLMにしてみたけど、PythonライブラリのOCRがだめなのか、株式会社hogeがnaitoとよまれてしまった。
=== [2/6] ファイル読み込み: C:\tmp\AIOCR2\infile\Order.pdf ===
=== [3/6] 会社判定を実行中... ===
-> 判定された会社ID: naito
=== [4/6] 会社別プロンプトを取得中... ===
=== [5/6] 項目抽出を実行中... ===
=== [6/6] JSONファイル出力: C:\tmp\AIOCR2\outfile\result.json ===
処理が完了しました。
C:\tmp\AIOCR2>
LLMが原因というより、OCRライブラリでしたね。他に役に立てることがないか模索中である。

コメント