top of page

Local LLM Creation

7月21日
読了時間: 1分

とある業務の休憩中ニュースをみていたら興味深い記事を発見した。それはLLMを自分のPCで構築ができるということだ。

それって自作AIがすでに世に出ているLLMが無料で使えるってことじゃないか。しかも無料、商用もOK。これって試さない理由がはないよね。


https://www.lmstudio.ai/docs/app <これが詳細。


で、まずは前に作ったAIOCRのAI部分をローカルLLMにしてみたけど、PythonライブラリのOCRがだめなのか、株式会社hogeがnaitoとよまれてしまった。


=== [2/6] ファイル読み込み: C:\tmp\AIOCR2\infile\Order.pdf ===

=== [3/6] 会社判定を実行中... ===

-> 判定された会社ID: naito

=== [4/6] 会社別プロンプトを取得中... ===

=== [5/6] 項目抽出を実行中... ===

=== [6/6] JSONファイル出力: C:\tmp\AIOCR2\outfile\result.json ===

処理が完了しました。


C:\tmp\AIOCR2>


LLMが原因というより、OCRライブラリでしたね。他に役に立てることがないか模索中である。


コメント


bottom of page