前回の記事「NPUでLLMを動かすならコレ!NPU対応フレームワーク「lemonade」を使ってみよう」では、Copilot+ PCなどに搭載されている省電力AIエンジン「NPU」を、Pythonから簡単に利用できるライブラリとしてlemonadeをご紹介しました。 pip一つでインストールでき ...
筆者は以前VS Codeの拡張機能(Continue)を使用してローカルLLMを統合するnoteを書いたのだが、今回はそれの派生として、DockerでOpen WebUI環境を構築する手順を紹介する。 なお、今回のnoteは以下の環境を前提としている。 Windows 10/11 WSL2インストール済み WSL上で ...