Ollama 0.40.11 では、Windows ユーザーにデスクトップチャットアプリケーションと、他のソフトウェア用のローカルモデルランタイムが提供されます。Ollama は元のコマンドラインインターフェイスを超えて、検索可能なモデルセレクタ、画像添付、コーディングツールへのリンクを追加しました。テストに必要なコントロールの一部は、PowerShell とモデル構成ファイルに残っています。Ollama をインストールしました。
このカテゴリでは、エンドユーザーレビューで使用したマシン上で動作するソフトウェアを取り上げています。現在は、ローカルLLMツール、つまりJan、LM Studio、Ollamaなどのデスクトップアプリやランタイムに焦点を当てています。これらのツールは、オープンウェイトモデルをダウンロードし、ラップトップやワークステーションのGPUから提供します。各ハンズオンでは、ラボのハードウェアにツールをゼロからインストールし、モデルのダウンロード、GPUオフロード、重要な設定を行い、デコードスループットを測定することで、同じシステム上のツール間で結果を比較できるようにしています。また、このカテゴリには、Samsung MagicianやSolidigm SynergyツールキットからProxmoxやpfSenseの構築まで、長年にわたって公開してきたドライブユーティリティやホームラボガイドも含まれています。
ツールを選ぶ際は、まず弊社の「ベストローカルLLMツール」ランキングをご覧ください。このランキングでは、ランタイム、デスクトップアプリ、エージェントフレームワークをランク付けし、各ツールの実践ガイドが公開されるたびにリンクを掲載しています。ハードウェアに関しては、「ローカルAIに最適なノートパソコン」と「ローカルAIに最適なデスクトップ」のページで、測定されたモデルパフォーマンスに基づいてシステムをランク付けしています。また、弊社のエージェントAIハードウェアサイジングガイドでは、購入前に特定のモデルに必要なVRAM、RAM、ストレージ容量について解説しています。
Ollama 0.40.11 では、Windows ユーザーにデスクトップチャットアプリケーションと、他のソフトウェア用のローカルモデルランタイムが提供されます。Ollama は元のコマンドラインインターフェイスを超えて、検索可能なモデルセレクタ、画像添付、コーディングツールへのリンクを追加しました。テストに必要なコントロールの一部は、PowerShell とモデル構成ファイルに残っています。Ollama をインストールしました。
Open WebUIは、チャット、モデル管理、ファイル、Web検索、ツール呼び出し、画像サポート、知識機能、APIアクセスを1つのローカルAIインターフェースに統合しています。今回の実機レビューでは、Windowsデスクトップ版に焦点を当て、以前の1月版v0.8.6のテストで使用したのと同じハードウェアとモデルファイルを使用して、2つのアプリケーションを比較しました。
ここ数年で、大規模な言語モデルをローカルで実行することははるかに容易になったが、モデルをダウンロードしてから、それを実行するための便利なデスクトップ環境を手に入れるまでには、依然としてギャップが存在する。JanはChatGPTの代替として、使い慣れたチャットスタイルのインターフェースを備えたオープンソースのデスクトップアプリを提供し、セットアップのほとんどを内部で行うと説明している。
OSNexus QuantaStor Community Edition では、ノードあたり 80 TB で最大 XNUMX つのノードをサポートし、最小限の制限で使用できます。
Samsung は最近、内蔵ドライブおよびコンシューマ ドライブ用の無料 SSD 管理ユーティリティ スイートである Samsung Magician バージョン 8 をリリースしました。 Magician は無料であることに加えて、速度、健康状態、セキュリティ設定などの役立つドライブ情報を提供します。
Solidigm Synergy 2.0は、ユーザーが新機能を利用できるようにし、SSDを管理できる同社の無料次世代ソフトウェアスイートです。Solidigmは、最適なユーザーエクスペリエンスを通じて、PCとSSDの連携を強化することを目指しています。本日ご紹介するのは、ソフトウェアに重点を置いたこの新たな取り組みのフェーズ1に過ぎません。同社は、
ULINK DAドライブアナライザーは、QNAPユーザーが利用できるアプリケーションで、AIを活用してシステムにインストールされているドライブの正確な予測を可能にします。このアプリケーションが他のスマートモニターと異なる点は、ULINKが機械学習を用いて1000万台以上のデータを活用していることです。
最近、ホームラボ環境向けの低予算サーバーに関する小シリーズを作成することにしました。この記事では、少し前に購入したHP EliteDeskでのHyper-Vの設定について見てきました。Windows Hyper-Vは、Windows ServerおよびWindows 10 Pro、Enterprise、Educationに組み込まれている仮想環境です。
ホームラボ用のコンポーネントを学習したり構築したりするとなると、eBayやNewEggの中古品と呼ばれる大量のテクノロジーはまさにうってつけです。昨年、VMwareサーバーのセットアップ記事を作成し、その記事のためにHP EliteDesk 800 G1 SFFを購入しました。SSDとサポートされたハードディスクドライブが搭載されていました。
先日、TikTokアカウントにLenovo ThinkEdge SE50に関する動画を投稿したところ、大変好評でした。SE50をpfSenseルーターとして使うことについて、多くのコメントをいただきました。SE50の価格(約2500ドルから)を考えると、このアイデアは現実的ではないと言えるでしょう。しかし、このシステムには多くの利点があります。