AI関連 Hyper-VのVMにパススルーでNVIDIA H100 GPUを割り当ててみた
今回NVIDIA H100 GPUを触らせていただける機会があったのでそれを記事にします。 事前準備 OS: Windows Server 2022 CPU: Xeon GPU: H100 普通にWindows Server 2022を入れ...
AI関連
AI関連 
AI関連 WindowsでOpenCALM-7B,Falcon-40B, Rinna-3.6Bを使ってみた
前の記事でMPT-7Bが使える環境を構築しました。 今回はその環境を使ってOpenCALM-7BやFalcon-40B、Rinna-3.6BといったオープンソースのLLMを使ってみようという記事となります。 環境構築については上のMPT-7...
AI関連 WindowsでLLMの動作環境を構築した（MBT-7b)
今回は、主に機械学習で使うNVIDIAのスーパーGPUを使えるチャンスがあったので、ちょっと話題になった言語モデルMPT-7Bを試してみました。 一応使うことができたので構築方法を記しておきます。 CUDA環境をWindowsに構築するとい...
AI関連 WindowsサーバーエンジニアのChatGPTの活用方法
最近ChatGPTがいろんなところで普及してきていると思うのですが、Windowsサーバーエンジニアとしてどんな使い方が出来るか考えてみたいという記事です。 Powershellスクリプトを考えてもらう ChatGPTは結構powershe...