2025年9月7日日曜日

デスクトップ機(RADEON)でLocal LLMを試す

yahooの「古いPCを「ローカルAI専用機」にしてみた。10年近く前のマシンでも、まだいけるぞ」という記事を見てRyzen 5 Pro 4650G with Radeon Graphics、メモリ32GBのデスクトップ機で、ローカルLLMを動かしてみた。
※下記のGizmode.jpの記事も参考になる
 
 LM Studio 0.3.25をダウンロードして、Power Userモードでgpt-oss-20bがお勧めらしいのでダウンロード。discover-hardwareでGPUが認識されていることが重要(と書かれていた)。
 
適当な質問を投げる。ふつ~に使える。NVIDIA GeForceの高いヤツでなくても簡単な質問なら数秒で回答。CPU内蔵のGraphicでも使えた。
 
追記
yahooの記事があったのでLINKして修正 

0 件のコメント: