話しのネタ・Tips 【ローカルLLM】大規模言語モデルAIのあまりの遅さについカッとなってノートPCにGPUを追加する
「ChatGPT」が世界を席巻するなか、大規模言語モデル(LLM)について相談を受けるようになりました。企業のAI利用ニーズとしてよくある「独自データにより追加学習させたい」という話しをしていると、手元でも試してみたい衝動にかられ、「ファインチューニング」と呼ばれる追加で学習する手法を手元で動かしてみました。今回、Pythonなどのプログ...
話しのネタ・Tips
話しのネタ・Tips
話しのネタ・Tips
話しのネタ・Tips
話しのネタ・Tips
話しのネタ・Tips
話しのネタ・Tips
話しのネタ・Tips
話しのネタ・Tips
話しのネタ・Tips