「Geminiより優秀」の声も。NotebookLMを200%使い倒す裏ワザ10選 | ライフハッカー・ジャパン
Googleの「Gemini」より深い分析やリサーチに特化したツールがあります。それが「NotebookLM」です。 PDFやWebサイト、YouTube動画といったソースを読み込ませるだけで、解説動画やポッドキャスト、...
テクノロジーAIライフスタイル
ポイント
- はじめに GMOコネクトの永田です。
- ローカルLLMの推論をもっと速くしたい！
- LLMを利用するタスクによっては1件あたり数十秒〜かかり、処理件数が多いとかなりの処理時間になります。
- gpt-ossの場合、推論時間の8割はreasoning tokens、つまりモデルが内部で生成する思考過程です。
記事プレビュー
はじめに GMOコネクトの永田です。 ローカルLLMの推論をもっと速くしたい！
LLMを利用するタスクによっては1件あたり数十秒〜かかり、処理件数が多いとかなりの処理時間になります。 gpt-ossの場合、推論時間の8割はreasoning tokens、つまりモデルが内部で生成する思考過程です。
これをOFFにすればタスクによっては12秒...
共有
全文は出典サイトで確認できます。TopicWave では出典導線を優先して表示しています。