[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
67: (ﾜｯﾁｮｲ b332-GHSR) 06/12(水)22:21:26.79 ID:???0 AAS
今までkoboldで小説書く時、指示モードを使って官ジェネのローカル版とか使ってやってたけど
素直に小説モード使った方が捗る事に気付いた
指示モードだと、途中で終わらせようとするけど、小説モードは延々と書き続けるし、使いやすい
winfoやmemory駆使すれば、指示モードのプロンプト流用できるし、書き進めるうちに文体も安定してくるし、いいわこれ
138: (ﾜｯﾁｮｲ 3794-SDwR) 06/19(水)08:53:49.79 ID:???0 AAS
そのモデルのプロンプトテンプレート次第だから、モデルカードを見たほうがいい
271: sage (ﾜｯﾁｮｲ f321-JmlM) 06/29(土)11:06:48.79 ID:4Yd7voia0(1) AAS
gemma 9b LMstudioで使ってるけどめっちゃ頭いい気がする……gpu offloadが最大33じゃなくて50なのね
329: (ﾜｯﾁｮｲ f22e-9Pyd) 07/02(火)20:50:45.79 ID:???0 AAS
俺もQ5Sでsillyのチャットしてみてるけど応答はめちゃ早いもののVRAM24G埋まりっぱなしだー
けどエロは淡白だな
なんかチャットなのにナレーションでさっさと済ませようとしてくる
464: (ﾜｯﾁｮｲ 1a25-2ud2) 07/14(日)18:11:33.79 ID:???0 AAS
ベストってなんや、ていうかたぶん来るスレ間違えとるで
511: (ﾜｯﾁｮｲ 0758-8qQ8) 07/17(水)15:04:01.79 ID:???0 AAS
silly tavernのworld info やvector strageを使いこなすのはユーザーにも温度が必要だな
561: (ﾜｯﾁｮｲ 4b8b-V2rD) 07/21(日)11:23:53.79 ID:yxK3IHYk0(1) AAS
>>548
5090を1枚買う価格(40万？)で
4060Tiか3090の中古を複数枚揃えたらいける
604: (ﾜｯﾁｮｲ 0fdc-V2rD) 07/24(水)08:45:43.79 ID:???0 AAS
llama3.1がgroqで触れるので70b版を触って来たけど最低限日本語っぽいものが返ってくるレベルやな
脱獄プロンプト入れればエロプロンプトも通るけど誤字や簡体字混じりの文章でなにかのトリガーで同じフレーズを繰り返し始めるしなかなか厳しい
command r+くらいの性能はあると期待してたけど設定が悪いんかな
607: (ﾜｯﾁｮｲ 0f7a-srET) 07/24(水)10:17:32.79 ID:???0 AAS
なんか日本語弱いらしいよ
777: (ﾜｯﾁｮｲ ff7c-5fMY) 08/04(日)04:53:53.79 ID:???0 AAS
llama-3-elyza-jp-8bをLM Studioで使ったらちょっとでもエロ要素があると
"I cannot create explicit content."しか言わへんガチガチ倫理観で
どんだけ説得してもビクともせんのやが
koboldcppで使うと何故かユルユル倫理観なんや
最初はkoboldcppのChat PrePrompt機能がjailbreakになっとるんか？と思ったら
そうやなくてInstruct Tag Presetを(適切であろう)llama3 chatにしたらガチガチ倫理観になったんや
今度は逆にLM Studioの方でPresetをMistral Instractにしてみたらユルユル倫理観になった
これどういう仕組みなんや？？
880: (ﾜｯﾁｮｲ cf7a-ugRd) 08/21(水)17:14:58.79 ID:???0 AAS
監視カメラで録画し続けて全て起きたことへの解釈を残すってのは
現時点だとちょっとマシンパワー（クラウド料金）の問題でしんどいと思うが、
理論上は現時点でもできるだろうな
あまり人通りがないとこで、何かが通りかかったときだけ解釈開始とかなら
より現実的になるかも
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.027s