[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
663(2): (ﾜｯﾁｮｲ fb32-G/Qc) 07/26(金)03:31 ID:???0 AAS
どもる文章がおかしくなることがよくあるな
「い、今やろうとしたところだ！」が正しい形なのに
「こ、今やろうとしたところだ！」となって漢字の読みを考慮しないことがある
Q5とか使ってるからなのか
>>862
裏でのやり取りごと消去って出来ないのかな？
664(1): (ﾜｯﾁｮｲ 9bab-G/Qc) 07/26(金)05:14 ID:???0 AAS
>>660
ファイル名書き換えたら読み込んでくれるで。
例えば、kagemusya-7b-v1.5-q8_0の部分をkagemusya-7b-v1Q8_0に書き換える。
わいは使わんやつの名前に書き換えて、色々試してるで。
665(1): (ﾜｯﾁｮｲ fb32-G/Qc) 07/26(金)05:24 ID:???0 AAS
Mistral-Nemo-Instruct-2407.Q5_K_M.ggufでエッチなことさせて遊んでるけど
単なるロールプレイ会話よりもハメ撮り動画の実況解説みたいなことをさせた方が本領発揮するな
666(1): (ﾜｯﾁｮｲ fb50-x6+9) 07/26(金)06:05 ID:???0 AAS
>>663
opusとかでもそうなるよ
AIは文章を音として読んでるわけじゃないから、読みなんて再現できなくて当たり前
用例を全て丸暗記するしかない
667: (ﾜｯﾁｮｲ fb32-G/Qc) 07/26(金)06:53 ID:???0 AAS
>>666
アルファベットなら頭文字の連続だけでどもりを表現できるけど
読みがたくさんある漢字だと色んなパターンを丸暗記するしかないのか
間違えることなくどもらせるのはかなり難しそうだな
668: (ﾜｯﾁｮｲ 8bc7-utX6) 07/26(金)08:45 ID:???0 AAS
>>663
lmstadioに尻と同じプロンプト入れたらひとまず出なくなった
669: (ｵｯﾍﾟｹ Sr5f-VXyX) 07/26(金)09:14 ID:???r AAS
>>665
Nemoは最初から無検閲らしいね
670(1): (ﾜｯﾁｮｲ 0bc8-srET) 07/26(金)11:40 ID:???0 AAS
>>664
リネームでやってみます
助言ありがとうございます
用途に依るんだと思いますが
色々試したもので良かったモデルはありましたか
671: (ﾜｯﾁｮｲ 4fcc-oASD) 07/26(金)12:21 ID:???0 AAS
規制かければかけるほど阿呆になるみたいだし
あんまり規制かけないでほしいな
672: (ｵｲｺﾗﾐﾈｵ MM5f-C9XH) 07/26(金)12:56 ID:???M AAS
>>650
Mistral Large結構いい感じだよね
トークナイザが日本語に最適化されてなくて厳しいけど
673: (ﾜｯﾁｮｲ df77-1fg3) 07/26(金)15:32 ID:???0 AAS
Vecteus好きだ
すぐ淫乱にならないところが
674: (ﾜｯﾁｮｲ fb32-G/Qc) 07/26(金)16:52 ID:???0 AAS
応答の長さ（トークン数）を増やし過ぎても繰り返しが多くなるのか
何を弄ったらどう変わるのかいまいち把握しきれないな
675: (ﾜｯﾁｮｲ 9b32-srET) 07/26(金)17:22 ID:???0 AAS
cyberagent/Llama-3.1-70B-Japanese-Instruct-2407
ちょっと期待
676: (ﾜｯﾁｮｲ 9b09-jkbP) 07/26(金)17:32 ID:???0 AAS
設定といえばkoboldcppのGPUレイヤーだっけ？皆いくつにしてんの？
俺初期値の200のままなんだけど減らしたらええのか？
677: (ﾜｯﾁｮｲ 4f97-C9XH) 07/26(金)17:46 ID:???0 AAS
全レイヤー乗りさえすればいくつでもいいんじゃないの
678(1): (ﾜｯﾁｮｲ 9b93-b7mV) 07/26(金)18:07 ID:???0 AAS
>>670
新参なもんでまだ全然分かってない。すまぬ。
このスレに出てきてないものだと、Antler-7B-evolve、
EZO（common/humanitiesの2つ）があるから試してみて。
Antler-7B-evolveはKagemsyaみたいな用途で使えると思う。
679: (ﾜｯﾁｮｲ 1bbe-G/Qc) 07/26(金)21:29 ID:???0 AAS
3.5sonnetがマジでかしこいな
ちゃんと設定すればそこそこ複雑な設定のゲームも進行させられる
この技術がPCゲームに応用されたら凄いことになるんだろうけどなぁ
680(2): (ﾜｯﾁｮｲ cb11-FnV+) 07/26(金)21:33 ID:zWi3niPt0(1) AAS
Mistral Large 2
脱獄なしで設定書くだけでもNSFW出力してくれて大変良い
ロリNGとかも特になさそう
若干繰り返し癖はある
画像ﾘﾝｸ[png]:i.imgur.com
681(1): (ﾜｯﾁｮｲ 5fc7-Yk6i) 07/26(金)23:21 ID:???0 AAS
>>680
w
VRAMどれくらいあれば動くの？
682(2): (ﾜｯﾁｮｲ 3311-Mtf7) 07/27(土)00:14 ID:s9nYYsMX0(1/3) AAS
>>681
量子化のレベルはIQ3_M(モデルサイズ55GB)で、64GBのunified memoryにロードしてる
意外と量子化による影響はあまり感じない(ちゃんと計測したらなんらかの劣化はあるだろうが)
上下前次1-新書関写板覧索設栞歴
あと 320 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.011s