[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
118: (ﾜｯﾁｮｲ d37d-HcAh) 06/17(月)13:24:57.46 ID:???0 AAS
ninja v2はエロ書くけど犯罪エロは書かないんだな
322(2): (ﾃﾃﾝﾃﾝﾃﾝ MM7e-POKR) 07/02(火)19:42:05.46 ID:???M AAS
相変わらずビーカーでコーヒー飲んでそうな色味のSSは見てない。しかも自分作の勝手アプリだろ？有益な情報も産んでないんだからどっか別のスレに消えてくれよ。
342: (ﾜｯﾁｮｲ 9311-jOK4) 07/03(水)11:49:46.46 ID:CoTbk8kx0(2/2) AAS
>>341
これか、サンクス
外部ﾘﾝｸ:x.com
まあR/R+も”本来は”エンタープライズ向けのモデルだとは思うから、特化型といいつつなんだかんだで色々使える〜ってのを少し期待して待っておくことにしよう
399: (ﾜｯﾁｮｲ cb87-PEkd) 07/07(日)15:58:14.46 ID:z1dzpp5z0(1) AAS
個人的にはチャットで、複雑なキャラ設定でも忠実に守ってくれるタイプのモデルが欲しいなぁ
キャラクタープロフィールを作り込んだり会話例を記載しても、しばしばプロフィールに沿わない性格になったり、
地の文を吐き始めたりするから「長いプロフィールや前提条件を読んだ上で、適切に会話だけができる」モデルがあると嬉しい
まあ地の文が出せないモデルは需要も少ないのかもしれないけど……
566(1): (ｼｬﾁｰｸ 0Cdf-oq5P) 07/21(日)14:36:53.46 ID:???C AAS
>>565
すまんローカル
小説作成なら70bの遅さでも耐えられるようになったんだわ(*´ω`*)
650(1): (ﾜｯﾁｮｲ 0f8e-srET) 07/25(木)18:12:04.46 ID:???0 AAS
mistral-large、3bitくらいまで量子化しないと動かんけどとりあえず試してみたがエロも普通に通るし日本語も自然だな
6t/sくらいしか出ないからまだあんまり試せてないけどもうちょっといろいろ触ってみる
674: (ﾜｯﾁｮｲ fb32-G/Qc) 07/26(金)16:52:46.46 ID:???0 AAS
応答の長さ（トークン数）を増やし過ぎても繰り返しが多くなるのか
何を弄ったらどう変わるのかいまいち把握しきれないな
702(1): (ﾜｯﾁｮｲ 6fa0-05lm) 07/28(日)12:58:00.46 ID:???0 AAS
ん〜IQ1-5を合体させる？
789(1): (ﾜｯﾁｮｲ 83be-a6cz) 08/05(月)21:01:25.46 ID:???0 AAS
頭が悪いモデルほどけれんみのある文章出せる、
頭良くなるほど指示には従ってくれるけど文章から面白みも創造力も失われていく
両立は難しいんだな…
878: マジカル (ﾜｯﾁｮｲ 53f3-nE6n) 08/21(水)12:47:03.46 ID:6L3aYb9m0(1) AAS
>>844
ありがとうございます。
いつかはわかりませんが、バージョンアップの予定はあります。気長に待っていてください。
v1.5は一本の小説を学習コンテキスト長ごとに分割し、学習させています。
これによって、コンテキスト長ごとのカットオフにより、序盤の文章ばかり学習するのを防いでいます。
他にもやっていることはあるのですが、それはバージョンアップ時に公開します。
981: (ﾜｯﾁｮｲ 6b9a-LAAh) 09/06(金)23:46:48.46 ID:???0 AAS
あとTanukiをtext-generation-webui か koboldで動かしたいんだけどよく分からなかった、情報求む
分かっている事
・GGUFは諸々の理由で性能が落ちるから非推奨、vLLMかAutoGPTQかAutoAWQでの読み込みを推奨
・Tanukiは独自アーキテクチャを使用してるので、AutoGPTQ、AutoAWQの現存ローダーでは読み込めない
・Tanuki製作者が独自に改変したAutoGPTQ、AutoAWQが公開されていて、恐らくそれで読み込める
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 1.579s*