[過去ﾛｸﾞ]
なんJLLM部 避難所 ★3 (1002ﾚｽ)
なんJLLM部 避難所 ★3 http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/
上
下
前
次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索
歴削→次ｽﾚ
栞削→次ｽﾚ
過去ﾛｸﾞﾒﾆｭｰ
127: 名無しさん＠ピンキー (ﾜｯﾁｮｲ c336-LzEU) [sage] 2024/06/18(火) 00:41:14.72 ID:???0 む、2行目ちょっと日本語変だった。 v1で書かせてあった半分以上会話文で構成されたエロストーリーについて、v2で続き書かせたら8割以上ナレーションになっちゃった。 http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/127
128: 名無しさん＠ピンキー (ﾜｯﾁｮｲ ba2f-gpBf) [sage] 2024/06/18(火) 06:41:06.44 ID:???0 なりきりチャットボットを作るならどうすればええの？プロンプトだけじゃ無理？ http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/128
129: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 9aa3-BtEB) [sage] 2024/06/18(火) 07:35:25.43 ID:???0 雑な質問が増えたな… http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/129
130: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 8a77-xShE) [sage] 2024/06/18(火) 08:52:59.12 ID:???0 誰でもできるようになる弊害やな 初心者質問スレってあんのかね http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/130
131: 名無しさん＠ピンキー (ﾜｯﾁｮｲ afd8-gqBD) [] 2024/06/18(火) 15:55:04.27 ID:hzskWJ3z0 ?使用アプリ バージョン ?GPU(VRAM) ?利用モデル ?目的 ?うまくいってない成果物、エラーコードもしくは目標とするサンプル これ埋めないと質問できないくらいでちょうどいいかもね http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/131
132: 名無しさん＠ピンキー (ﾜｯﾁｮｲ aa3e-0aQ6) [sage] 2024/06/18(火) 22:59:27.84 ID:???0 早速初心者な質問で恐縮なんだけど koboldでチャットモードで対話してて最初はとても自然な会話になってるのにだんだんAIが勝手にUserのセリフも言いだしちゃう そうなるとアプリ再起動しないと直らなくてどんどん悪化するんだけど何か設定しておかなきゃ防げないの？ http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/132
133: 名無しさん＠ピンキー (ﾜｯﾁｮｲ db32-4P7d) [sage] 2024/06/18(火) 23:17:08.82 ID:???0 >>132 そのモデルが何か分からんけど、よくある現象ではある 試しに、chatmodeじゃなく、instractmodeにしてチャットしてみ モデルによっては、その方がいい あとkoboldでchatmode使うくらいなら、Silly Tavernかませる方がいろいろ捗るで http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/133
134: 名無しさん＠ピンキー (ﾜｯﾁｮｲ aa3e-0aQ6) [sage] 2024/06/18(火) 23:23:29.86 ID:???0 >>133 sillyも使ってみていて、どっちでも起こる現象だったからkoboldの基本的な設定が出来てないのかなと モデルによって違ってくるんですね 今試しにninja v1を入れてるので他のとinstractmodeも試してみます http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/134
135: 名無しさん＠ピンキー (ﾜｯﾁｮｲ af3b-vjzl) [] 2024/06/19(水) 05:37:09.15 ID:clFQlJDO0 >>132 これ、テンプレに欲しいレベルなんだけど stop wordsだとかの停止条件に"\n{{user}}"とか"\nUser:"入れておけばいいだけ http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/135
136: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 0a76-vjzl) [] 2024/06/19(水) 05:45:39.02 ID:scPQMIfv0 初心者質問ですいません。 asmrシナリオ作成におすすめのモデルって何がありますか？ 今はそれとなくNinja-V1-nsfw-128k使ってます。 http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/136
137: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 9bf6-0aQ6) [sage] 2024/06/19(水) 08:45:14.64 ID:???0 >>135 全然知らなかったよありがとう 画像生成のネガティブプロンプト的なものがあるのね そういうコマンド？って他にも色々ありそうだけどどこで学べるの？ http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/137
138: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 3794-SDwR) [sage] 2024/06/19(水) 08:53:49.79 ID:???0 そのモデルのプロンプトテンプレート次第だから、モデルカードを見たほうがいい http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/138
139: 名無しさん＠ピンキー (ﾜｯﾁｮｲ ba6f-q4hI) [sage] 2024/06/19(水) 09:10:51.06 ID:???0 プロンプトテンプレートにも拡張性あるけど情報共有してるコミュニティがsilly tavernくらいしか見たことない http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/139
140: 名無しさん＠ピンキー (ﾜｯﾁｮｲ aa24-acAo) [] 2024/06/19(水) 11:27:14.98 ID:0EXFqxDd0 >>137 ネガティブプロンプトではなく、WebUI側の仕組みというかある種の機能や。 LLM側はフツーに\n{{user}}込みのレスポンスを返してくるけど、WebUI側でその文字列を受け取った時点で打ち切る、みたいな http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/140
141: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 7bbe-vjzl) [sage] 2024/06/19(水) 12:18:48.92 ID:???0 commandR+でもそれっぽい文章をつなぎ合わせて合成してるだけで意味は全然分かってないから 整合性が必要な話だとすぐ破綻するのな エロ要素一切なしでヒロインの家の風呂が壊れたから近所の銭湯に行くって設定与えるだけで平気で クラスメイとの男子が一緒に女風呂に入ってきやがる http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/141
142: 名無しさん＠ピンキー (ﾜｯﾁｮｲ aa7a-0aQ6) [sage] 2024/06/19(水) 12:33:57.27 ID:???0 >>140 なるほど、stop wordsだからその単語を検知した時点で出力停止ってことなのね ということは自然なチャットを続けていくうちにどんどん回答が乱れて意味不明になっていくのはまた別の問題か そっちは諦めるしかない感じ？ http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/142
143: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 3fc0-DoMz) [sage] 2024/06/19(水) 13:13:59.68 ID:???0 >>142 oobaboogaかSillyTavernしか使ってないけどちゃんとしたLLM用UIならモデルごとにええ感じにしてくれるプリセットが用意されてるからそれを選ぶ 詳しく言うとCommand rとかInstructionモードじゃないと正しく返答できないモデルがあるからそれをちゃんと設定する(停止シーケンス：<|END_OF_TURN_TOKEN|>みたいみたいなやつ) 回答が乱れて意味不明になっていくのはモデルが対応してるコンテキスト長を超えてやりとりしたときに起きるやつかもしれない。モデルにもよると思う Llama2とかコンテキスト長超えてくるとぶっ壊れてくるとかよく報告あったし https://i.imgur.com/91T4SuK.jpeg http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/143
144: 名無しさん＠ピンキー (ﾜｯﾁｮｲ ba6f-q4hI) [sage] 2024/06/19(水) 14:04:34.35 ID:???0 ChatモデルのLLMは自分の発言もinputに含めて、尚かつuser以外からのinputだと変な挙動しはじめるっぽい STでLLM同士会話させるとすぐ崩壊するし 適当な長さでセッション変えるしかない http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/144
145: 名無しさん＠ピンキー (ﾜｯﾁｮｲ afaa-vjzl) [] 2024/06/19(水) 22:05:24.73 ID:clFQlJDO0 LLMの入力全体は [System]←普通のシステムプロンプト、ロールプレイを交互にしましょうとか [Charcter]←キャラクターの設定 [Message History]←直近nターンの会話履歴 {Post System}←末尾に入るので影響力の強いシステムプロンプト <<START>>←会話ターン開始のトークン（モデルによる） User: [User Query] Assistant: みたいな感じになってる で、[Message History]を要約するとかの工夫を加えたシステムを作ればいろいろ改善すると思う chubとかは確かやってるのかな？ http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/145
146: 名無しさん＠ピンキー (ﾜｯﾁｮｲ cf11-SDwR) [sage] 2024/06/19(水) 23:24:38.00 ID:???0 前半に要約入ると、でかいモデルで履歴が伸びたときeval timeがヤバい http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/146
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 856 ﾚｽあります
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.011s