[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
405: (ﾜｯﾁｮｲ 5bc7-wjSz) 07/08(月)14:20 ID:???0 AAS
チャットで仕草や周囲の描写が詳細なものがいい
同じキャラで色んなシチュエーションや関係性を楽しみたいので性格やプロンプトは忠実がいい
新規で始めたら前の流れを組まずに
リセット出来ると嬉しい
406(1): (ﾜｯﾁｮｲ 9faa-9U6/) 07/08(月)15:30 ID:rnaQ1ZHg0(1) AAS
モデル側の裁量で新規に始めて前の流れ汲まれたらちょっと怖いやん
407(1): (ﾜｯﾁｮｲ 2b03-2T2a) 07/08(月)16:04 ID:???0 AAS
>>403
俺も手を出してみたいと思ってちらっと調べたんだけど、worldのプロンプトは会話でそれに関するキーワードが出た時に参照される類のものみたいね
逆にそういう話題じゃない時は参照しない=トークン節約になるとか
408(1): (ﾜｯﾁｮｲ 2b32-bJ31) 07/08(月)18:49 ID:???0 AAS
sophosympatheia/New-Dawn-Llama-3-70B-32K-v1.0
最初英語の表現試そうとしたけど、ふと日本語で書かせてみたら、swallowなんかよりずっといけるわ（日本語チューニングとは何だったのか）
nfswだし、ggufもあるから、試してみて
409: (ﾜｯﾁｮｲ 5bc7-wjSz) 07/08(月)19:07 ID:???0 AAS
>>406
しょっちゅう
前のチャットの流れ汲んでるだろ
というワード出る
性能確認の為に新規つくって
何度も自己紹介してとやったら
うざがられた
410: (ｵｲｺﾗﾐﾈｵ MMaf-9KzH) 07/08(月)19:31 ID:???M AAS
>>408
オリジナルのllama-3は日本語力まあまあくらいだけど、それよりいいんか？
411: (ﾜｯﾁｮｲ 2bd2-yrsp) 07/08(月)21:56 ID:???0 AAS
>>404
>>407
サンガツ
レス貰ってから色んなbookの中身覗いたり気になったのを試してみたやで
んで、DLしたそのままだとワード含んだ発言しても参照してくれなくて「？」ってなっとったんやが
正規表現に直せば上手く参照してくれるってとこまでたどり着けたわ
赤ちゃんですまん
とりあえずこれでなんとかなりそうや
412: (ﾜｯﾁｮｲ eb2c-ZPoN) 07/08(月)23:23 ID:???0 AAS
>>5
今日これ知ってインスコしてみたけどめっちゃいいやん！
いつの間にかローカルで何でもありとか神だわ
もうGPTの申し訳に翻弄されることがない！
413: (ﾜｯﾁｮｲ 0b32-9U6/) 07/09(火)05:19 ID:???0 AAS
Oumuamua-7b-RP_Q8_0.ggufはGeneratingがめちゃくちゃ早いけど
やっぱり日本語が怪しすぎて何言ってるのか分からないことが多いな
414: (ﾜｯﾁｮｲ aba0-bJ31) 07/09(火)11:48 ID:???0 AAS
見せてもらおうか、llama-3 70Bの性能とやらを
415(1): (ﾜｯﾁｮｲ aba0-bJ31) 07/09(火)13:40 ID:???0 AAS
一番小さい
New-Dawn-Llama-3-70B-32K-v1.0.i1-IQ1_M.ggufでもllama.cppでロードに失敗する。なんで？
416(1): (ﾜｯﾁｮｲ 1f74-sPXK) 07/09(火)13:47 ID:???0 AAS
Genma2を日本語ファインチューンしてくれる神が出てくれるのをずっと待ってる
公式ウェイトの時点でも日本語普通に話す上に27bだから5bit ggufが普通に24GBに収まって糞速い(20token/s)
あとはいろんな話題に対応してくれればね・・・
417: (ﾜｯﾁｮｲ 2b0f-2T2a) 07/09(火)14:00 ID:???0 AAS
>>416
たまにルー大柴化して笑いを取ってくるのとエロの反応がワンパターンに思えた
真面目用だな
418: (ﾜｯﾁｮｲ 1f74-sPXK) 07/09(火)14:05 ID:???0 AAS
英語のchat arenaではllama3よりも点数高いから能力は高いと思うのよ
あとは日本語のデータたくさん食わしてやれれば
419: (ﾜｯﾁｮｲ 1f9f-Fxlp) 07/09(火)14:13 ID:???0 AAS
外部ﾘﾝｸ:x.com
Ollama 0.2出てるね
420: (ﾜｯﾁｮｲ 2b32-bJ31) 07/09(火)14:47 ID:???0 AAS
>>415
kobold使えば？
421: (ﾜｯﾁｮｲ 1b72-v06v) 07/09(火)15:58 ID:???0 AAS
sillytavern初めて触ったけど凄くいい
かゆい所に手が届くって感じ
422: (ﾜｯﾁｮｲ 7ba9-96sv) 07/09(火)16:38 ID:???0 AAS
LLMの普段使いにも使いたくなるくらい便利だわST
423: (ﾜｯﾁｮｲ 5b6a-NlaQ) 07/09(火)17:43 ID:???0 AAS
llama3を日本語特化するとやっぱり多言語能力はなくなるもの？
424: (ﾜｯﾁｮｲ dbc0-X5c7) 07/09(火)20:25 ID:???0 AAS
SillyTavernで長期記憶するならデータバンクじゃねと思ってやってみたんだけど
- データバンクのテキストに「秘密の合言葉は○○です」って書いてキャラクターアタッチメントに置く
- チャットで「秘密の合言葉を言ってみて」
って聞いても全然答えてくれんかったわ
どうやって機能させるんじゃこれ
上下前次1-新書関写板覧索設栞歴
あと 578 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.109s*