[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
761: (ﾜｯﾁｮｲ 9b91-1ExY) 2024/08/01(木)15:46 ID:???0 AAS
どういうこと？
最新バージョンでの話？
762: (ﾜｯﾁｮｲ 26c2-wWBb) 2024/08/02(金)07:27 ID:???0 AAS
>>0734
もしよければUIに何を使っているのか教えていただけないですか？
text-generation-webuiじゃないですよね。
763: (ﾜｯﾁｮｲ 53e1-AKUD) 2024/08/02(金)08:25 ID:bxiekA220(1) AAS
>>759
解説ありがとう、勉強になるわ。
764(1): (ﾜｯﾁｮｲ 1277-dNt2) 2024/08/02(金)08:51 ID:???0 AAS
この値にしておけばオッケーみたいな値はなくて変動すんのかな
765(1): (ﾜｯﾁｮｲ 1722-WmgS) 2024/08/02(金)09:11 ID:???0 AAS
その人の自作UIでgithubにあげてくれててこのスレの73にリンクがあるよ
766: (ﾜｯﾁｮｲ 9732-W7ZS) 2024/08/02(金)09:30 ID:???0 AAS
>>764
モデルとかプロンプトとか個人の好みとかによって最適な数値は変わる
767: (ﾜｯﾁｮｲ 9357-J9bf) 2024/08/02(金)10:53 ID:???0 AAS
英語のモデル、リーダーボードに載ってる奴とかこのスレに上がってる奴いろいろ試したけど、結局Wizard-lm-2が複雑なプロンプトに対する理解では頭一つ抜けてる気がする。
自分の使い方だといかに複雑なプロンプトを理解できるかが一番重要だから、ずっとこれ一択になっちゃう
768(1): (ﾜｯﾁｮｲ 9357-J9bf) 2024/08/02(金)10:58 ID:???0 AAS
本スレずっと落ちてるからとりあえず立てたよ
テンプレとか貼ってくれると助かる
なんJLLM部 ★8
2chｽﾚ:liveuranus
769(1): (ﾍﾞｰｲﾓ MM4e-/6wN) 2024/08/02(金)12:44 ID:???M AAS
>>765
ありがとう。
確認してみます。
770(2): (ｵｲｺﾗﾐﾈｵ MM3f-lymj) 2024/08/02(金)13:43 ID:???M AAS
>>769
作者です
jupyterに慣れてないとインストールがむずいと何回か言われたので、その場合はgithubのdiscussionにでも書いていただければ
771: (ﾜｯﾁｮｲ 26a8-wWBb) 2024/08/02(金)20:59 ID:???0 AAS
>>770
了解です。
とりあえず調べながらやってみます。
772(1): (ｼｬﾁｰｸ 0C47-YM+E) 2024/08/03(土)12:45 ID:???C AAS
kobold最新版でsseの問題解消されたっぽいな
まだ試してないが
773: (ﾜｯﾁｮｲ 83be-a6cz) 2024/08/03(土)19:19 ID:???0 AAS
頭の良さと創造力が反比例してるのが画像生成AIと同じ傾向だな
あっちも新しいモデルになる程クオリティ上がる代わりに出せる絵の幅がどんどん減っていく
人間は頭良いほど創造力が高くなるからAIはやっぱ原理的に別物なんだな
774(1): (ﾜｯﾁｮｲ cfbc-eXHE) 2024/08/03(土)19:23 ID:EbmL5lWm0(1) AAS
AI初心者なんですがトラブってるので教えてください
OllamaでモデルNinja-v1-NSFW-GGUFを実行した場合は正常にやり取りできるんですが
OllamaでモデルNinja-v1-NSFW-128k-GGUFを実行した場合は、やり取りの途中から勝手に意味不明な文字列を垂れ流すようになってしまいます
一旦こうなるとセッションを保存せずに終了して新しいセッションを開始しても意味不明な文字列を垂れ流すようになり、モデルを一旦削除するしか修正方法がなくなります
これって、モデルを作成する際のModelFileなど設定が悪いのしょうか？
それとも128kモデルの方はチャットボットのような使用目的では向いていないのでしょうか？
ダウンロード数は圧倒的に128kの方が多いのでモデルが原因の問題だとは思えないんですけども
AI初心者すぎて、なにをどうすれば問題を修正できるのか検討もつかない状態です
775(1): (ﾜｯﾁｮｲ 8fcf-mQXs) 2024/08/03(土)23:03 ID:RggQ7Em20(1) AAS
>>770
初歩的な質問で申し訳ないのですが、インストール後の起動方法がよくわからないのですがどうすればいいですか？
776: (ﾜｯﾁｮｲ d311-oRc+) 2024/08/04(日)00:00 ID:IVhBltvZ0(1) AAS
>>775
コマンドラインで”jupyter lab”を実行するとJupyterっていうWebアプリが開くと思います
そしたら、chat_gui.ipynbを左側のペインから開いて下さい
そしたら、”上部メニュー -> Run -> run all cells”とクリックすると、起動するはず
途中デフォルトのモデルダウンロードのメッセージとかあると思うけど、GGUFをすでに持ってるなら、飛ばして下さい
今ちょっと調べたら出てきたJupyterの使い方
外部ﾘﾝｸ:qiita.com
777: (ﾜｯﾁｮｲ ff7c-5fMY) 2024/08/04(日)04:53 ID:???0 AAS
llama-3-elyza-jp-8bをLM Studioで使ったらちょっとでもエロ要素があると
"I cannot create explicit content."しか言わへんガチガチ倫理観で
どんだけ説得してもビクともせんのやが
koboldcppで使うと何故かユルユル倫理観なんや
最初はkoboldcppのChat PrePrompt機能がjailbreakになっとるんか？と思ったら
そうやなくてInstruct Tag Presetを(適切であろう)llama3 chatにしたらガチガチ倫理観になったんや
今度は逆にLM Studioの方でPresetをMistral Instractにしてみたらユルユル倫理観になった
これどういう仕組みなんや？？
778: (ﾜｯﾁｮｲ ff7c-5fMY) 2024/08/04(日)05:32 ID:???0 AAS
いやLM StudioはDefault LM Studio Presetでもユルユルやったわ
わざわざllama3 V2プリセットを選んどったからガチガチになってたんか
何にしても適切な書式の指定が検閲のオン・オフを左右してることには変わらへんけど
779: (ﾜｯﾁｮｲ a332-a6cz) 2024/08/04(日)06:26 ID:???0 AAS
>>772
1.72に更新したけど全然直ってないや
780: (ﾜｯﾁｮｲ 83a0-6w4f) 2024/08/04(日)12:28 ID:???0 AAS
mmnga/Llama-3.1-70B-Japanese-Instruct-2407-ggufはまったく申し訳しないよ
逆に素直過ぎて、あれこれゲスいこと指示してやらないとエロくしてくれないまであるけど
上下前次1-新書関写板覧索設栞歴
あと 222 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.015s