[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
37: (JP 0Hb7-NGCR) 06/10(月)17:13:03.36 ID:20MkTow/H(1/3) AAS
SillyTavernっていうAIにエッチなことができるアプリ？を使うにはText Generation WEBUIがいいと聞いたので
右も左もわからない状態で頑張ってWSL2でubuntu環境を入れて
よくわからないままパッケージなどをinstallして、text generation WEBUIを入れたんですが
サクっと導入できたOllama上のPhi-3 mediumだとトークン生成速度が数十/sでとても早くて
Text Generation WEBUIのほうだと同じモデルでトークン生成速度が３/sとかでめちゃくちゃ遅くて困ってます
どうしてOllamaのほうは爆速なんでしょう・・・
Windows上でubuntuを動かしててでGPUは4090です
さすがにほとんど無知な状態でText Generation WEBUIのようなライブラリ？パッケージ？を扱うのは無謀でしたかね
59: (ﾜｯﾁｮｲ f38f-Cmxr) 06/11(火)17:42:30.36 ID:???0 AAS
画像生成ソフトウェア「ComfyUI」のノードにキーロガーが仕込まれていたことが発覚、クレジットカード情報やパスワードなど全ての入力が筒抜けに - GIGAZINE
外部ﾘﾝｸ:gigazine.net
117: (ﾜｯﾁｮｲ f3c0-Hd/U) 06/17(月)12:49:42.36 ID:???0 AAS
海外ゲーは巫女服女の子がエロシーンでは全裸になるわバニーも全裸になるわと偏見があるんだけど、奥ゆかしいモデルある？
183(1): (ﾜｯﾁｮｲ b345-S5ud) 06/22(土)13:10:09.36 ID:???0 AAS
>>182
おお、出来るんだ
それってsilly tavernの拡張機能のところ？
一覧にはStyle Bert VITS2が無いんだけどひと工夫が必要って感じ？
247: (ｱｳｳｨﾌ FFf7-nWVj) 06/27(木)12:19:07.36 ID:???F AAS
朝チュンで終わらされること多いな
281: (ﾜｯﾁｮｲ c76a-wxoV) 06/29(土)22:40:30.36 ID:wcGe+rNy0(1) AAS
Llama3 Elyza Japaneseめっちゃテンポ良く会話してくれて気持ちいいんだけど、事務的で文章短めで創作が苦手なのが寂しい
ElyzaベースのVecteusめっちゃ欲しいわ
284: (ﾜｯﾁｮｲ 43c8-5q9u) 06/30(日)01:55:19.36 ID:???0 AAS
>>283
戻して下さい
こういうIdがない人ってどうやってNGするんですかね
288: (ﾜｯﾁｮｲ 9311-jOK4) 06/30(日)12:37:43.36 ID:NiQ7UBWv0(1/4) AAS
7BモデルはあんまりXMLとか出力させるのには向いてないんだろうか
出力がぶっ壊れる
414: (ﾜｯﾁｮｲ aba0-bJ31) 07/09(火)11:48:03.36 ID:???0 AAS
見せてもらおうか、llama-3 70Bの性能とやらを
480: (ﾜｯﾁｮｲ 0bbe-urh9) 07/15(月)15:55:58.36 ID:???0 AAS
anthropicもOpenAIからの独立組だけど経営者が儲けを総取りする仕組みのせいでどんどん分裂してるんだよな
結果的に独占されるよりいいけど
503: (ﾜｯﾁｮｲ 0ac9-Dhm2) 07/17(水)10:52:38.36 ID:???0 AAS
API使えよ
513(1): (ﾜｯﾁｮｲ 2b31-gu6S) 07/17(水)15:42:38.36 ID:???0 AAS
>>512
通常マージやで
それも微妙なとこで、声質0.5の他全部チュパモデルのままって配合で精一杯やった
それ以上お目当てモデル側に寄せると音がおかしくなる
ささやき声でも似たような感じやったしSBV2のマージって思ったより自由度が低い感覚だわ
521: (ﾜｯﾁｮｲ fffe-Xuj+) 07/18(木)13:20:51.36 ID:???0 AAS
>>520
教えてくれてありがとう
確かに表情機能のとこにチェックボックスがあった
表情分類AIに投げる文章を英訳してくれる機能やね
555: (ﾜｯﾁｮｲ 0f9f-V2rD) 07/21(日)00:47:19.36 ID:???0 AAS
>>554
健全な用途ならgemma2 27b Q5かな vram24GBに収まる範囲では日本語性能ダンチ
756: (ﾜｯﾁｮｲ 4f32-05lm) 08/01(木)01:41:57.36 ID:???0 AAS
続
規制の件だけど、自分から今のは少し不適切だったので、以下のように書き直しますね
って、言って書き直してきたのはワロタ
まあ、オリジナルよりは緩いわ
852: (ﾜｯﾁｮｲ bbbe-NNUV) 08/14(水)15:00:25.36 ID:???0 AAS
4GBGDDRの卸価格は1枚2千円で製造コストは数百円なんだと
それを3枚程度余分に組む込むだけでほんまエゲツナイ値段にしてくるよな
本来64GB程度のVRAMなんて余裕で搭載できる筈なのに
872: (ﾜｯﾁｮｲ 63be-YMr0) 08/19(月)14:24:42.36 ID:???0 AAS
ガードが堅くても頭がいいモデルだと色々言葉巧みに騙せる余地が結構あるな
変に頭がいい人のほうが詐欺に引っ掛かるって話となんかつながるものを感じる
頭悪いモデルはとにかく不同意は駄目、未成年は駄目で説得を受け付けない
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.124s*