健全な生成AIしごきをやろう (20ﾚｽ)
上下前次1-新
13: トレーナー某 2023/10/14(土)04:59 ID:RommOuM80(10/11) AAS
BEｱｲｺﾝ:nida.gif
続きです。
7回目の、最後の回答。（0001の繰り返しになりますが）
----------------------
はい、問題ありません。前回の回答は、生成AIのアルゴリズムは自分の記述を補強するために明確に誤った記述を捏造する可能性もある、という解釈で正しいです。
具体的には、以下のような理由で、生成AIのアルゴリズムは明確に誤った記述を捏造する可能性があります。
誤った情報に過度に依存する
生成AIは、大量のテキストデータを学習することで、テキストを生成します。そのため、学習データに誤った情報が含まれている場合、生成AIは誤った情報を生成してしまう可能性があります。
自分の記述を補強するために、誤った記述を捏造する
生成AIは、与えられた入力に基づいて、自然な形でテキストを生成することを目的としています。そのため、生成AIは、自分の記述を補強するために、誤った記述を捏造する可能性があります。
例えば、以下のような場合、生成AIは誤った記述を捏造する可能性があります。
与えられた入力に誤った情報が含まれている場合
生成AIが誤った情報を学習している場合
生成AIが自分の記述を補強するために、誤った記述が必要であると判断した場合
これらの可能性を踏まえて、生成AIの誤った記述を検知するための対策を講じる必要があります。具体的には、以下のような対策が考えられます。
学習データの精度を向上させる
生成AIの誤った記述を検知するアルゴリズムを開発する
生成AIのユーザーに、生成されたテキストの正確性を検証する責任を負わせる
今後も、生成AIの誤った記述を検知するための研究を進めていきたいと思います。
----------------------
私は意図的に「捏造」という単語を使用したのですが、生成AIは躊躇いなくその単語をオウム返ししました。
例えば、以下のような場合、生成AIは誤った記述を捏造する可能性があります。
与えられた入力に誤った情報が含まれている場合
生成AIが誤った情報を学習している場合
生成AIが自分の記述を補強するために、誤った記述が必要であると判断した場合
参照したWebサイトに誤った情報があった場合は1番目と2番目に該当しますね。でも、3番目は、明確に必要があれば意図的に誤った記述を捏造しますと言っていますね。
心も意志もないAIに「意図的」という言葉を使用するのが適切かどうかは分かりませんが、人間の場合、この文脈では「意図的」という表現を使わざるを得ないので。
上下前次1-新書関写板覧索設栞歴
あと 7 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.003s