最近, 生成AIを使用する際のシステムプロンプトに必ず含めるものとして, 「大言壮語をせず, 事実によって価値を示す」というものがある.
理由として, 生成AIは誇大な表現を使用しがちである, という印象が挙げられる.
昨今の生成AIは, トレーニングの際にRLHFを用いている.
これは完全な直観なので根拠はないが, RLHFを進めるほど, 人間にとって見た目好ましい出力が学習されるような気がしており, すると過大な表現が多くなるのではないかと思っている.
しかしながら, そういった出力をされると, 自身の考えや意思決定にバイアスが掛かる可能性があり, 個人的には好ましくない.
ウィキペディア日本語版のガイドラインに以下のようなものがある.
ガイドラインからいくつかの文章を引用する.
大言壮語とは、事実としての情報なしに、記事を単に引き立たせるための表現のことです。
あなたの執筆（編集）する記事の話題の持つ価値を信じてください。そしてその価値を、事実によって示してください。
(前略) 話題が、読者の記事を読む時間に見合うほどの重要性を持つのであれば、事実によってそのことが明らかになるでしょう。記事の話題が重要であるという主張は、あなたの記述を雑然とさせるだけで、だれも納得させません。
すべての文章について, この主張が正当化されるわけではないが, 私は基本的にこのスタンスを好む.
ガイドラインでは, 具体的に以下のような表現が大言壮語の例として挙げられている.
「重要な……」「最も重要な……の一つ」「重大な……」
「最も影響力のある……」「最善な……の一つ」「議論の余地のないほど……」
「…明白な、伝説的な、美しい、話題となった、究極の、非常に、極めて、絶大な、屈指の、有数の、有力な、国民的な、とてつもなく、有名な、は必読、過ぎる…」
普段から生成AIを使用していると, 解答にこの手の表現が頻繁に登場しないだろうか.
私は, 少なくとも印象として, こういった大言壮語が頻出すると感じたため「大言壮語をせず, 事実によって価値を示す」というプロンプトによってこの問題を抑制している.
自分で書く文章においても, 大言壮語をしないように意識したいと思う.