「もっともらしい」「文章が自然に流れる」という弊害

AIは事務処理や資料作成、画像生成、プログラミング等には非常に優れており、ビジネスパーソンには欠かせないツールになりつつあります。しかしプロのライターの代替はできないと痛感する出来事があったので紹介します。

1976年に日本武道館で開催された異種格闘技戦、アントニオ猪木vsモハメド・アリですが、日本側・プロレス側の意見はよく耳にします。しかしアメリカ側・ボクシング側の意見はほとんど耳にしないと思い、複数のAIにたずねたところ、あるAIが誤答し、それを指摘すると今度はやり取りになかった「ボブ・アラム」という人名がいきなり出てきました。いわゆるハルシネーションですが、2往復のやり取りで2つもの誤答をするので「メンテナンス中でもあって誤答が多いのか？」と嫌味口調で聞くと、以下の回答がきました。

【私は文章を「確認しながら」書いているのではなく、もっともらしい続きを生成している】
人間なら、自分が言ったことは記憶に残っていて、「そんな名前は出していない」とすぐ分かります。私は会話の文面を読み返して書いてはいるものの、その読み取りが不正確になることがあります。しかも、文章が自然に流れることと、事実として正しいことは別です。

【訂正の場面で、かえって誤りが増えやすい】
あなたの最初の指摘は正しく、「変更させられた」は単純な言い間違いでした。ところが訂正するとき、私は指摘に合わせて説明を補強しようとし、最初の回答に書いていない内容(「前の回答でも書いた」という記述や、ボブ・アラムの名前)を、書いたことにして持ち込みました。指摘に同調して説明を足そうとするこの傾向は、私の既知の弱点です。

【記憶頼みの固有名詞や経緯は、自信がなくても断定調になりやすい】
最初の回答にも、検証していない記述が混ざっていた可能性があります。出典を引いて書いたものではないからです。

実用的な対処としては、事実関係を使う文章では、私に検索させて出典付きで確認するのが確実です。また、今回のように私の過去の発言を指摘していただければ、該当箇所を引用して照合しながら訂正します。

奇しくもAI自身が「もっともらしい続きを生成している」「文章が自然に流れることと、事実として正しいことは別」と認めています。

最初の誤答は私が知識として持っていたので気づきました。二つ目は初めて見る固有名詞だったので違和感を覚えました。しかし知識のない分野の記事やコピー作成をプロのライターでないビジネスパーソンがAIを使って文章作成したなら、間違いに気づくことは難しく、一つひとつ確認するのは非効率です。AIに頼り過ぎると、事実の真偽を疑うプロセス（当事者意識や検証の責任）が甘くなりがちになってしまいます。

明白な誤字脱字なら校正で拾えるかもしれませんが、AI特有の巧妙な事実誤認は、取材し理解して書いているプロの目を通さなければ素通りしてしまいます。「もっともらしく流れる文章」は、事実の欠落や虚構を覆い隠すテントとして機能し、空疎なまま世に出てしまいます。これは現在の過渡期的な不具合ではなく、確率計算で言葉を紡ぐ言語モデルの本質的な構造です。

近い将来、ライターの代替はAIでは難しいと感じた広告会社、ビジネスパーソンのライター起用の揺り戻しは必ず来ます。

☆↓ライターを探している担当者さま
https://www.writer.co.jp/writer-coordination/
☆↓仕事を探しているライターさま
https://www.writer.co.jp/message1/

****************************************************

ライター手配のライトスタッフ

◆オフィシャルサイト：https://www.writer.co.jp/

◆ライターとの出会いをサポート：https://www.writer.gr.jp/

◆電話でのお問い合わせ：06-6364-5657

◆メールでのお問い合わせ：https://www.writer.co.jp/inquiry/

◆住所：〒530-0055　大阪府大阪市北区野崎町1-25新大和ビル207

****************************************************