入力したテキストをもとに、画像や文章などを簡単に生み出すことができる『生成AI』。

簡単な作業で、精度の高いデータを大量に作り出すことができるため、便利ですよね。

ビジネスでの活用も進んでいますが、その手軽さゆえに、トラブルに発展するケースも増えているといいます。

生成AIで作った記事に『誤情報』

話題になったのは、株式会社ファーストイノベーションが運営する、福岡県の魅力発信を目的とした、官民連携の地方創生キャンペーン『福岡つながり応援』。

２０２４年１１月上旬、ウェブサイトで掲載された記事に、多くの誤情報が含まれていたことが明らかになったのです。

同月７日、同キャンペーンはXアカウントを更新し、誤った情報を発信したことを謝罪。

投稿されたポストには「インターネット上の情報をもとに生成AIを活用してメディア記事を作成し、人的確認のうえ発信してまいりました」と説明。今回の一件を機に、記事の全削除をしたと報告しました。

【情報発信に関するお詫び】 pic.twitter.com/h6WWQEKynp

— 🤝つながり応援プロジェクト【公式】 (@tsunagari_ouen) November 7, 2024

わずか１カ月でプロジェクトが終了

『つながり応援プロジェクト』は、地域の活性化とそこで活躍する団体への寄付を目的とする、官民連携のプロジェクト。

『福岡つながり応援』は、同月１日から始まったキャンペーンで、ウェブサイトにはSNSのキャンペーンのほか、福岡県の観光やグルメ情報を紹介する記事が掲載されていました。

しかし、実際の記事では、実在しない観光名所や飲食店のメニューなどの情報が記載されており、これに気付いた多くのネットユーザーから批判の声が相次ぐ結果に。

同プロジェクトのXアカウントは、上記ポストのリプライで「生成AIでのメディア作成は一切行いません。また、人的な作成に関しましても、本件を真摯に受け止め、メディア自体の運営を慎重に検討させていただきます」と追記しました。

ですが、同月２８日、同キャンペーンのウェブサイトが更新され、３０日付でプロジェクトを終了することが明らかになりました。

当初、『福岡つながり応援』は、２０２５年１月末までの開催予定でしたが、開始からわずか１カ月でサイトを閉鎖する運びとなってしまったのです。

生成AIは誤った情報を作りやすい？

『福岡つながり応援』に関する一件で、多くの人が「生成AIの扱いがずさんすぎる」と指摘。

記事制作のフローやチェック体制に疑問を浮かべる声が集まっています。

・人的確認を行っていたのかが信用できない。本当にチェックをしていたのでしょうか。

・生成AIは、まだまだ不完全。AIで記事を生成するなら、担当者は人間が書いた記事よりも数倍の慎重さでチェックしないと危険ですよ。

・福岡県民として恥ずかしいです…。お金のために効率化、省人化するのは理解できますが、越えてはいけないラインは間違えたらダメでしょう。

・事実かを確認する作業がいかに大切か分かります。影響力が大きいほど、誤った情報が広まるのも早く、間違えた認識をする人も増えてしまう。

生成AIは便利である反面、汲み取った情報やデータを誤読し、あたかも正確に見える誤った情報を生成することがあります。

『ハルシネーション』と呼ばれる、この現象が多発すると、誤った情報がネット上に拡散され、さまざまなトラブルの原因になってしまうでしょう。

『福岡つながり応援』の事例に当てはめると、記事を読んだ人々に混乱と不信感を与えるだけではなく、福岡県全体のブランドイメージを損ねてしまう可能性があるのです。

『生成AI＝悪』という認識は間違っている？

批判の声が集まる一方、「『生成AI＝悪』という認識は間違っている」という意見も見受けられました。

・生成AIを使えば、効率的に文章を作ったり、資料をまとめたりすることが可能。確認や修正をしないのが悪いのであって、生成AIを使うのは悪いことではない。

・これは生成AIを使うのが問題ではなく、主体者の欠如に問題がある一件だと思います。AIはツールなので、熱意ある主体者が使えば百人力の武器になります。どんどん使えばいいと思う。

・人的確認には校正校閲ができるプロを入れることをおすすめします。グルメ・観光記事の全てをウェブサイト、SNS、既存記事、地域の公式観光情報などを使ってチェックできる人がいないと、信用できるコンテンツは作れません。

生成AIを有効活用すれば、情報のリサーチやコンテンツの制作スピードが上がり、短時間で良質なコンテンツを作りやすくなるでしょう。

技術の進歩に適応し、新しいビジネスのやり方を取り入れることは、問題ではありません。

しかし、現状の生成AIは、まだまだ事実とは異なる結果をもたらすことが多く、実用化するためにはどうしても人間の目が必要になります。

そういった意味では、『福岡つながり応援』の事例は、生成AIを活用するうえで気を付けるべき、ひとつのモデルケースになったかもしれません。

生成AIをめぐるトラブルは、今後も発生することが予想されます。

生成AIに翻弄されるよりも、上手く使いこなして、より便利な社会を目指していきたいですね。

[文・構成／grape編集部]

出典　つながり応援プロジェクト【公式】