問題は、ユーザーが立ち止まれるかどうか。
Google（グーグル）が、検索結果のなかの画像の信頼性をユーザー自身で確認するための機能｢この画像について｣を発表しました。ディープフェイクっぽいな、あやしいなと思う画像があったら、ユーザーがそれを検証できるようなツールです。
｢この画像について｣は今年5月のGoogle I/Oで最初に発表されていて、今週から英語版で提供開始されました。Googleでは2021年から｢この結果について｣として検索結果ページの情報源などの背景が表示されてますが、それと同じような情報を画像に対して出してる感じです。
Google検索結果のなかで画像をクリックすると、その画像の上のバーに3つの点（…がタテに並んだもの）が表示され、その3点をクリックするとその中に｢この画像について｣の選択肢が出てきます。それを選択すると、その画像が過去に表示されてた他のWebサイトが日付とともに出てきます。
上の例は、ポーランドにある｢歪んだ家｣の画像です。Googleは
『この画像について』があることで、歪んだ家が本物で、デジタルな幻ではないことがわかります。
と説明してます。
逆に何らかの過去画像がまったく違う文脈で、何らかの証拠であるかのように使われた場合も、｢この画像について｣で過去の掲載履歴を確認することで、それがフェイクであると気づける、というわけです。
｢この画像について｣では、ファクトチェックサイトで取り上げられたかとか、誰かのページから無許可で取得されたものではないか、といった情報も表示されます。
あとは画像のメタデータも表示され、その中にはAIが生成したかどうかを示すタグも入ってくるかもしれません。GoogleやAdobeは彼らのAI生成ツールで作ったコンテンツにはそれを示すメタデータを付与すると言ってるので、そういうタグを表示するんでしょうね。
ただそのメタデータ改ざんも簡単にできるとしたら、表示することに意味があるかは微妙なところです。
さしあたり、｢この画像について｣は通常のWeb検索でのみ使えますが、今後より多くの場で使えるようにするとのことです。
生成AI対策をあちこちに
検索関連ではもうひとつ、ベータサービスのSearch Generaive Experience（SGE）のアップデートがありました。
これはGoogle検索に生成AIを組み込み、検索結果の情報源について、他の｢高品質なサイト｣に基づいて補足してくれるそうです。WikipediaやGoogleナレッジグラフの情報がない場合に｢この結果について｣の中の｢more about this page（このページについてのさらなる情報）｣という形で表示されます。SGEに関しては、記事やページを要約・カテゴライズする機能も少し前に追加されていました。
またGoogleは、Google Play Storeの生成AIアプリ関連のポリシー改訂も発表しています。2024年初旬から、AIチャットや画像生成機能を持つアプリは、有害なAIコンテンツを報告する仕組みが必要になりました。報告はアプリ内で行なわれ、報告内容はアプリのコンテンツフィルタリングやモデレーションに反映されなきゃいけません。
それはGoogleの既存のユーザー作成コンテンツポリシーと実質的に同じ要件です。また、児童虐待的コンテンツの禁止など、既存のポリシー自体は変わっていません。
生成AIの時代にいかにして信頼できるコンテンツを見つけやすくするか、有害なコンテンツにだまされないようにするか、Googleはいろんな策を立てています。
ただ上のような対策は、あくまでユーザー自身が常に気を張って、変なコンテンツがあったら能動的に調べたり報告したりすることで成り立ちます。生成AIやディープフェイクがより精巧になっていくなか、ユーザー側に求められるリテラシーもますます高まっているようです。
からの記事と詳細 ( フェイク画像の検証、グーグルがやってくれるよ - GIZMODO JAPAN )
https://ift.tt/M04iBIw
No comments:
Post a Comment