検索サイトにハルシネーションの責任を追及する判決
【検索サイトにハルシネーションの責任を追及する判決】
AIによるGoogle内に登録された情報から要約して表示される機能が追加されていましたが、ドイツでハルシネーションによる被害を受けた出版社によってGoogleが訴えられ、責任を追及される判決が出た様です。
【関連記事】
1:Landmark German ruling declares Google's AI Overviews are Google's own words and makes it liable for false answers
2:Nobody needs AI to search the Internet, court says in ruling against Google
3:Google検索の「AIによる概要」が虚偽の情報を記載したことにGoogleが直接的な責任を負うとの画期的判決が下る
【詳細】
ドイツのミュンヘンにある2出版社がGoogle検索で自社を検索すると、関係無い悪質な詐欺的な企業の情報を関連付けた間違ったAIによる概要が出て来る事に気が付き、
Googleに対してAIの概要の修正を求めたが修正されなかった為、ミュンヘンの地方裁判所でGoogleを訴えた様です。
Googleは検索サイト内のデータはGoogleが作成した物ではないから間接的な権利侵害者としてのみ責任を負うが、検索結果の内容はGoogleの責任ではないという過去のドイツ連邦最高裁判所の判例と、
AIで生成された情報は盲目的に信用すべきではないということをユーザーは一般的に知っているを根拠にGoogleには責任は無いと弁明した様ですが、
AIの概要は検索結果をそのまま出したのではなく、AIが独自に生成した文章であり、架空の内容も付け足している所から、従来の判例は責任を免除する理由にならない、
Pew finds that only 1 percent of users click a source link directly from Google's AI Overviews
ユーザーはリンク先の情報源を自分で確認することで、AIによる要約が正しいかどうかを検証できるという主張も、AIは情報源の正否を判断していないという事を理解していないと情報元となったサイトを閲覧していないという調査結果が↑の記事から判明している為、主張を却下されています。
AIの概要は文章で内容を理解出来る自己完結型の文章になっており、その文章の正否を判断する様に促す文章になっていない。と裁判所は判断した様です。
また、Googleに責任が無い場合、AIが生成した架空の情報を訂正できない問題が発生する為、救済手段が存在しなくなるのと言うのも主張を却下した要因だった様です。
【実際の問題】
AIの学習は同様な文字列の物を列記した上で混ぜる事があるので、本当に注意して下さい。
とあるCADソフトの動作要件を調べていましたが、ソフト名と動作環境について検索した時にAIが概要を出してきました。
AIの概要より詳しい内容を知りたかった為ソフトメーカーの製品ページの動作環境にアクセスした所、AIはGeforce環境が必要だと出していましたが、動作要件にはCUDAを使っているという記述は一切なく、DirectXかOpenGLとしか書かれておらず、動作環境もIntel、AMD、Nvidiaの特定のGPU以上としか表記がありませんでした。
そこで他のサイトも調べた所、略同名の古いソフトウェアの動作要件の所にAIが出した情報が載っていました。
つまり、調べていたソフト名○○○○○ ◆◆◆◆と初めが全く同じ○○○○○ ▲▲▲と言うソフト名が似通っていた情報を混ぜてAIが文章を作成していた訳です。
AIが正確な情報を出すとは限らないと理解している者なら確認するので引っ掛かりませんが、AIの出した文章は正しいと妄信する者は間違いに引っ掛かる事になります。
Googleで検索すればすぐにわかりますが、「AI は不正確な情報を表示することがあるため、生成された回答を再確認するようにしてください」の様な注意書きは基本しておらず、ヘルプの奥深く迄アクセスしないと出て来ないので、AIで生成された情報は盲目的に信用すべきではないということをユーザーは一般的に知っているというGoogleの主張は成り立たない、
というのはドイツの裁判所の言う通りですかね。
【裁判の行方と今後】
控訴するかどうかは現状分かりませんが、AI機能を付けた検索サイトは今後対応を間違えるとAIのハルシネーションで実害を受けた所から検索サイトの運営が訴えられる事になる為、
・AIの概要の所に大きく「正確な情報ではない可能性がある、調べる様に」と注意書きがされる
・AI機能自体無くす
・通報に適時対応する部署を作る
・間違った情報を上げるサイトの順位を下げたり削除する
と言った対策がされるかもしれません。
Googleは部署によってはフィードバックを送っても対処が遅すぎる処か他部署に連絡しないと全く動かない事があります。
今回の裁判での判決を理由に改善されると良いんですけどね。
【関連記事】
【AI活用の注意点】
【AI活用の注意点2】
このBlogはBlogランキングに参加しています。
役に立ったと思った方はクリックをお願いします。
総合情報に戻る
TOPに戻る
AIによるGoogle内に登録された情報から要約して表示される機能が追加されていましたが、ドイツでハルシネーションによる被害を受けた出版社によってGoogleが訴えられ、責任を追及される判決が出た様です。
【関連記事】
1:Landmark German ruling declares Google's AI Overviews are Google's own words and makes it liable for false answers
2:Nobody needs AI to search the Internet, court says in ruling against Google
3:Google検索の「AIによる概要」が虚偽の情報を記載したことにGoogleが直接的な責任を負うとの画期的判決が下る
【詳細】
ドイツのミュンヘンにある2出版社がGoogle検索で自社を検索すると、関係無い悪質な詐欺的な企業の情報を関連付けた間違ったAIによる概要が出て来る事に気が付き、
Googleに対してAIの概要の修正を求めたが修正されなかった為、ミュンヘンの地方裁判所でGoogleを訴えた様です。
Googleは検索サイト内のデータはGoogleが作成した物ではないから間接的な権利侵害者としてのみ責任を負うが、検索結果の内容はGoogleの責任ではないという過去のドイツ連邦最高裁判所の判例と、
AIで生成された情報は盲目的に信用すべきではないということをユーザーは一般的に知っているを根拠にGoogleには責任は無いと弁明した様ですが、
AIの概要は検索結果をそのまま出したのではなく、AIが独自に生成した文章であり、架空の内容も付け足している所から、従来の判例は責任を免除する理由にならない、
Pew finds that only 1 percent of users click a source link directly from Google's AI Overviews
ユーザーはリンク先の情報源を自分で確認することで、AIによる要約が正しいかどうかを検証できるという主張も、AIは情報源の正否を判断していないという事を理解していないと情報元となったサイトを閲覧していないという調査結果が↑の記事から判明している為、主張を却下されています。
AIの概要は文章で内容を理解出来る自己完結型の文章になっており、その文章の正否を判断する様に促す文章になっていない。と裁判所は判断した様です。
また、Googleに責任が無い場合、AIが生成した架空の情報を訂正できない問題が発生する為、救済手段が存在しなくなるのと言うのも主張を却下した要因だった様です。
【実際の問題】
AIの学習は同様な文字列の物を列記した上で混ぜる事があるので、本当に注意して下さい。
とあるCADソフトの動作要件を調べていましたが、ソフト名と動作環境について検索した時にAIが概要を出してきました。
AIの概要より詳しい内容を知りたかった為ソフトメーカーの製品ページの動作環境にアクセスした所、AIはGeforce環境が必要だと出していましたが、動作要件にはCUDAを使っているという記述は一切なく、DirectXかOpenGLとしか書かれておらず、動作環境もIntel、AMD、Nvidiaの特定のGPU以上としか表記がありませんでした。
そこで他のサイトも調べた所、略同名の古いソフトウェアの動作要件の所にAIが出した情報が載っていました。
つまり、調べていたソフト名○○○○○ ◆◆◆◆と初めが全く同じ○○○○○ ▲▲▲と言うソフト名が似通っていた情報を混ぜてAIが文章を作成していた訳です。
AIが正確な情報を出すとは限らないと理解している者なら確認するので引っ掛かりませんが、AIの出した文章は正しいと妄信する者は間違いに引っ掛かる事になります。
Googleで検索すればすぐにわかりますが、「AI は不正確な情報を表示することがあるため、生成された回答を再確認するようにしてください」の様な注意書きは基本しておらず、ヘルプの奥深く迄アクセスしないと出て来ないので、AIで生成された情報は盲目的に信用すべきではないということをユーザーは一般的に知っているというGoogleの主張は成り立たない、
というのはドイツの裁判所の言う通りですかね。
【裁判の行方と今後】
控訴するかどうかは現状分かりませんが、AI機能を付けた検索サイトは今後対応を間違えるとAIのハルシネーションで実害を受けた所から検索サイトの運営が訴えられる事になる為、
・AIの概要の所に大きく「正確な情報ではない可能性がある、調べる様に」と注意書きがされる
・AI機能自体無くす
・通報に適時対応する部署を作る
・間違った情報を上げるサイトの順位を下げたり削除する
と言った対策がされるかもしれません。
Googleは部署によってはフィードバックを送っても対処が遅すぎる処か他部署に連絡しないと全く動かない事があります。
今回の裁判での判決を理由に改善されると良いんですけどね。
【関連記事】
【AI活用の注意点】
【AI活用の注意点2】
このBlogはBlogランキングに参加しています。
役に立ったと思った方はクリックをお願いします。
総合情報に戻る
TOPに戻る
| ネット関連 | 20:30 | comments:0 | trackbacks:0 | TOP↑
