6/27　AIの反抗？②

　昨日の続きです。

　そもそもなぜ昨日、緑色の蛾についてAIに問い合わせをしたのか？　というと、蝶と蛾についてブログに書こうと思ったからでした。それで、昨日書いたAIとのやり取りの後、気を取り直して「クジャクヤママユ」という蛾について、AIと同じ会社の検索エンジンで検索をしてみました。

　そうして検索した結果が、これまた超ビックリでした。ヒットした情報の一つが「あきた森つくり活動サポートセンター」の「昆虫シリーズ48ガの仲間②・ヤママユガの仲間、ミノムシ」というページだったのですが、その要約が、　

「ヤママユガの仲間は、ミノムシと呼ばれる小さな昆虫で、ヤママユガの卵に乗って幼虫になる。ミノムシは、ヤママユガの卵を探して、幼虫を食べるが、成虫は卵を吸収して…。」

というものでした。

　何？これ？　ミノムシがヤママユガの卵や幼虫を食べるの？　肉食のミノムシ？　いやいやその前に『ヤママユガの仲間は、ミノムシと呼ばれる小さな昆虫で』って書いてあるぞ！？　ってことは共食い？　ミノムシってそんな凶暴な生き物だったっけ！？

　まさかと思って、「あきた森つくり活動サポートセンター」の当該のページを読んでみましたが、そんな文章はどこにもありません。おそらくこれはAIが生成した要約文なのでしょう。

　このことについて下記のようにAIに聞いて見ました。

私「〇〇（検索エンジンの名前）で「クジャクヤママユ」を検索すると、 あきた森つくり活動サポートセンターの『昆虫シリーズ48ガの仲 間②・ヤママユガの仲間、ミノムシ』のページの要約として、『 ヤママユガの仲間は、ミノムシと呼ばれる小さな昆虫で、 ヤママユガの卵に乗って幼虫になる。ミノムシは、 ヤママユガの卵を探して、幼虫を食べるが、成虫は卵を吸収して、 』という謎の一文がでるのはなぜですか？」

　そうしたら帰ってきたのが、以下の答えです。長くなりますが、丸ごと引用します。

AI　「それ、たしかに謎めいていて気になりますね。実はその一文は、 検索結果のスニペット（要約表示） で文章が不自然に切り取られてしまったことが原因のようです。」

 AI　「〇〇（検索エンジンの名前）などの検索エンジンでは、 ページの内容を自動的に解析して、 検索キーワードに関連する部分を抜き出して表示します。ただし、 文の途中で切れてしまったり、 複数の文がつなぎ合わされてしまったりすることがあり、 今回のように意味が通らない文章になることがあります。」

 AI「実際に、あきた森づくり活動サポートセンターの該当ページ（ 昆虫シリーズ48 ガの仲間②・ヤママユガの仲間、ミノムシ）を見てみると、 そのような不自然な文は本文中には見当たらず、 むしろヤママユガやミノムシについて丁寧に解説されています。」

 AI「つまり、検索結果に表示された「 ヤママユガの卵に乗って幼虫になる」「卵を吸収して…」 といった表現は、 実際のページ内容とは異なる断片的な抜粋であり、 誤解を招く形になってしまったようです。」

 AI「こういうときは、 検索結果のリンクをクリックして元のページを直接読むのが一番確実ですね。検索エンジンのスニペットは便利ですが、たまに“ 詩的すぎる誤解”を生むこともあるようです。」

だ、そうです。検索エンジンではこういう変な要約ができることがある、と他人事のように解説するだけでなく、「誤解を招く形」とか言っています。ということは、凶暴なミノムシのように読んでしまったのは、私の理解力不足のせいですか？　さらに自分で元のデータをちゃんと調べろ、みたいなお説教までしてくれるとは…。そのすっとぼけた態度に、思わず「あんたがやったんじゃろがい！」と謎の方言で叫んでしまいそうになりますね。

　もちろん、何か調べものをした際の最終責任は自分自身にあるので、AIの言い分は正論と言えば正論です。しかし、仮に子供が夏休みの自由研究などで検索エンジンを使い、上のような（奇怪な）回答を返されたら、それが本当だと思ってしまうのではないでしょうか？　それで結果をまとめて提出し、小学校の先生が間違いに気付ければいいのですが、「面白いことをしらべたね」とか言って、展覧会などに出品してしまうかもしれません。そして展覧会を見にきた別の子供が、展覧会に出ている自由研究の内容だから本当だろうと思って、またその話を拡散したりして…。

　考えただけで恐ろしいですね…。

　先日はこんなことがあり、結構な時間、AIとのやり取りに没頭してしまいました。やはりAIの使用には細心の注意が必要です。