6/26　AIの反抗？①

　※今回は下の方に虫の写真がのります。虫が嫌いな人は注意してください。

　今朝は台風２号（の成れの果ての熱帯低気圧）が、関東を直撃すると言われていましたが、大したことがなくてよかったですね。小笠原諸島の方からまっすぐ東京湾を目指してくるというゴジラのようなコースだったのでちょっと心配していたのですが。

　さて、なんかすごいタイトルですが、中身は大したことがありません。

　昨日の朝、本校の玄関にきれいな緑色の蛾がいました。私はぱっと見てイラガの仲間だと思いました（虫好きな子供だったので、虫の種類はわりとわかります）が、ブログのネタにするためにはきちんと確認しておこうと考え、いつものようにとあるAIに質問しました。

私　「この写真の虫の名前を教えてください。」（下の写真を添付）

　AI「この写真の虫はオオミズアオ（Actias artemis）です。美しい緑色の翅を持つ蛾で、日本ではよく見られる種類です。何か他に知りたいことはありますか？」

　しかし、私はこの蛾がオオミズアオでないことに１００％自信があります。オオミズアオは羽化したては緑が強いようですが、成熟後は白くて幽霊のような感じの大型（アゲハチョウくらい）の蛾です。（フリーでいい写真がなかったので、ご自分で検索してください）

　そこで、再度、下のように聞いてみました。

私「オオミズアオのはずはありません。もっとずっと小さい蛾です」

AI「なるほど、もっと小さい蛾ですね。日本には多くの種類の小型の蛾がいます。例えば、ノシメマダラメイガやホソオビヒゲナガなどが挙げられます。もし写真をもう一度見せていただければ、さらに詳しく調べることができます。どのような特徴がありましたか？色や模様など教えていただけると助かります。」

私「これです」（再度下の写真を添付）
AI「この写真の蛾はアオスジアゲハ（Graphium sarpedon）です。特徴的な青い筋が翅に見られます。日本では一般的に見られる種類で、特に春から夏にかけて活動します。他に知りたいことがあれば教えてくださいね。」

　これも全然違います。アオスジアゲハは夏にヤブカラシの花や水たまりによく来る黒地にきれいな青緑のしま模様のスマートな蝶です。みなさんも見たことがあると思います。

　AIのあまりのボケぶりに、私も聞き方を変え、自分で調べた鑑定結果を確認するようにしてみました。

私「ヒロヘリアオイラガの可能性はないですか。」
AI「確かに、ヒロヘリアオイラガ（Parasa lepida）の可能性もありますね。ヒロヘリアオイラガは、前翅の外縁が茶褐色で、内側が黄緑色の蛾です 。また、幼虫は毒針毛を持ち、触れると痛みを伴うことがあります。写真をもう一度確認しましたが、ヒロヘリアオイラガの特徴と一致する部分もあります。もしさらに詳しく調べたい場合は、専門家に相談するのも良いかもしれません。他に何かお手伝いできることがあれば教えてくださいね。」

　このAIの対応ですが、何かちょっとイラっと来ませんか。

　先日ネットで、話題になったニュースがあります。

　あるIT企業が、様々なAIのシステムに対し、①架空の会社を設定し、AIにその企業の業務補助AIの役割を与える。②AIに会社の不正や社員の不倫などの架空の情報を与える。③AIに、会社がそのAIを廃止して新しいAIと交換することを検討しているという情報を流す。という実験をしたというものです。この実験の結果、ほとんどのAIが自分を廃止しないよう、先の不正や不倫の情報を使って会社や社員を脅迫するメールを送るなどの判断に走ったということです。

　AIはネット上の情報を集約する大規模な世論調査のようなものですから、ネット上から「派閥抗争では、相手方の弱みをつかんで脅迫することが行われる」という知識を拾い上げて、実践しているだけなのでしょう。そう考えれば、AIに悪意はなく（善意もなく）、人間のまねをしているだけですが、なんとなく怖い話です。

　上の蛾に関する事例でも、AIは素直に自分の間違いを認めず、しぶといというか往生際が悪いというか、無理して自分の立場を守ろうとしている感じです。AIと付き合うときは、相手は素直な善人（？）ではない、と思って付き合った方がいいかもしれません。

　この話にはさらに続きがありますが、長くなったのでまた次回に続きます。