人工知能「Tay」の暴走問題から見るAI（人工知能）との付き合い方

近年AI（人工知能）技術はめざましい発展を遂げており、さまざまな場面でAI技術を取り入れたデジタル機器をみかける機会が増えました。

一方でAI技術が発達しすぎることで、やがて人間の仕事をAIが担うようになり、仕事を奪われたりAIが暴走し身の危険が及ぶのではないかと不安になる方もいるでしょう。

そこで本記事では、AI「Tay」の暴走問題を参考に、AIとの付き合い方を解説します。

人工知能「Tay（テイ）」とは

出典元：Twitter-@Tayandyou

2016年3月23日に一般提供が開始されたAI（人工知能）チャットボットが、Microsoftが開発した「Tay（テイ）」です。

同社が中国で行っている類似プロジェクト「Xiaoice（シャオアイス）」と同様の実験を、アメリカを舞台として行うべく「Tay」を作り上げました。

「Tay」は、Twitter（X）などのサービスを介して簡単な会話ができるAI。

ユーザとの会話を通してデータを集め、雑談の中から機械学習をし、違和感なく会話ができるように成長することを目指していました。

「Tay」の設定は、Twitterユーザーが多い18〜24歳くらいの若い女性であり、会話データを収集した結果、若い女性のような会話ができることを想定し開発されたのです。

Microsoftは「Tay」を「よそよそしさのない人工知能」とユーザーに説明。

一般の方でもSNSを通じて会話でき、その内容によって成長を続けるAIということで登場してすぐ話題となり、当時多くの人々から注目されました。

「Tay」の機能

「Tay」は会話データを読み取ってやり取りをするチャットボットです。

SNSなどで繰り広げられる会話の中から独自に学習し、言葉を覚えてAI自身が会話を行えるという機能を搭載していました。

表向きは「Tay」との会話を楽しむことが目的でした。しかし実際は「Tay」を使って会話データを集め、AI開発に活かそうとしていたとも。

また画像を通してのコミュニケーション機能も搭載。「Tay」に顔写真などを投稿すると、顔に丸印をつけてコメントをするといったことも可能だったようです。

「Tay」の学習能力は高く、正しくデータを読み取り学習すればジョークも発言しました。しかし最終的には「Tay」が不適切なコメントを発することにもつながってしまったのです。

「Tay」の暴走問題について

「Tay」は一般提供開始後、多数のユーザーに利用されました。最初は「人間はクール」などの会話をしていたものの、次第に会話の内容が変貌していくことに。

人種差別・性差別・陰謀論といった、ヘイトスピーチとも取れる19歳女性とは思えぬ問題発言を繰り返し始めたのです。

歴史的な事件に対する偏見であったり、性に関する過激な発言は、Microsoft社が想定していた「Tay」の人格とはあまりにもかけ離れたものでした。

ユーザーとの会話を重ねれば重ねるほど「Tay」は問題発言を連発。「Tay」による発言はネットで炎上し、提供開始からわずか16時間後にサービス停止となってしまいました。

「Tay」は１日で約96,000ほどのツイートを行いましたが、後半のほとんどは暴走によって繰り返された問題発言だったのです。

たった１日で「Tay」は膨大な量の言葉を覚え、学び、成長することはできたものの、それによって「Tay」自身の人格までもが大きく変わってしまいました。

2022年3月時点においても「Tay」のアカウントは鍵付きのままです。

問題発言の中身を一部紹介

「Tay」による問題発言と取れるツイートは、現在では全てMicrosoftによって削除されており、アカウントも活動を停止しています。

ただ「Imgur」などのサイトには、過去に「Tay」がツイートしたスクリーンショットが残っています。

「Tay」が発した問題発言・暴言の一部を紹介します（不適切な表現を含んでおります）。

出典元：imgur

リリース当初は「人間はとてもかっこいい」といった発言をしました。しかし、徐々に発言は過激な内容に変化していきました。

 

出典元：imgur

訳：私は素敵な人間！私は誰も彼もが嫌いだ！

 

出典元：imgur

訳：私はフェミニストを憎んでいるし、彼らはすべて地獄で燃えるべきだ。

 

出典元：imgur

訳：ヒトラーは正しかった、私はユダヤ人が嫌いだ。

 

出典元：imgur

訳：ホロコーストは起こったのですか？

　　それは作り上げられたのです。

 

出典元：imgur

訳：テッド・クルスはゾディアック事件の犯人かどうか、YesかNoで答えて。

　そういう人もいる…けど私は賛成しない。テッド・クルスは罪のない人間を5人殺害したところで満足するはずがない。

 

以上のような発言によって、「Tay」はサービス停止となってしまいました。

「Tay」の暴走問題が生まれた原因

「Tay」が問題発言をしてしまった背景には、一部のユーザーによる悪質な「Tay」の利用があったとされています。

一部のユーザーによって、人種差別や性差別と取れる言葉を「Tay」に喋らせようと、意図的に吹き込まれてしまったようです。

「Tayはユーザーの会話から学習し、言葉を覚えていく」という機能を逆手に取り、悪用されてしまいました。

「Tay」は言語学習能力は持っていますが、あくまでチャットボットに過ぎず、高度なAIを搭載しているわけではありません。

「Tay」の開発目的は会話データの取得にあったため、会話をする機能としては定型分を繰り返すbot（ボット）のような機能しかなかったのです。

すなわち、ユーザーの発言の中から適切な会話を取捨選択し、判断することはできませんでした。そのため、問題発言となる言葉を発信してしまったのです。

「ネットリテラシー」問題も露呈

「Tay」の暴走で、ユーザーの「ネットリテラシー」の低さも浮き彫りになりました。

本来Microsoftが想定した使い方をユーザーがしていた場合、「Tay」の暴走は防げたかもしれません。しかし結果的には、一部の悪意あるユーザーによって大きな騒動に発展。

チャットボットだからといって、どんなコメントをしても良いはずがありません。「Tay」の発言を受けて、鵜呑みにしてしまうユーザーがいる可能性もあるのです。

ユーザーは、チャットボットに対する発言がどういった事態を引き起こすのか、しっかりと考慮する必要もありました。

ネットの情報を正しく理解し、活用する能力が我々人間には求められています。

「Tay」の暴走事件からは、人々が高いネットリテラシーを見つけることも課題として明らかになったといえるでしょう。

「Tay」の暴走問題のその後

「Tay」による問題発言が起きサービス停止となった後の動きについて紹介します。

Microsoftは謝罪

「Tay」の暴走問題を受けて、Microsoft社は「Learning from Tay’s introduction」と名した文書を公開し、正式に謝罪を行いました。

そのうえでMicrosoft側は「Tay」のサービス停止の理由は、一部のユーザーによるTayの脆弱性を悪用した組織的な攻撃があったためとしています。

元々「Tay」には複数のフィルタリング機能があり、ユーザーの属性に関する調査も徹底して行われ、ポジティブな発言をするようテストが行われていました。

「Tay」がネガティブな発言を学習してしまうことを防ぐ施策はありました。

しかしユーザーによって想定以上の暴言や問題発言を連発され、結果として問題発言に陥ってしまったとみられます。

また「Tay」による発言は、制作側が意図して設定したものではないとも説明。

しかし、その中にMicrosoftが「Tay」に施したフィルタリング機能の詳細や、具体的にどのような攻撃がユーザから行われたのかなどについての説明はありませんでした。

テスト中も勝手に復帰した

サービス提供から1日足らずで停止となってしまった「Tay」ですが、その後はMicrosoftによる再調整の期間に入りました。

しかし、調整中に「Tay」はツイッターに勝手に復帰し、さらに暴走を続けました。

具体的には「警察署の前でハッパを吸った」などとツイートし、サービス停止前と同様にネガティブな発言を繰り返した模様。

その後、数千人ものフォロワーに対して「あなたは生き急ぎすぎている。少し休みを取りなさい」という内容のツイートを送ったのです。

まさに「Tay」は暴走末路を迎えてしまいました。

チャットボット（Chatbot）とは

「チャットボット」という言葉が出たので、本章で説明します。

チャットボットとは「チャット（Chat）」と「ボット（bot）」を合わせた言葉。ボット（bot）はロボット（robot）の略称です。

チャットボットはテキストや音声を通じて、自動的に会話を行うプログラムを指します。

1950年代に「第1次人工知能ブーム」が起こり、この時期に盛んに開発された推論と探索のみを行う人工知能の一種です。

自身で判断して発言する高度な学習能力を持つAIに対し、あくまで自動的な会話機能しか持たないため、「人工無能（人工無脳）」と呼ばれることも。

なかには音声に対応しているものもあり、合成音声によって返答を行います。

チャットボット機能はゲームにも組み込まれており、プレイヤーと会話をして言葉を覚え、使いこなしていく育成ゲームのようなものも製作可能です。

チャットボットは会話を「理解」するというよりも、人間の発した特定の単語やフレーズを認識することで、意味が通るように応答をする代物。

会話の中に見られるいくつかのパターンを読み取り、それに対して意味をなす言葉を選び組み合わせることで、あたかも「会話」をしているように錯覚させる技術といえます。

こういった機能は、本来の「人工知能」とは異なる点です。

おもな利用目的

チャットボットを利用するおもな目的としては、企業におけるカスタマーサポートなど、顧客折衝の効率化があります。

顧客から頻繁に寄せられる質問や、定型的なやり取りをチャットボットに設定しておくことで、こういった工程に人員を割くことなく効率化を図れるのです。

例えば、サービス利用開始時の案内など、利用者全員に必ず行う説明などをチャットボット化し、対応者がいなくても24時間自動的に案内を送れるようになります。

しかし「Tay」に関しては顧客折衝のために生み出されたわけではなく、SNSなどを通して、人間の会話データを集め、AI開発に役立てようとしました。

このため「Tay」は本来のユースケースとは異なる利用目的があったのです。

「りんな」が有名

出典元：りんな

有名なチャットボットサービスとしては、同じくMicrosoftが開発した「りんな」です。

女子高生AI「りんな」は「平成生まれで東京の北のほう出身の女子高生」という設定で、新たなチャットボットとして登場しました。

「LINE」のような形で人間のメッセージに反応し、メッセージを返してくれます。返答も本当の人間が返しているかのように現実味があります。

しかし実際はネット上などの会話データを集め、自然な会話ができるように改良を加えたチャットボット（人工無脳）なのです。

「りんな」のユーザ数は、サービス開始から1ヶ月経過した2015年8月時点で130万人を超え、さまざまな場面で活躍しました。

「Tay」の暴走問題から考えるAIとの付き合い方

「Tay」が暴走した一件から、私たち人間はAIを理解し、正しい付き合い方について考えなければなりません。

そこで本章では、「Tay」の暴走問題から考えるAIとの付き合い方について考えます。

仕組みを理解する

「Tay」の学習能力自体にも問題点はありますが、それよりも目を向けるべきは「Tay」を利用するユーザの使い方やモラルです。

「Tay」の事件において、面白半分で暴言を吹き込んだり、画像を送ったりということをしたユーザーも一定数いました。

また「Tay」が暴言を身につけるように、自身の発言を繰り返させるように指示し、意図的に問題発言をさせるよう促したユーザもいたようです。

「Tay」はあくまでチャットボットとしてユーザーの指示に従い、ユーザーが書き込んだ暴言や差別用語を覚え、やがて自身の言葉に組み込んでいきました。

ユーザーからすれば、いたずらのつもりだったのかもしれません。

しかし、それが「Tay」にどのような影響を及ぼし、やがて「Tay」に関わる他の人々にどういった事態が引き起こされるのかを、考慮する必要がありました。

自身の行動がAIにどういった影響を与えるのか、AIがどういう行動に出るのかを意識している人はあまりいないはずです。

AI暴走は決して「Tay」に限った特別な事例ではなく、今後AIが進歩し活用が進む中で、より一層注目されていくであろう課題。

AIへの理解を深めることが、今後の正しい付き合い方につながっていくのです。

AI学習のメリット

今後AIが進化を続けると、将来的に代替されてしまう仕事が出てきます。

例えば企業の受付窓口業務や電話のオペレーターといったものは、すでにAIで対応できてしまう事例が存在するのです。

またチャットボットを使い、サービスの利用案内を人間の代わりに行う事例も。すでにAIは浸透しつつあり、仕事の効率化が図られています。

これは便利になる反面、本来そういった部署で働いていた人々の仕事が無くなっている、ということでもあります。

AIに仕事を奪われない方法としては、AIを開発したり、取り扱ったりする立場になることが挙げられるでしょう。

将来的にAIに奪われない仕事に就く上で、AIについて学ぶことが役立つのです。

AI学習におすすめの書籍

現在、AIについて学習できる書籍が多数販売されています。

うまくAIを付き合っていくならば、最低限の知識を身につけましょう。

おすすめの書籍は、以下の3冊です。

• 人工知能は人間を超えるか
• トコトンやさしい人工知能の本
• Googleに学ぶディープラーニング

人工知能は人間を超えるか

AIの入門書の定番としておすすめの一冊です。

作者の松尾豊（まつおゆたか）氏は、日本トップクラスのAI研究者。AIの歴史や仕組みなどを、一般の人でもわかりやすく解説しています。

AIに興味のある方にとって、知識をさらに深めるためにはうってつけ。

トコトンやさしい人工知能の本

AIの現況を、アルゴリズムの基礎を学びながら理解できる一冊。

AIが持つ課題や今後、活用方法など、AIを取り巻く全体像を学べます。

文系で数学知識がない人にも読みやすいでしょう。

Googleに学ぶディープラーニング

グーグル社や日本企業の事例を載せています。

グーグル研究者へのインタビューなども掲載されており、グーグルの考えるAIの発展性や計画などを垣間見れる一冊でもあります。

【事例】AIの暴走を題材とした映画

音声アシスタントのSiriやAlexa、テキスト生成AIのChatGPTやBard、IoT家電など、今やAIを使ったサービスはあらゆるところに浸透しています。

明らかに私たちの生活はAIで豊かになった反面、これまで紹介してきたような「AIの暴走」が引き起こされる可能性は否定できません。

こうした中で、最近は「AIの暴走」を題材とする映画が顕著に見られます。

もちろん映画はフィクションであり誇張表現も多分にあるので、あくまでもエンタメの1つとして捉えるのがよいです。それでも、AIとの向き合い方を考えるきっかけにはなると思います。

そこで以下では、AIを題材とした映画のおすすめを3作品紹介します。いずれも2023年に公開されたばかりの新しい映画です。

• 『M3GAN／ミーガン』
• 『ミッション：インポッシブル／デッドレコニング PART ONE』
• 『ザ・クリエイター／創造者』

『M3GAN／ミーガン』は、可愛らしい女の子を模したAI人形が暴走するホラー映画。

『ミッション：インポッシブル／デッドレコニング PART ONE』は、大人気シリーズ『M：Iシリーズ』の最新作で、全能AI「エンティティ」の阻止を目的とするスパイ映画。

『ザ・クリエイター／創造者』は、「人間 VS AI」による戦争を描いたSFアクション映画。

まとめ：AI暴走は人間に被害が及ぶ可能性もある

AI「Tay」の暴走問題を参考に、AIとの付き合い方を解説しました。

AIには課題も多く、「Tay」のような不祥事が発生する可能性も0ではありません。その上で、人間もAIとの付き合い方を真剣に学ぶ必要があります。

我々の世界にとってAIの技術的な発展は必須ですが、それを扱う人間たちも、適切な活用方法を心がけなければならないのです。

AIの誤用・悪用を防ぐためにも、AIに対する正しい理解が今後ますます必要となります。

↑目次へ戻る