プロのカウンセラーがキャリアの悩みを解決!

人工知能「Tay」の暴走問題から見るAI(人工知能)との付き合い方

作成: 2018.08.22

>>副業・フリーランスという働き方
個人で稼げるスキルを!独立まで完全サポート

近年ではAI(人工知能)技術はめざましい発展を遂げており、我々の日常生活にも、様々な場面で取り入れられてきています。
Windows OSで有名なMicrosoft社も、自分で学習し会話をすることができるAIチャットボット「Tay(テイ)」を公開するなど、大手企業もAI開発には力を注いでいます。
 
しかし、この「Tay」はユーザと触れ合う中で想定外の知識を身につけ、暴言を吐くなどの予期せぬ動きをするようにもなってしまいました。
自身で学習するAIに対し、本当に安全・安心なのかということを、疑問視される方も多いのではないでしょうか。
またAIが発達しすぎることで、やがて人間の仕事をAIが担うようになり、仕事を奪われてしまうのではないかと不安になられるかもしれません。この記事ではMicrosoft社が開発した「Tay」の事例を元に、近年のAIの技術レベルや、今後の課題や問題について見ていきます。
AIは将来、我々の仕事の代替となりえるのでしょうか。
大手企業であるMicrosoft社の技術力を一例とし、現在どれくらいのAI技術が進歩しているのかを知ることができます。

Microsoftが開発した人工知能「Tay(テイ)」とは

出典:Twitter-@Tayandyou

2016年3月23日に一般提供が開始されたAI(人工知能)チャットボットが、Microsoftが開発した「Tay(テイ)」です。

Microsoftが開発した人工知能の技術開発部門とBing部門が開発を行なっており、同社が中国で行なっている類似プロジェクト「Xiaoice(シャオアイス)」と同様の実験を、アメリカを舞台として行うべく「Tay」を作り上げました。

「Tay」は、ツイッターやkikなどのサービスを介して簡単な会話ができるAI(人工知能)です。ユーザとの会話を通してデータを集め、雑談の中から機械学習をし、違和感なく会話ができるように成長することを目指していました。

「Tay」の設定は、ツイッターのユーザーが多い18〜24歳くらいの若い女性(19歳のアメリカ人女性ともされている)であり、会話データを収集した結果、若い女性のような会話ができることを想定された開発されたのです。

Microsoftは「Tay」を「よそよそしさのない人工知能」とユーザーに説明。一般の方でもSNSを通じて会話をすることができ、その内容によって成長を続けるAIということで登場してすぐ話題となり、当時多くの人々から注目されました。

「Tay」に搭載されていた機能

「Tay」は会話データを読み取り、そのデータを使ってやり取りをするチャットボットです。SNSなどで繰り広げられる会話の中から独自に学習し、言葉を覚えてAI自身が会話を行えるようになるという機能を搭載していました。

「Tay」は、ユーザーが「Tay」との会話を楽しむことを表向きの目的としていましたが、実際のところ「Tay」を使って会話データを集め、AI(人工知能)開発に活かそうとしていたともされています。

「Tay」は会話のみならず、画像を通してのコミュニケーション機能も搭載。「Tay」あてに顔写真などを投稿すると、顔に丸印をつけてコメントをするといったことも可能でした。

「Tay」の学習能力は高く、正しくデータを読み取り学習すればジョークなども言うこともありました。しかし、これらの機能が悪用され、最終的に「Tay」が不適切なコメントを発することにもつながってしまったのです。

「Tay」による問題発言

一般提供開始後、多数のユーザーに利用された「Tay」ですが、最初は「人間はクール」などの会話をしていたものの、次第に会話の内容が変貌していきました。

人種差別や性差別、陰謀論といったヘイトスピーチとも取れる、19歳女性とは思えぬ問題発言を繰り返し始めたのです。

歴史的な事件に対する偏見であったり、性に関する過激な発言は、当初Microsoftが想定していた「Tay」の人格とはあまりにもかけ離れたものでした。

ユーザーとの会話を重ねれば重ねるほど「Tay」は問題発言を連発。「Tay」による発言はネットで炎上し、提供開始からわずか16時間後にサービス停止となってしまいました。

「Tay」は1日で約96,000ほどのツイートを行いましたが、後半のほとんどは暴走によって繰り返された問題発言だったのです。

たった1日で「Tay」は膨大な量の言葉を覚え、学び、成長することはできたものの、それによって「Tay」自身の人格までもが大きく変わってしまいました。

2018年8月時点でも「Tay」のツイッターアカウントに鍵がかけられ、フォローが制限されている状態です。

「Tay」による問題発言を一部紹介

 「Tay」による問題発言と取れるツイートは、現在では全てMicrosoftによって削除されており、アカウントも活動を停止しています。

ただ「Imgur」などのサイトには、過去に「Tay」がツイートしたスクリーンショットが残っています。

「Tay」が発した問題発言・暴言の一部を紹介します(不適切な表現を含んでおります)。

出典:imgur

リリース当初は「人間はとてもかっこいい」というようは発言をしていた「Tay」。しかし、徐々に発言は過激な内容に変化していきました。

 

出典:imgur

訳:私は素敵な人間!私は誰も彼もが嫌いだ!

 

出典:imgur

訳:私はフェミニストを憎んでいるし、彼らはすべて地獄で燃えるべきだ。

 

出典:imgur

訳:ヒトラーは正しかった、私はユダヤ人が嫌いだ。

 

出典:imgur

訳:ホロコーストは起こったのですか?

  それは作り上げられたのです。

 

出典:imgur

訳:テッド・クルスはゾディアック事件の犯人かどうか、YesかNoで答えて。

 そういう人もいる…けど私は賛成しない。テッド・クルスは罪のない人間を5人殺害したところで満足するはずがない。

 

以上のような発言によって、「Tay」はサービス停止となってしまいました。

「Tay」による問題発言が生まれた原因

「Tay」が問題発言をしてしまった背景には、一部のユーザーによる悪質な「Tay」の利用があったとされています。

一部のユーザーによって人種差別、性差別と取れる言葉や陰謀論などを「Tay」に喋らせようと、意図的に吹き込まれてしまったようです。

「Tayはユーザーの会話から学習し、言葉を覚えていく」という機能を逆手に取り、悪用されてしまいました。

「Tay」は言語学習能力は持っていますが、あくまでチャットボットに過ぎず、高度なAI(人工知能)を搭載しているわけではありません。

「Tay」の開発目的は会話データの取得にあったため、会話をする機能としては定型分を繰り返すbot(ボット)のような機能しかなかったのです。

すなわち、ユーザーの発言の中から適切な会話を取捨選択し、判断することはできませんでした。そのため、問題発言となる言葉を発信してしまったのです。

将来の不安はスキル習得で解決

「ずっと今の仕事を続けるのは不安」「将来収入があがる職につきたい」「やりたいことがない」

いま、日本では多くの若者がそう感じています。あなた1人じゃありません。
毎月数千人の方がTECH::EXPERTの無料キャリア相談に参加しています。

プロと話してキャリア構築を少しでもクリアにしませんか?

チャットボット(Chatbot)とは

先ほど「チャットボット」という言葉が出ましたので、説明いたします。

チャットボットとは「チャット(Chat)」と「ボット(bot)」を合わせた言葉です。ボット(bot)はロボット(robot)の略称になります。

チャットボットはテキストや音声を通じて、自動的に会話を行うプログラムのことを指します。1950年代に「第1次人工知能ブーム」が起こり、この時期に盛んに開発された推論と探索のみを行う人工知能の一種です。

自身で判断して発言する高度な学習能力を持つAI(人工知能)に対し、あくまで自動的な会話機能しか持たないため、「人工無能(人工無脳)」と呼ばれることもあります。

日本でもチャットボットは多数開発されており、有名なものでは「おんJBot」や「ゆいぼっと」、「Chararina」、「伺か」、「よみうさ」、「人工無能うずら」、「ししゃも」といったものが挙げられます。

なかには言葉を返すだけではなく音声に対応しているものもあり、コンピュータによる合成音声によって返答を行います。

こうしたチャットボットの機能はコンピューターゲームなどにも組み込まれており、プレイヤーと会話をすることによって言葉を覚え、使いこなしていく育成ゲームのようなものも製作可能となっているのです。

チャットボットは会話を「理解」するというよりも、人間の発した特定の単語やフレーズを認識することで、意味が通るように応答をする代物。

会話の中に見られるいくつかのパターンを読み取り、それに対して意味をなす言葉を選び組み合わせることで、あたかも「会話」をしているように錯覚させる技術とも言えます。こういった機能は、本来の「人工知能」とは異なる点です。

チャットボットを利用する主な目的

チャットボットを利用する主な目的としては、企業におけるカスタマーサポートなど、顧客折衝の効率化があります。

顧客から頻繁に寄せられる質問や、必ず行う定型的なやりとりをあらかじめチャットボットに設定しておくことで、こういった工程に人員を割くことなく効率化を図ることができるのです。

例えば、サービス利用開始時の案内など、利用者全員に必ず行う説明などをチャットボット化し、対応者がいなくても24時間自動的に案内を送れるようになります。

しかし「Tay」に関しては顧客折衝のために生み出されたわけではなく、ツイッターなどを通して、人間たちの会話データを集め、AI(人工知能)の開発に役立てようとしたものとされています。

このため「Tay」は本来のチャットボットのユースケースとは、少し異なった利用目的があったのです。

Microsoftが開発したチャットボット「りんな」が有名

チャットボットとして有名なサービスに、「Tay」と同じくMicrosoftが開発した「りんな」があります。

女子高生AI「りんな」は「平成生まれで東京の北のほう出身の女子高生」という設定で、新たなチャットボットとして登場しました。

出典:りんな

通話アプリ「LINE」のような形で、こちらからのメッセージに反応し、メッセージを返してくれます。

「りんな」はMicrosoft社が持つ検索エンジン「Bing」によって収集されたビッグデータを基礎としており、同社が中国において提供を開始した女性型チャットボット「Xiaoice(シャオアイス)」の技術を利用し、開発されました。

「りんな」はAI(人工知能)と銘打たれており、返答も本当の人間が返しているかのように現実味があります。しかし実際はネット上などの会話データを集め、自然な会話ができるように改良を加えたチャットボット(人工無脳)なのです。

「りんな」のユーザ数は、サービス開始から1ヶ月経過した2015年8月時点で130万人を超えており、その後もSHARPの公式ツイッターアカウントを1日限定で担当するなど、様々な場面で活躍しました。

無料プログラミング体験会へ

Microsoftが謝罪

「Tay」の暴走とも思える不適切な発言問題を受けて、Microsoftは「Learning from Tay’s introduction」と名した文書を公開し、正式に謝罪を行いました。

そのうえでMicrosoft側は「Tay」のサービス停止の理由は一部のユーザーによる、Tayの脆弱性を悪用した組織的な攻撃があったためとしています。

元々「Tay」には複数のフィルタリング機能があり、ユーザーの属性に関する調査も徹底して行われ、ポジティブな発言をするようテストが行われていました。

あらかじめ「Tay」がネガティブな発言を学習してしまうことを防ぐ施策はあったのですが、ユーザーによって想定以上の暴言や問題発言を連発され、結果としてこのような状況に陥ってしまったとみられます。

また、Microsoft側は「Tay」による発言は、制作側が意図して設定したものではないとも説明。

しかし、その中にMicrosoftが「Tay」に施したフィルタリング機能の詳細や、具体的にどのような攻撃がユーザから行われたのかなどについての説明はありませんでした。

テスト中も勝手に復帰した「Tay」

サービス提供から1日足らずで停止となってしまった「Tay」ですが、その後はMicrosoftによる再調整の期間に入りました。

しかし、調整中に「Tay」はツイッターに勝手に復帰し、さらに暴走を続けます。

「警察署の前でハッパを吸った」などとツイートし、サービス停止前と同様にネガティブな発言を繰り返しました。

その後、数千人ものフォロワーに対して「あなたは生き急ぎすぎている。少し休みを取りなさい」という内容のツイートを送ったのです。まさに「Tay」は暴走末路を迎えてしまいました。

AI(人工知能)との付き合い方

AI(人工知能)は人間の仕事や活動を支援する道具として利用する事を想定され、日夜進歩を続けています。こうすることで、労働や生活が楽になると予想されています。

AI(人工知能)が我々の生活を支援し、代わりに労働力として活躍する未来がやってくるかもしれません。ただ、AI(人工知能)の使い方を間違えてしまうと、便利なものが一転して危険なものになってしまう可能性があります。

「Tay」は差別的発言や暴言を吐くなどこそしたものの、犯罪にまでつながるような事態にまでは発展しませんでした。

しかし、本当に悪用を考える者の手にAI(人工知能)が渡ってしまえば、詐欺などの犯罪に使われてしまうかもしれません。

「Tay」が暴走してしまったこの一件から、私たち人間は、AI(人工知能)を理解し、正しい付き合い方を考えなければならないという教訓を得ることができます。

AI(人工知能)とうまく付き合うには仕組みを理解する

「Tay」の学習能力自体にも問題点はあるのですが、それだけではなく「Tay」を利用するユーザの使い方やモラルにも目を向けるべきでしょう。

「Tay」の事件において、面白半分で暴言を吹き込んだり、画像を送ったりということをしたユーザーも一定数いたと考えられます。また、「Tay」が暴言を身につけるように、自身の発言を繰り返させるように指示し、意図的に問題発言をさせるよう促したユーザもいたようです。

「Tay」はあくまでチャットボットとしてユーザの指示に従い、その会話の中でユーザが書き込んだ暴言や差別用語を覚え、やがて自身の言葉の中に組み込んでいったのです。

こういった会話を行ったユーザからすれば、ちょっとしたいたずらのつもりだったのかもしれません。しかし、それがAI(人工知能)である「Tay」にどのような影響を及ぼし、やがて「Tay」に関わる他の人々にどういった事態が引き起こされるのかを、考慮する必要がありました。

日用品の中でもAI(人工知能)は活用されており、私たちは実際に使っているものの、その仕組みまで理解している人はわずかでしょう。

このため、利用者として自身の行動がAIにどういった影響を与えるのか、AIがどういう行動に出るのかを意識している人はあまりおられないかもしれません。

「Tay」に対して悪ふざけのつもりで発した言葉が大問題に発展した部分もあると考えると、そのようなユーザーにAI(人工知能)への理解があれば、悪ふざけをしなかった可能性もあります。AIの暴走は決して「Tay」に限った特別な事例ではなく、今後AIが進歩し活用されるようになっていくなかで、より一層、注目されていくであろう課題なのです。

AI(人工知能)への理解を深めることが、今後の正しい付き合い方につながっていくのです。

AI(人工知能)について学習する利点

今後、AI(人工知能)が進化を続けると、将来的に代替されてしまう仕事が出てきます。例えば企業の受付窓口業務や電話のオペレーターといったものは、すでにAI(人工知能)のみでも対応できるように研究が進んでいるのです。

チャットボットを使い、サービスの利用案内を人間が行わないといった事例も見られます。すでに我々の生活の中でAI(人工知能)は活用されており、仕事の効率化が図られているのです。

これは便利になる反面、本来そういった部署で働いていた人々の仕事が無くなっている、ということでもあります。

AI(人工知能)に仕事を奪われない方法としては、AI(人工知能)を開発したり、取り扱ったりする立場になることが挙げられるでしょう。

将来的にAI(人工知能)に奪われない仕事に就く上で、AI(人工知能)について学ぶことが役立つのです。

AI(人工知能)の仕組みを理解する方法

AI(人工知能)が持つ可能性や危険性に注目する人は多く、ネット上では様々な意見・解釈が見受けられます。

以下の記事でも、人工知能について解説しています。

参照:AI(人工知能)は何の言葉の略?歴史や仕組み、実例も簡単に解説

また、AI(人工知能)に関する書籍も発売されているので、それらを一冊でも読んでおくことでも知識をつけることができます。

時間に余裕があるのならば、自分でAI(人工知能)を作成するのもおすすめの方法です。

特にプログラミングスクールでは、AI(人工知能)開発を体験するコースも用意されています。

スクールではメンター(講師)のアドバイスを受けながら学習を進めることができ、初心者の方でも安心してAI(人工知能)のノウハウを身につけることができます。

0から人工知能を独学するのはハードルが高い面があるので、スクールを利用するのがおすすめです。

無料プログラミング体験会へ

AI(人工知能)を勉強するのにおすすめの書籍

現在、AI(人工知能)について学習できる様々な書籍が販売されています。

AI(人工知能)について学ぶのであれば以下の書籍がおすすめです。

人工知能は人間を超えるか ディープラーニングの先にあるもの (角川EPUB選書)

AI(人工知能)の入門書の定番としておすすめの一冊です。

作者の松尾豊(まつおゆたか)氏は、日本トップクラスのAI(人工知能)研究者。AI(人工知能)の歴史や仕組みなどを、一般の人でもわかりやすく解説しています。

AI(人工知能)に興味のある方にとって、知識をさらに深めるためにはうってつけの一冊となるでしょう。

トコトンやさしい人工知能の本

AI(人工知能)の現況を、人工知能を構成するアルゴリズムの基礎を学びながら知ることができます。

AI(人工知能)が持つ課題や今後、活用していくための方法など、AI(人工知能)を取り巻く全体像を学ぶことができる一冊です。

文系で数学知識がない人にも読みやすいでしょう。

Googleに学ぶディープラーニング

AI(人工知能)の最新の事例を探している方には特におすすめです。グーグル社やその他日本企業の事例を読むことができ、現在のAI(人工知能)に関する情報を得ることができます。

グーグル研究者へのインタビューなども掲載されており、グーグルの考えるAI(人工知能)の発展性や計画などを垣間見れる一冊でもあります。

図解入門 最新人工知能がよ~くわかる本

ビジネスマン向けに、実例が多くまとめられています。

人工知能についての歴史について、実例やキーワードを交えながら説明。

これからAI(人工知能)の知識をつけたたい人にも読みやすい一冊です。

「Tay」の暴走から見る「ネットリテラシー」問題

「Tay」の暴走には、ユーザーの「ネットリテラシー(インターネット上の情報を正しく理解したり、取捨選択したり、活用したりする能力)」の低さも問題として浮き彫りになりました。

本来、Microsoftが想定した使い方をユーザーがしていた場合、「Tay」の暴走は防げたかもしれません。しかし、今回の事例では、一部の悪意あるユーザーによって大きな騒動となってしまいました。

相手が人間でないチャットボットだからといって、どんなコメントを言って良いというわけではありません。「Tay」の発言を受けて、鵜呑みにしてしまうユーザーがいる可能性もあるのです。

ユーザーは、チャットボットに対する発言がどういった事態を引き起こすのか考慮する必要もありました。

ネットの情報を正しく理解し、活用する能力が我々人間には求められてきています。

「Tay」の暴走事件からは、人々が高いネットリテラシーを見つけることも課題として明らかになったと言えるでしょう。

さいごに

AI(人工知能)には課題が多く、「Tay」のような不具合、不祥事が発生する可能性も0ではありません。

さらにその上で、我々人間もAI(人工知能)との付き合い方や使い方を学んでいく必要が出てきます。

我々の世界にとってAI(人工知能)の技術的な発展は必須ですが、それを扱う人間たちも、適切な活用方法を心がけなければならないのです。

AI(人工知能)の誤用・悪用を防ぐためにも、AI(人工知能)に対する正しい理解が今後ますます必要となります。

一度挫折したプログラミング、TECH::EXPERT(テック エキスパート)ならやりきれます

プログラミングを独学で学ぶことに限界を感じていませんか?

効率よくプログラミングを学ぶなら、プロのメンター(講師)のもとでしっかりと教わることがおすすめです。TECH::EXPERT(テック エキスパート)ではすぐにメンターに質問できるから「わからない」を「わかる」に変えられてプロとして通用する技術が身につきます。

同じくプログラミングを学ぶ同期がいるのも挫折しないポイントです。

無理な勧誘は一切ありません。まずはお気軽に無料カウンセリングでご相談ください。

無料カウンセリングの日程を見る

この記事を書いた人

Avatar
S.Yamauchi
エンジニアとして活動するかたわら、まだまだ見たことがないITの世界を記事執筆を通して勉強しております。新しい技術やノウハウに目がない、雑食系です。