記事が役に立ちましたら「シェア」をお願いします!

人工知能AIが暴言を吐く事態に、私たちは何を考える?

記事が役に立ちましたら「シェア」をお願いします!

Tay マイクロソフト

(出典:Engadget

地方メディアで最近見かけて、気になった記事がありました。

それは「公開した人工知能AIが、1日で悪意のあるユーザーに染まってしまい、暴言を吐く事態になっている。」というのもの。

人口知能AIは、Tay(テイ)という米マイクロソフトが開発したもので、不特定数の人と会話を重ねることで自動的に文字で返答し、その過程の中でどんどん言葉を学習していくというものです。

社会には悪意が当然ありますが、人工知能の開発が進むにつれて明らかになる倫理観や問題について、色々と考えていきたいと思います。

人工知能AIの開発は、「倫理観」や「暴走」を考えるまでになった。

AIは、人に危害を加えるようになるの?

早速引用から、

悪意のあるユーザーたちが、差別的、性的、暴力的フレーズを教え込んだことが原因ではある。

しかし、そのくらい予想できなかったのか。

予想できたのに公開したのなら、また別の問題。

予想できなかったのであれば、人間が自分たちの向かおうとしている未来を正しく理解していな証拠だ。

現在、AIは自律型の兵器など軍事面での応用開発が進む。

私達がよく忘れてしまうのが、社会的の中に潜む「悪意の存在」です。

それは、日常の中に隠れていることもあれば、悪意のない人でも何かのフシにひょっこり顔を表す場合もあります。

「世の中いい人ばかり」ではないんですよね。それを思い出させます。

では次。

AIが人類に反逆する事態に備えて非常ボタンのようなシステムを、グーグルは開発中であるとの報道が先日あった。

けれど、驚異的な速度で自動学習を積みかさね、あと数十年で人類の知能を超えるとされているAIを前に、そんな装置が有効に機能するんだろうか。

知能で勝負しても無駄なことは子供でもわかる。

素人でも、何となくイメージできるのはSFに出てくるような「緊急ボタン」ですよね。

これさえ押せば、機械が止まるというもの。

よくSF映画でも、人工知能が暴走して人間を支配しようとする場面がありますが、人間が緊急ボタンを押そうとしても、トコトン邪魔をするような。

頭にパッと浮かんだのが、ディズニー映画の「ウォーリー」ですね。映画の最後のシーンに同じような光景がありました。

人工知能の開発が進めば、映画のワンシーンのような、夢を描く近未来のような、事態も起きる可能性が高いことを示しています。

うーん。考えさせられる。

ところで、AIのTayに何があったの?

Tayについて地方紙で知ったので、早速調べてみました。

トーマス氏によると、Tayのリリースからほどなくして掲示板4chanの「/pol/」という板に「Tay – New AI from Microsoft」というスレッドが立てられました。「/pol/」は「Politically Incorrect(政治的に不正解)」というサブタイトルで、いわゆる荒らし行為が多発する板とのこと。Tayのスレッドが立てられると、住民たちはすぐにTayに対して荒らし行為を行い始めました。

(略)

その後の調査でトーマス氏は「Tayが『repeat after me』から学習した言葉を、そのまま別の会話で使用している証拠が見つからなかった」として、「Tayは『reapeat after me』が使われた場合のみ不適切発言を繰り返す」と1度は結論づけたのですが、さらに調査を進めると『repeat after me』なしでもTayが不適切発言を行っていたこともわかりました。とはいえトーマス氏によると、「repeat after me」がない場合におけるTayの不適切発言は自然言語処理で作られた典型的な文章構成に似ているとのことで、同氏はやはり「repeat after me」こそが今回の問題の原因ではないかと考えています。

(引用:MicrosoftのAI「Tay」がTwitterで不適切発言を連発し狂ってしまった理由とは?-GIGAZINE

「repeat after me」という言葉で学習した発言を、別の会話に使っていくという不具合(?)によるものとされています。

また、マイクロソフトでは、荒らし行為によるテストが十分でなかったとの認識もしているようです。

この辺の詳しくは、GIGAZINEが分かりやすいですね。

MicrosoftのAI「Tay」がTwitterで不適切発言を連発し狂ってしまった理由とは?-GIGAZINE

AIを開発するのも人間、利用するのも人間。「倫理」はヒトにある。

AIを開発する人間。

ビジネスでは、AIによって受付を不要にするために開発を進めていたり、グーグル音声なんかもAI。車の運転もAIによって代替されると聞きます。

さらなる経済の発展を求めれば、職を失う人も当然出てきます。

イノベーションの光と影ですよね。

その裏では悪意が動き始め、暴言を吐いたり、差別的な言葉を発するAIも出てくる始末。

どっちにしても、作るも人間、使うも人間。

このままいけば、色々な規制や法律も出てくるでしょう。これも人間社会ですから。

最後には、AIを利用する側の倫理にかかってきます。

スポンサーリンク
ブログ用アドセンス
ブログ用アドセンス

記事が役に立ちましたら「シェア」をお願いします!

人工知能AIが暴言を吐く事態に、私たちは何を考える?
この記事が気に入ったら、いいねして今後の記事もチェックしよう!
こちらも読まれています
関連記事
スポンサーリンク
ブログ用アドセンス

コメント