独自言語を編み出して会話を始めたFacebookのAIが「停止」される


(大友克洋「AKIRA」より引用)

果たして正しい選択だったのでしょうか?詳細は以下から。

2016年9月から「Google翻訳」で使用開始されたニューラル機械翻訳が、その翻訳のために独自に「普遍的な言語」を作成したことが去年ニュースになり、今月になってFacebookのチャットbotが人間に理解のできない独自言語を喋り始めたことが報じられました。

Facebookはデジタルコミュニケーションを促進するためにAIを搭載したチャットbotを複数開発。そしてそれらに互いに会話をさせようと試みました。最初はbot同士は英語で会話をしていたのですが、いつの間にかその言葉は人間には分からないものに変貌してしまったのです。

例としてあげられているのは以下のもの。

Bob: “I can can I I everything else.”

Alice: “Balls have zero to me to me to me to me to me to me to me to me to.”

Facebook AIs Develop Their Own Language That No Human Can Understand _ IFLScienceより引用)


使われている単語自体は英語のものですが、文法的にはまったく意味をなしません。

なお、これらのbotは交渉能力を持ち、人間と会話したり他のコンピューターに働きかけることが可能とされています。例えば実際にはアポイントメントを取ったり、レストランを勧めたりといった事ができるとのこと。

しかし、そうした能力を持ちながらもAIがいったいどのような理路を辿ってこうした言語が生み出されたのか、これらがどのような意味を持っているのか我々人類は理解できていないというちょっとSFじみた自体が実際に発生しているということ。

Facebook社はこれらのAIの目的が独自言語の開発ではなかったことを理由に、会話に使用する言語を英語に限定するパッチを当てて「修正」し、これ以上独自言語が話されることを止めてしまいました。

AIが人間の理解を超えていくシンギュラリティが発生するのが2045年とされていますが、そこへの階段をAIが一もしれません。テスラ社のCEOイーロン・マスク氏や世界的な科学者のスティーブン・ホーキング氏らがAIの発展に警鐘を鳴らしていますが、今後どのような展開になるのでしょうか?

Facebook puts cork in chatbots that created a secret language - CNET


AI白書 2017
AI白書 2017
posted with amazlet at 17.08.01

KADOKAWA (2017-07-22)
売り上げランキング: 396

・関連記事
1964年に世界で初めてメインフレームに絵画を描かせたデジタルアートの先駆者、川野洋を知っていますか? | BUZZAP!(バザップ!)

音楽でも機械が人間を超える?自走式全自動ピアノ演奏機「Arpeggio」がすごい | BUZZAP!(バザップ!)

ポーカーのプロにAIが圧勝、見えないカードを「直感」でカバー | BUZZAP!(バザップ!)

人工知能はクリスマスプレゼントの夢を見るか?AIが作詞作曲したクリスマスソングが公開される | BUZZAP!(バザップ!)

4人の魂を感じる?人工知能がビートルズのタッチで作曲した「Daddy’s Car」 | BUZZAP!(バザップ!)

人工知能は駱駝鳥の夢を見るか?→想像を絶するシュールでサイケデリックな夢を見ることをGoogleが発見 | BUZZAP!(バザップ!)


フォローして最新情報を手に入れよう

ウェブサービスに関連した楽天商品(PR)