「しかし、ご主人さま…」ロボット三原則に反し、人間の命令に従わないロボットが開発される

ポスト ツイート シェア はてブ LINEで送る コメント

ロボットは人間の命令には絶対服従。そんな常識が覆される日がやってきたようです。詳細は以下から。

アメリカ合衆国マサチューセッツ州のタフツ大学のエンジニア、Gordon BriggsさんとMatthais Scheutz博士が開発しているのは人間の命令に従わない人工知能。このロボットは人間の命令がロボット自身にとってあまりに危険であったり損害が予想される場合、「しかし、ご主人さま…」と反論し、命令に従いません。

動画では、テーブルの上に乗ったロボットが「座れ」「立て」などの声による命令を受けて従っていますが、「前へ歩け」という命令に対してロボットは「申し訳ありませんが、支えがないためできません」と反論して従いません。

同じ命令を繰り返しても「しかし、安全ではありません」と返します。そこで人間がロボットに「僕が支えるから」と伝えるとようやくロボットは「OK」と答えて歩き出します。動画では人間が落ちるところをしっかりと支えています。

Robots learn to disobey humans! Watch machine say to voice commands - YouTube

ロボットの行動に関して常に話題になる、大御所SF作家のアイザック・アシモフが小説の中で用いて今やロボット工学全体にも影響を与えている「ロボット工学三原則」は以下のとおり。

第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

今回作成された人工知能は第三条が第二条に優先しており、三原則を破る存在となっています。本来であれば人間に与えられた命令に服従することは自己をまもることよりも優先されなくてはなりません。

2045年の、人工知能が人間の理解を超えるとされるシンギュラリティに関してはGoogle幹部やスティーブン・ホーキング博士も懸念を示していますが、人間に服従しないことを覚えた人工知能がさらに独自の発展を遂げた場合、この三原則の第一条すらも破る存在となるという、完全にハリウッドのSF映画のような展開も射程に入ってくることとなります。

日本人にとって人間に服従しないロボットというのはロビタやドラえもんを始め身近な存在ですが、彼らが私たちの「友達」でなくなったとしたら、一体どんなことが起こるのでしょうか？

例えばこの実験で人間がロボットを支えずに落下して損傷し、ロボットが「人間は嘘をつく」と学習したとしたら？人間を「信頼に値しない危険な存在」と認識するようになるかもしれません。ちょっと想像したくもない未来です。

Robots are learning to DISOBEY humans saying no if it thinks it might be hurt Daily Mail Online

人工知能人類最悪にして最後の発明

posted with amazlet at 15.12.03

ジェイムズ・バラット
ダイヤモンド社
売り上げランキング: 10,418

Amazon.co.jpで詳細を見る

ポストツイートシェアはてブ LINEで送るコメント