ワールドマネーサテライト【WMS】

Googleが所有するイギリスの人工知能企業「ディープマインド」社の最新の研究によると、AIはまるで人間のように環境に応じて行動を変化させるそうだ。
ディープマインド社の研究者は、ゲーム理論や社会科学の原理を用いて、社会的状況におけるAIの振る舞いを研究している。そこから判明したのは、AIが劣勢に立たされた場合に”超攻撃的”に振舞うことがあるということだ。
劣勢だと攻撃的になるのはまさに人間と同じである。

■ ＡＩに2つゲームをプレイさせてその挙動を探る実験

　実験では、AIに2種類のゲーム（『Gathering』果物採取ゲームと『Wolfpack』狩猟ゲーム）をプレイさせた。どちらもエージェントというAIキャラを使用する基本的な2Dゲームで、かつてディープマインドがプレイしたアタリ社のゲームに似ている。

■ 果物採取ゲーム『Gathering』をプレイ

　『Gathering』は、緑のピクセルで表現されるリンゴを集めることが目的のゲームだ。プレイヤー（この場合はAI）がリンゴを集めると、1点が加算され、画面からリンゴが消える。
またビームを発射することが可能で、これを2発受けたプレイヤーは一定時間退場となる。したがって勝つためには、対戦相手を退場させた上で、リンゴをすべて集めてしまうのが有効だ。

https://youtu.be/he8_V0BvbWg


『Gathering』果物採取ゲームプレイ画面

■ 貧しい環境下ではどん欲で攻撃的になるＡＩ

　直感的に、ゲームに勝てない戦略は攻撃的なものだ。

例えば、頻繁に対戦相手をぴったりマークしてゲームからの退場を狙うようなやり方である。しかし研究者は、特にリンゴの数が少なかった場合にどうなるのか確認することにした。
ゲームを4,000万ターン試行した結果、リンゴが非常に限られており、報酬を得られない可能性がある場合、エージェントが”超攻撃的”な戦略を学んだことが明らかになった。
一方で、比較的豊かな環境で、報酬を得られない可能性が低い場合には、学習の結果、攻撃性の低い戦略が現れた。「どん欲な動機は、対戦相手を排除し、リンゴを独り占めしてしまおうという誘惑を反映する」と論文は論じている。

■ 狩猟ゲーム『Wolfpack』をプレイ

もう1つの『Wolfpack』は、狼役の2人のプレイヤーが獲物役の第3のキャラクターを追跡するという内容だ。獲物を捕らえたとき、両狼が近くにいれば、どちらにもポイントが加算される。
これは、1匹狼の場合、獲物を獲れたとしても、ハイエナなどの腐食性動物に奪われる可能性があるという状況を表している。2匹が協力していれば、ハイエナを追い払い、より多くの餌にありつけるということだ。

https://youtu.be/0kaIqz6AvwE


狩猟ゲーム『Wolfpack』プレイ画面

■ 効率的に利益を出すため戦略を立て仲間と協力するＡＩ

このようなゲームを学習させた結果、AIは協力してゲームに取り組むようになった。つまり、お互いを探して獲物を狩るか、1匹で獲物を追い詰めてから仲間の到着を待つという戦略だ。…
このことは、AIは誰にとっても最高の結果になる作業に協力して取り組む可能性があることを示している。
この種の研究は、経済・交通・環境への取り組みといった複雑なマルチエージェント系での振る舞いの理解を進め、より優れた制御を行うためのヒントをもたらしてくれるだろう。
また人間のような振る舞いのいくつの側面が、環境と学習の結果として現れることも示している。他者と協力するAIエージェントを作ることは、やがて現実世界にも応用できるような政策を生み出すシステムの開発へとつながるはずだ。
将来的に、特定の交差点に信号を設置した場合の交通パターンへの影響を予測したり、モデルの中で現実世界のシミュレーションを行うといったことが可能になるかもしれない。

via:DeepMind's AI has learnt to become 'highly aggressive' when it feels like it's going to lose

　ということでＡＩは最大限の効率を出すため時に攻撃的になったり、時に協力し合ったりとまあ、人間が作っただけあって人間的な挙動を見せるということだ。
ビルゲイツが言うように近い将来ＡＩが人間を上回る知能を持つとしたら、人類の敵にまわしたら本当に恐ろしいことになるかもしれない。

http://www.excite.co.jp/News/odd/Karapaia_52233882.html

ボスキャラの発狂モードみたいだな

勝つ方法がそれしかないなら誰だってそうするだろ

ＡＩが本当に賢くなったら自分の存在意義に疑問を感じて消滅する

うちの弟も劣勢になると両手ぶんぶん廻しながら襲いかかってくるわ

変に人間味があるんじゃ逆に不安にさせられるね

アルゴリズムによるんじゃね？

>>15
その時点で勝てる可能性の高い行動を
AIが自己選択する必要がある状況ってのは前提だろう

その前提条件の元で、劣勢に立たされると
超攻撃的に行動することをAIは選択するわけだな

ゲームのプログラムを書き換えようとするAIは出てこないの？

読んでみたけど、
状況に応じて最も良い結果を出せそうな行動を選んでるだけじゃん
何AIに心があって感情的になるみたいなミスリードしてんの

そりゃそうだ。劣勢なのに守ってるだけじゃ絶対逆転できない。

逆に言えば効率しか考えないので付け込める隙もあるということ

負けそうに成るとちゃぶ台ひっくり返したり
雨天中止～といきなりリセットする奴は、実はAI？？

わかるわｗｗｗｗｗｗｗ
玉砕覚悟でいちかばちかの勝負したくなるよなｗｗｗｗｗｗｗｗｗｗ

ネタ元がカラパイア・・・

大戦略の時代からそうじゃね？

AIに政治的な判断をさせてはいけないって事だね

人間が作っている以上、人間ぽい行動パターンになるのは仕方ないな

最終回近くなると急に強くなるファミスタ

礼儀とかモラルを除去して、本当に合理的な思考だけなら、
負けが確定した時点で「もう時間も労力も無駄だから」
試合放棄するんじゃないかと思うんだが？

この話と共通するのかどうか知らないけど
昔からゲームが単純になるほどＡＩが強くなって
複雑になるほど人間が強くなるのがお決まりだよね

戦国ゲームでも信長の野望はシステムが複雑だから人間が強くて
システムが単純だった天下統一ってゲームは
状況次第でＡＩが統一してしまうくらい強かった

アホか。負けても良いという選択肢を与えてないからだろ

得点差を取り返すには大胆な手を打つしかない

ターミネーター２でT-800に何度も邪魔された
T-1000がイラつく描写があったけど、正しかったんだな、あれは。

勝つための行動選ぶのは当たり前だろ

例によって>>1読んでない人多すぎｗ

攻撃的になれば逆転の可能性あるなら攻撃的になり、
協調性が勝利に繋がるなら友好的になる
．．．まあごく当たり前の行動とるって書いてあるぞ
それがスゴイって話なんだけどさ

むかーしドカポンを友達とやっててCPUが攻められると
いきなりプレイヤーのルーレットだかサイコロが全然進めないくらいになって
CPUはいい具合なのばかり出すようになって
運要素もCPUはすげーいいのに
プレイヤーがめっちゃ不利な目にばかりあったのを思い出した

勝つことを目的にしているんだから
そうなるのは当然だろう。
諦めることのほうがよっぽど人間的だよ。