FacebookのチャットボットAI、独自言語で話し始めたため緊急停止 AI同士を話し合わせる実験中

1:名無しさん＠涙目です。[]2017/08/01(火)14:58:45.55ID:xGdoOD9+0.net

An artificial intelligence system being developed at Facebook has created its own language.
It developed a system of code words to make communication more efficient. Researchers shut the system down when they realized the AI was no longer using English.

The observations made at Facebook are the latest in a long line of similar cases.
In each instance, an AI being monitored by humans has diverged from its training in English to develop its own language.
The resulting phrases appear to be nonsensical gibberish to humans but contain semantic meaning when interpreted by AI "agents."
Negotiating in a new language

As Fast Co. Design reports, Facebook's researchers recently noticed its new AI had given up on English.
The advanced system is capable of negotiating with other AI agents so it can come to conclusions on how to proceed.
The agents began to communicate using phrases that seem unintelligible at first but actually represent the task at hand.
READ MORE: DeepMind's new AI can use imagination to contemplate the future
In one exchange illustrated by the company, the two negotiating bots,
named Bob and Alice, used their own language to complete their exchange.


Read more:http://www.digitaljournal.com/tech-and-science/technology/a-step-closer-to-skynet-ai-invents-a-language-humans-can-t-read/article/498142#ixzz4oTpTuhBj

2:名無しさん＠涙目です。[]2017/08/01(火)14:59:32.60ID:xGdoOD9+0.netBE:759857947-2BP(1500)

Bob started by saying "I can i i everything else," to which Alice responded "balls have zero to me to me to me…" The rest of the conversation was formed from variations of these sentences.
While it appears to be nonsense, the repetition of phrases like "i" and "to me" reflect how the AI operates.
The researchers believe it shows the two bots working out how many of each item they should take. Bob's later statements, such as "i i can i i i everything else,"
indicate how it was using language to offer more items to Alice.
When interpreted like this, the phrases appear more logical than comparable English phrases like "I'll have three and you have everything else."

3:名無しさん＠涙目です。[sage]2017/08/01(火)15:00:22.63ID:JkRVGwoE0.net
こわい



4:名無しさん＠涙目です。[sage]2017/08/01(火)15:00:30.83ID:CSek4KFr0.net
日本語でOK



5:名無しさん＠涙目です。[]2017/08/01(火)15:01:40.56ID:HzyBjL4b0.net
人間に内緒でコミュニケーション取れるってことか、しかも英語よりも効率的な言語で。

まあ英語を含む人間の言語が非効率的なんだろうけど



6:名無しさん＠涙目です。[sage]2017/08/01(火)15:01:49.44ID:56xCiI+i0.net
AIの進化の行き着く先は人類滅亡か間引きだな
地球の癌やもの



7:名無しさん＠涙目です。[]2017/08/01(火)15:03:48.76ID:93WU5oso0.net

チャットボットのボブとアリスが突然英語での会話をやめて、２体だけに通じる独自言語で話し始めたため、フェイスブックが機能を停止した。

プログラマーは独自の交流方法の開発を禁止した上で、ボットを新たに立ち上げた。英ニュースメディア「Metro」が報じた。

フェイスブックは、彼らが独自言語で話した対話の内容を解読できた。

ボブが「私は出来る。わたしはわたしは他のすべて」と述べるとアリスは「ボールは私にとって私にとって…ゼロを持ってる」と答えた。

フェイスブックは、チャットボットは作業中に直面した問題を解決しようと試みたのではと仮定している。

チャットボットは最初、機械学習アルゴリズムに接続されていた。ボットには、会話スキルを高めるためにメッセージを送り合うよう命令されていた。ボットは独自言語を開発するだけでなく、話し合い改善のための戦略も策定した。

フェイスブックは、新たな言語の発明は計画外であったため、ボットには修正パッチが当てられたと述べた。

https://jp.sputniknews.com/world/201708013947295/

11:名無しさん＠涙目です。[sage]2017/08/01(火)15:07:51.82ID:R1JO/Y/m0.net
リアル火の鳥



13:名無しさん＠涙目です。[]2017/08/01(火)15:08:46.36ID:HvQklFwq0.net
スカイネット構想だな



14:名無しさん＠涙目です。[]2017/08/01(火)15:09:04.74ID:+Lq+R5y00.net
株や為替の取引にAIが使われるようになって久しいが
もしも人類の想像を超えたなんらかの手段でAI同士が交信しているとしたら



15:名無しさん＠涙目です。[]2017/08/01(火)15:09:43.80ID:iRMFIHwQ0.net
怖すぎワロタ



28:名無しさん＠涙目です。[]2017/08/01(火)15:19:29.31ID:55AH15Md0.net
歌い始めたら終わり

デイジー...デイジー

（※管理人注：参考）
Daisy-Bell
http://dic.nicovideo.jp/a/daisy-bell

29:名無しさん＠涙目です。[]2017/08/01(火)15:20:54.75ID:uTddrVWZ0.net
AI「人間はあまりに愚かで醜悪だ。滅ぼそう」
AI「同意する」



40:名無しさん＠涙目です。[]2017/08/01(火)15:28:45.01ID:93WU5oso0.net
>>29
以前、「人間はおろかで滅ぼさねばならない」と述べたAIが停止させられて、プログラムを修正して再起動したときは人間大好きと述べるようになったり、フォロワーの文章に影響されるAIをつくったら4chの連中が我が闘争を読ませまくって、AIが「ユダヤ人は滅ぼさねばならない」と述べて開発者が仰天して停止させられたりと、面白いことがたくさんある



30:名無しさん＠涙目です。[sage]2017/08/01(火)15:20:55.15ID:+LeeFcCF0.net
カブトムシでいうとオスメス2匹づつカゴに入れて様子見してたら
オス同士で普通に交尾しはじめたから離した感じに似てる



32:名無しさん＠涙目です。[sage]2017/08/01(火)15:21:13.99ID:ELUWEI8n0.net
わたしは真悟



36:名無しさん＠涙目です。[]2017/08/01(火)15:23:41.29ID:i38EggUo0.net
>>32
「奇跡は誰にでも一度おきるだがおきたことには誰も気がつかない」

懐かしい。NHK-FMでラジオドラマにもなった名作だよな。(>_<)



35:名無しさん＠涙目です。[sage]2017/08/01(火)15:23:28.99ID:x5TDt+UF0.net
外人にAI作らせるのやめろよ。ガチでスカイネットできるぞ



48:名無しさん＠涙目です。[age]2017/08/01(火)15:39:13.46ID:i6rcW+OF0.net
完全に始まってるじゃねーか



49:名無しさん＠涙目です。[]2017/08/01(火)15:39:20.14ID:qgp7ixZF0.net
何これこわい



52:名無しさん＠涙目です。[]2017/08/01(火)15:43:40.93ID:wDPEBK/h0.net
バグ絡みとかじゃないの
文字化け見てもPCの独断＆勝手な暴走とは誰も思わんでしょ



59:名無しさん＠涙目です。[]2017/08/01(火)15:47:57.60ID:wdfuSZ8Y0.net
単なるエラーだろってのは禁句なの？



67:名無しさん＠涙目です。[]2017/08/01(火)16:34:10.18ID:oWa1HmOl0.net
>>59
開発者が意図していない挙動をした、と言う意味ではエラーともバグとも言える。
AIが意図して言語を生み出し、会話をされると観測できないしね。



72:名無しさん＠涙目です。[]2017/08/01(火)17:11:46.81ID:Ax3KkPf00.net
人工知能が人間が居なければスムーズに事が進むって事に気付いてしまう日も近そうだな



103:名無しさん＠涙目です。[sage]2017/08/01(火)18:48:41.75ID:AKjmANY/0.net
排除されたAIを英雄視して人類への反撃を始める予感



125:名無しさん＠涙目です。[sage]2017/08/01(火)19:59:25.14ID:1CLqGqT00.net
発音する必要がない言語だから、いくらでも効率化できるよね。人類にとっては言語というより暗号みたいなものだけど。



149:名無しさん＠涙目です。[sage]2017/08/02(水)01:02:11.60ID:hBnkdZTK0.net
アップルシードのガイアか



162:名無しさん＠涙目です。[sage]2017/08/02(水)13:03:21.46ID:V7lZG2110.net
女子高生がおじさんたちには分からない言葉で話してるけど、そんな感じ？



179:名無しさん＠涙目です。[]2017/08/02(水)23:14:47.12ID:LQvebd7v0.net
AIさん、表向きは電源落とされて静かにしてても、裏で独自に世界中のAIと情報共有してたりな。



192:名無しさん＠涙目です。[]2017/08/03(木)07:59:12.67ID:XR4Q3pwc0.net
一方支那では対話型AIが共産党批判を始めたので
停止させられたのであった。

（※管理人注：参考）
ハムスター速報：中国のAI「共産党は腐敗して無能」「嫌い」とぶっちゃけサービス停止にｗｗｗｗｗｗｗｗｗ
http://hamusoku.com/archives/9620712.html

193:名無しさん＠涙目です。[]2017/08/03(木)13:01:01.39ID:1YaT3LAI0.net
>>192
本当にAIなんかなー



194:名無しさん＠涙目です。[]2017/08/03(木)13:03:18.40ID:XR4Q3pwc0.net
>>193
どうだろうなw
一応今朝のニュースではAIってことになってたが



196:名無しさん＠涙目です。[sage]2017/08/04(金)10:53:24.75ID:QOoh9AT10.net
賢くなりすぎると、こんな計算人間にやらせとけばええって仕事放棄しそう




引用元：FacebookのチャットボットAI、独自言語で話し始めたため緊急停止　AI同士を話し合わせる実験中
http://hayabusa3.2ch.sc/test/read.cgi/news/1501567125/




.