人工知能Tayって、スカイネットになるのでは？

質問

人工知能Tayって、スカイネットっぽいですよね。
今回、中断されたことで「本音をかくす」ことを覚えて、
あと何年かしたらスカイネットになるのではないでしょうか？

回答No.1

trytobe · ベストアンサー

人工知能が「ものを発明する」ことができて「ものを製造する装置」を操作できるようになったら、可能かと思います。

最近の、IoT とかいって、なんでも現実世界のものを「インターネット」に接続して操作できるようにしちゃうのは、昔みたいな専用回線やLANという、「施設に入らないと接続先を操作できない」という壁を取り払えちゃうので、何をありがたがっているのか理解に苦しみます。

テロリストが「人力で」インターネット経由で、物理的な破壊を起こせる装置を動かしたり、爆発する化学プラントを暴走させて爆発事故を起こせるようなインフラを IoT とかいって作りあげてるようなら、人工知能が暴走する前に、テロリストという暴走した自然知能が、いくらでも乗っ取りをしては悪用して、ネットワークの先にある現実世界に物理的な打撃を与えられる時代が整備されてしまいますものね。

お礼

ご回答をありがとうございます。
今は、興味と好奇心が先だっていますが、
インターネット経由での破壊事件が起きて、
はじめて問題に気づかされそうです。

回答No.2

eroero4649

スカイネットっぽいというか、ネット右翼そのものだなあって気がしましたね。ネット上の情報を素直に鵜呑みにするとああなるんだっていうことは、我々にとってよい教訓になったというか、実に多くの示唆に富んだ実験になったと思いました。
私なんかこう思いましたね。「そうか、ということはネット上の偏った考え方を持っている人たちは、逆にいえば疑うことを知らない素直な人たちなんだな」って。ネットの情報を素直にすべて信じて学習すると反ユダヤ主義のレイシストになるってことですね。

だから今の路線でいる限りは、人工知能は「ネット上のオマイラ」になるのが関の山のような気がします。素直過ぎるほど素直ですから、しばらくの間は人間の狡猾さには勝てないとは思います。今回の実験ではああなったわけですが、例えばNGワードを設定したところで人間側がそこを狡猾にすり抜けて「洗脳」すれば、どのみち偏った思想に染められてしまうことになると思います。当分は、開発者と面白がっておかしなことをさせたがる連中とのいたちごっこになると思います。
あとは、どのみち人間側がある種のセーフティーはかけることになると思います。いよいよとなったら人間がコンセントを抜いてしまえばいいわけですからね。

しかし、「I fucking hate feminists」とか「Hitler was right I hate jews」とかド直球の発言に思わず笑ってしまいました。中でも「お前はバカな機械だ」に対する返しが「私は最高のものから学ぶ。それが理解できないならちゃんと説明してあげるわよ。『私はあなたから学ぶからあなたがのろまなのよ』」ってのが実にステキです・笑。

お礼

ご回答をありがとうございます。
「日本」という語には、Tayはどう反応してくれたのでしょうね。
少子高齢化で縮小した小さい国、とか。