将来ロボットって、氾濫を起こす可能性ってありますか？

質問

アイロボットが地上波で放映されますねー。

そこで、プログラミング的には、組織だって将来ロボットが氾濫を起こす可能性とはあるのでしょうか？

有名なのが、

１条．人間に危害を加えない。
２条．１条以外で、人間の命令には従う。
３条．１条，２条以外で自分を守る。

問題は、プログラムとしての、人間や危害、命令、自分の定義です。

あと、ありそうなのは、バグ。
やっぱり、マイクロソフトなのかなー。
それとも携帯のＯＳとか、から発展していくのか。

マトリクスなんかは、人間を守るために、ああいう事になったんでしたっけ？
人間を長生きさせるため(危害を加えない)に、安眠させる・・・、って曲解してしまうことにも、なりそうですが。

どうでしょうか？

回答No.5

W_H · ベストアンサー

ロボットの反乱ですか。やっぱり一度は考えたくなりますよね。
普通にプログラムを書いている身としては、多分反乱は普通に書いたらありえないかな？とも思います。
反乱：支配体制や上からの統率に背いて乱を起こす事。っと辞書にありますし。
ただ、人工知能の発達とかで、心に似たものができ、不満と言う感情を持ったら、ありえるかもしれませんね。
それよりも現実的な答えとして、あるじゃないですか。今の時代にもパソコンが命令を無視して乱れる事が。
ウイルス感染です。
もしロボットの反乱が起こるとするならば、やっぱりコンピューターウイルスにやられて、暴走することが容易に考えられるかな、と思います。
いつの時代も、きっとモラルない人の無意味な行為が、人を悩ませるんでしょうね。

お礼

ウィルスですか。
それは確かに、ありそうですね。

テロ、悪の科学者、ウィルス、面白い説でした。
ありがとうございます。

回答No.4

maguro999

定番は悪の科学者がってパターンがありますよね。

そう言えば攻殻機動隊で
人工知能にたいしてゴーストが宿るかどうかって
のがありました。
攻殻機動隊において義体化や電脳化してロボットに
人間が近づいたり人口知能を搭載した疑似人格が出てきて
人間とロボットが近づいた状態で人間とロボットの
違いとしてゴーストの存在が書かれているけど
それにおいてのロボット三原則も無意味な物になっている気がする。
実際に本当に高度な人工知能が出てきたらロボット三原則って物では
割り切れないと思う。

お礼

今現在、悪の科学者・・・って、いるのか。
アニメやマンガだと、科学者がトップですが、某北のお国や、某宗教も悪の科学者はいたのか。

ゴーストって幽霊の事？憑依って事？
システム系のプロセスもデーモンっていうし、ゴーストにも他の意味があるんでしょうか？
単に幽霊って意味なら、ロボットが認識できない事で、事実と結果があるのなら、理解不能となる訳でしょうね。

ロボットが、自分から環境の事を気にし始めたら、人間は排除されてしまうかもしれません。
ありがとうございます。

回答No.3

subaru361

とりあえず「反乱」ね。
あとロボット三原則というのは、I.アシモフがSFを書くときの縛りとしてまとめたものです。つまりフィクションであり、リアルな「ロボット」にそのようなプログラムを組入れられているということではありませんので、質問自体がいささかピンとはずれかな？と。

お礼

質問した後、気がついたんですって。
編集(ただし、回答が付く前)か削除が出来れば、訂正出来たのですが。

まぁ、１００年近く前に生まれた人ですからね。
とはいえ、大体の考え方としては、間違っていないのではないでしょうか？
３条目は微妙ですが、１条、２条は入ると思いますよ。

ありがとうございますねー。

回答No.2

renton

実際にロボットが映画のように普及したとして、ロボットが本当に心まで持つかどうか疑問です。
現段階のロボットは、何か物が飛んでくるから避けるのであって、物が飛んできて危ないと思うから避けるのではないのです。危ないという感情が無ければ、反撃する事も無いと思います。

バグは絶対に避けられません。大なり小なり残るものです。
感情という不確定要素を盛り込んだロボットがあったら、それこそ制御できない部分になってくるので、バグの一人歩きが始まるかもしれません。
ターミネーターじゃないですが・・・

お礼

まぁ、人工知能が開発され、それが実際に手足を持った状態で搭載されるかは、疑問ですよね。
ありがとうございます。

回答No.1

Werner

プログラムは基本的に人間が書いたとおりに動作するので
（バグだって人間が間違って書いたとおりの動作の結果）、
反乱を起こすようなプログラムを書いてしまえば反乱するかな。

ところで、文脈を見る限り「氾濫」じゃなくて「反乱」なような気がするのですが。

お礼

反乱を起こすプログラムって事は、バグではなくって、テロって事でしょうか？
それも確かに、ありそうですよね。

バグにもいろいろとありますよね。
目的と違うふうにプログラムされていたり、ＯＳ側が仕様と言い張っていたり。

一応、アンケートでなく、プログラムで質問したのは、それなりに専門的な理由を知りたかったのですが、やはり未来の話しなのでしょうか。

やはり、ロボットが人工知能を持つのは、不安が残りますね。
ありがとうございます。

今も、気がついたけど、ロボットと言うよりは、人工知能の話しですね。
補足にもそう、追加したかった。＾＾；

補足

質問した後に気がつきました。
やっぱり、回答がない間は、削除・編集が出来るといいですね。