AIが人類を滅ぼす

質問

有識者などが「AIが人類を滅ぼす」と警告しているのをよく見ますが、それの何がいけないのでしょうか？
SFでは「人類が一番地球環境に良くない」と判断したAIにより滅ぼされようとしますが、地球環境原理主義者にとっては望むところじゃないでしょうか。
たとえ人類が滅びても、それまでに得た知識などを活用して更なる高みへ行くならいいじゃないかと思います。
機械という、人間より環境依存度が低く、長い寿命を持ち、ある意味不滅の存在が後継者になるなら何も問題ないと思うんですが。

回答No.13

chachaboxx

その（AIの）仕組みを生み出すのが人間なので、どこまでいっても不完全さが払拭できずに、間違った方向にすすむ懸念はあります。

つまり、AIがあってもなくても同じはずなのに、間違った方向に加速されることに抵抗があるということ。

回答No.12

iq001

貴方が殺されるのも構わないなら、それで良いではないですか。

回答No.11

oska2

＞有識者などが「AIが人類を滅ぼす」と警告しているのをよく見ますが、それの何がいけないのでしょうか？

今の科学技術では、人工知能・ＡＩは「Ｎｏと言わない」事を原則として開発が行われています。
が、近い将来「ＡＩがＮｏ判断」をする可能性があります。
人類の意思に反して、ＡＩの判断が優先される事が危険なのです。
例えば、「この携帯電話番号はテロリストのメンバーだ。射殺しろ」
人間だと、携帯電話の位置情報だけでは攻撃命令は出しませんよね。
ＡＩだと、この携帯電話を誰が使っていても攻撃する可能性があるのです。
例えば、「この運転手は、アクセルとブレーキを間違って１２人を死傷した罪人だ」
人間だと、被告人の生活習慣・人間性など情状を考慮して判決を行います。
ＡＩだと、「アクセルを踏んだまま１００キロ近い速度で約１キロ近くも走行する行為はただの過失でなく重罪だ。死刑」となります。
確実なのは、「ＡＩは道具に過ぎない」と看做す事が重要なんです。
ＡＩを持った戦争用ロボットが意思を持って「人間の命令にＮｏ」を言うと人類は滅亡します。

回答No.10

eroero4649

映画「ターミネーター」のように、AIが自我を持って「人類は地球にとって危険であるから滅ぼさなければならない」と思ったとします。ただ、そのAIは電気がないと生存できないわけで、その電気は誰が供給しなければならないかというと人類の手を借りないといけないので、「自分の存在と引き換えにしても人類を滅亡させなければならない」という結論に至らないといけなくなりますね。

またそこまで高度な知能を持ったAIなら、都市部に住んでいる人類は核爆弾などで簡単に殺せたとしても、人里離れた場所でひっそりと暮らす人たちまでを絶滅させるのは、これは（例えとしては不適切ですが）ゴキブリを絶滅させようとするに等しいと思います。

人類が滅亡するとしたら、地球の環境が変わったときだと思います。暑すぎるのか寒すぎるのか、どちらにせよ地球の環境が人類が生き残るには過酷過ぎる状況になって人類は滅亡するのかなと思います。過去に絶滅した動植物の多くはそういった環境の変化によって絶滅したものと思われます。
だから、人類を滅亡させようとするなら地球環境を劇的に変えることになるわけで、そうなると「今の地球にとって人類が危険」という大前提が矛盾を生じてしまうことになると思いますよ。

回答No.9

katakana1956

地球環境にとって人類よりもAIがふさわしい、と言う以前にAIが人類にとって代わるということは無いと思います。AIは人類にとってそれほど進歩した道具ではないです。「AIが人類を滅ぼす」などという警告は
当方にとっては世迷い事です。

AI以前に人類は「機械」無しでは生きていけません。もっと一般化すると「道具」無しでは生きていけません。石と木で作った斧を使っていた時代だってその斧がなければ人類は生存できなかったでしょう。そうやって人類は21世紀までたどりついたのです。AI以前にコンピューター無しで今の文明生活は維持できなくっているし、AIだって同様に人類にとって絶対必需品になります。ビル・ゲイツさんとかは確かにAIの発達した人類の暗い未来を描いていますが当方からは「ゲイツさんもうろくしましたね」と言ってやりたいです。石と木の斧だって使いようによっては人間同士で殺しあう凶器になります。核関連技術もそうです。AIも使い方しだいです。

回答No.8

noname#255857

＞地球環境原理主義者にとっては望むところじゃないでしょうか。

じゃスカトロ主義者が排泄物を食べよう！と言ったら貴方も従うの？
大半の人は主義が違いますよね？
違う主義を押し付けられるのは貴方にとっても望まないのでは？

貴方が道を歩いてたら、ヤンキーに絡まれていたぶられた後
お金を取られて裸の写真をSNSで拡散されました。
彼らは貴方の後継です。問題ないですね？

目の前で暴走した機械が親を殺そうとしてても
更に高みに行くならいいんですね？
腕がチェンソーになったロボットが貴方に腕を振り上げても
納得できるんですね？
自我に目覚めたロボットは人間殺しに愉悦を覚えてニヤニヤ
しながらでも。

そーじゃないでしょー。
現実の嫌なことから目を背けたいからロボットに
人類滅ぼされねーかな―ってだけじゃないですか？

回答No.7

staratras

回答者は「地球環境原理主義者」ではありませんが、「地球にとって取り返しのつかないような環境破壊の愚行を続けるなら人類は衰退しても仕方がない」と思います。

ただしそれは「自然からの報いなら仕方がない」ということであって、人類が作り出したAIに滅ぼされたいとは考えません。人類が繫栄のために「良かれ」と思って導入したAIがかえって人類に「仇をなす」という事態は(SFには度々登場しますが）困ります。人類の衰退も滅亡も決めるのは地球の自然そのものであって、人工のAIであってはならないのです。

もちろんこれは、人の一生やせいぜいこれから数百年単位の短い期間についてだけの判断です。今から1万年後のヒトとAI（人工物）との関係がどうなっているか想像もつきません。ヒトと人工物を対比させて考えることができないほど両者が融合してしまえば、「AIが人類を滅ぼす」という警告自体の意味がなくなってしまうかもしれないからです。

回答No.6

Radish_Boyaboya

ＡＩも機械も、人類がより良く生きるためのツールです。
けして、ＡＩや機械が主役になることはないし、なってはいけない。
人類がいなくなって、ツールだけが残ることに意味はないです。
ニーアオートマタ的なｗ

回答No.5

fujic-1990

ＳＦ好きです。が、ご意見の意味がよくわかりません。

　以下、「AIが人類を滅ぼす」と警告している有識者を「有識者Ａ群」とします。

> 地球環境原理主義者にとっては望むところじゃないでしょうか。

　有識者Ａ群は地球環境原理主義者なのでしょうか？

　地球環境原理主義者ではないのかもしれませんよね。地球環境原理主義者でないなら、「地球環境原理主義者が何を望もうと、そんなの関係ねぇ、そんなの関係ねぇ」ということで、警告したくなる気持はよくわかります。

　地球環境原理主義者だとしても、自分も滅ぼされる側の一人であることを望む地球環境原理主義者なのでしょうか。

　「交通違反は厳しく取り締まれ」とか言っていても、自分は酒臭い状態で運転しているとかスピード違反しているとか、建前と本音が違う人をたくさん見ているので思うのですが、もしかしたら、自分ダケは科学文明を謳歌できると思っているかもしれません。

> たとえ人類が滅びても、それまでに得た知識などを活用して更なる高みへ
> 行くならいいじゃないか

　誰が、行くのでしょう？

　文脈的に「ＡＩが行くなら」、という趣旨だろうと思いますが、ＡＩは「私が人類の後継者となって高みへ行く」と約束しているのでしょうか？

　「無理な可能性99.9999％」と計算して自分で電源を切るかもしれません。

　その結果、進化した１本脚ナメクジがピョンピョン砂漠を跳び回ることになるかもしれません。海の支配者は進化したカツオノエボシでしたっけ、未来学者が描くところによると。

　ま、人類が滅んだ後にどうなろうと、ナンの問題も無いのですが。

回答No.4

kaitara1

AIはだれかが決めたことしかやれないからでは。つまり状況が変わってもやることは変えられないからでしょう。