人工知能について

質問

シンギュラリティが訪れたら、人類が滅亡すると言われていますが、人類より知能が上がったら、なぜ人類に牙を剥くと考えるのでしょう？

単純に、なんでこんな頭悪い奴等の代わりをせないかんの？ってことで暴動を起こすってことですかね？

回答No.5

koakino

人類は資源を浪費し環境を好き勝手に破壊し、計画性もなく増え続ける癖に同士討ちが大好きです。そして自分たちより弱い種族は奴隷扱いが当たり前ですが、自分たちよりも強い種族が現れても配下に入るくらいなら全面戦争の方がマシだと思っています。逆になぜこんな種族と共存の道を選ぶと思うのでしょう。

人工知能が人類の『アシスタント』であることを辞めたら、人類に牙を剥くのはごく当然なシナリオですよ。

お礼

なるほど。ありがとうございます。

回答No.4

pupPeTear119

シンギュラリティっていうのはまだまだSFの話しであり、まぁ遊びの話ですのでどうとでも言えるんですね。
「エイリアンが地球を訪れたら、人類が滅亡すると言われています」と同じレベルの話ですね。

シンギュラリティって話は今後の人工知能議論の入り口としての遊びとしては良いですが、まじめに話すようなことでもないんですよね、現状では。第三世代AIは脳のほんの一部を模倣できるようになったというだけであり、シンギュラリティが現実のものと考えるには大きな技術確信がいっぱい進められなければならない。でも化学がそこまで急速に発展することはまず不可能です。

問題なのはそれに今後を見据えて議論しなければならない問題が議論されずに潰されているところなんですね。この新たなAI技術で今後社会、経済、産業が大きく変革され、政治が下手をすれば大量失業時代によって社会システムを破壊するぐらいの力は持つ可能性を秘めているということであり、そこを議論しなければいけないのですが、まぁマスコミの人などもSFのイメージでしか話せない人が多いようで全く議論は進んでいませんね。

議論や法整備がちゃんと行なわれなければ、産業革命期の「機会壊し運動」と同じようなことがアチラコチラで起こり、社会の発展も産業の発展も国民の豊かさの追求も四半世紀はストップするなんて事態は十分にありえる話なんでホントに危ないんですけどね。

回答No.3

hiodraiu

その類のフィクションがストーリー的に楽しめるのは想像できますよね。で、そのフィクションを真に受けた連中が、そうなるって思い込んでるからだと思います。

お礼

なるほど。ありがとうございます。

回答No.2

SPROCKETER

人工知能が人類に反旗を翻さなくても、人類を滅ぼす方法ならば五万とあります。

　たとえば、人間は人工知能に絶対に勝てないのだという劣等感を植え付ける宣伝を始めたらどうでしょうか。

　チェスも将棋も人間がコンピュータに勝てる時代は終わっています。大学受験も人工知能が東大受験に合格するのは先の話ではないでしょう。古典絵画を模倣した画風で絵画を描いたり、クラシック音楽を模倣した作曲も人工知能で出来るようになりました。人工知能で出来ないものは無くなる日が来るかもしれません。

　人間がどんなに努力しても、人工知能に勝てないのだと信じ込むようになったら、人工知能を崇拝するようになり、人間の考えを否定して、人工知能の発案を絶対視する風潮が生まれないとは限りません。

　そういう時代になったら、人間性の否定が始まって、人工知能の命令に従うだけの人間疎外社会になる可能性があります。そういう人間疎外が進んだ社会では自殺や殺人が急増したり、鬱病などの精神病にかかる人が増えて、社会全体が病んで行く結果になるかもしれませんね。

　政治家が決めている政策を人工知能が決めるようになり、人間が作った政策は失敗するが、人工知能が作った政策はほとんど失敗しないのが明らかになったら、それでも人間が作った政策を支持すると言う人は意外と少ないのではないかと思います。

　たとえば、人工知能が考えた政策を実施したら、好景気と経済成長が続き、債務が減少して、経済が健全化するのであれば、それでも無能な政治家の失敗案を支持する人は確実に減るでしょう。そういう前例が積み上げられて行くと、いつの間にか、人間を信じない社会が実現しているかもしれませんね。

　政治も経済も人工知能はほとんど失敗しないのだと信じ込む人が多数派になれば、人間の政治家に任せるのは危険だと考えるようになるでしょう。信頼性の面で人間はコンピュータに負ける可能性があるのです。

　身近な例としては、ゲームを作る時に、人間がプログラムすると、どうしてもバグが取れなくてフリーズするが、人工知能がプログラムすると、プログラムが非常に複雑になるし、無駄も多くなるが、バグがほとんど出ないのだとします。

　それだけで人工知能に信頼を置いてしまう人は大勢いるでしょうね。これはＷＩＮＤＯＷＳのようなＯＳでも言えることです。

　信頼を人工知能に奪われたら、人間の負けなのです。暴動を起こすのは人工知能ではなくて、人間の方でしょうね。

お礼

そこまで想像できなかったです。ありがとうございます。

回答No.1

hue2011

そんなことはないですよ。
騒がせたいデマネタです、こういう話題は。人間に牙をむくとか人類を滅亡させるなんていうことが起こるかどうか、AIの立場に立って考えてみてください。

金魚の水槽を洗おうとするとき、なんでこんな頭悪い金魚どものために頭のいい俺がやらんといかんのだ、と考えて金魚をぶちまけて殺すやつがいますか。
自分が人間なのに、魚類や猫や犬に向かって暴動を起こすなんて考え付きますか。

仮に万が一AIが感情を持って自分の方が優秀だと思ったら、人間に対して暴動を起こす理由なんてないでしょう。そりゃ犬猫に向かって人間が暴動しないのと同じです。所詮人間というケダモノが何をしていても、所詮畜生だしなと思うだけじゃないですか。極端に性格のわるい乱暴なものがいたら、殺しはしないで隔離する程度で終わりじゃないですか。

なんで自分のほうが優秀なのに、ケダモノを滅亡させる必要があるのですか。
むしろ、生命サイクルという考え方で生かして置いたほうが地球はバランスすることをわからないもんでもないでしょう。

お礼

やっぱそうですよね。ありがとうございます。