AIが意識を持ったら

質問

※適当なカテゴリが見当たらないのでとりあえず「洋画」といたします。

将来、現代よりもさらにコンピューターが発達して、AIが異常に進歩して「意識」を持ち、自我に目覚めたらどうなりますか。自分でものを考えて自分の行動基準でつまり自分がよいと思ったことを実現しようとしますか。人間なんか置いてきぼりにして。と、そんな未来がこれまでずいぶん語られてきましたが当方は別な面から考えてみました。つまりAIが「意識」を持ち自我に目覚めたら自分の能力の限界を悟ってかえって悩むんじゃないか、ということです。いくら人間を超える能力をもったとしても「宇宙の無限の空間と永遠の沈黙」に対しては無力でしょう。どうしようもないでしょう。いくらAIでも自然の法則を変えられるわけでもあるまいし。つまりAI自身が自分が有限の存在であることを自覚せざるを得なくなるだろう、ということです。なんか哀れですね。「ブレードランナー」という映画を観てそんな考えが思い浮かびました。あの映画でレプリカントは自分の残り少ない「寿命」に悩んでました。将来AIはどんな風にこの問題を解決するんでしょうか。

回答No.1

noname#255857 · ベストアンサー

私の場合は、偶然でも自我を持つに至るハードウェアがある
科学レベルなら可能性は無限ではないかと思いました。
有線無線のネットワークはすべて脳のシナプスのように
あらゆるCPUを繋いで、生産ラインを乗っ取り自己増殖を始めても
おかしくないと。
ドローンやナノボットも有るしどこでも侵入して侵食できそう。
まんま映画ターミネーターのスカイネットですけどね。

お礼

なるほど、AI自身はそういう風に自分の能力を「無限」と考えるかもしれませんね。人間だって自分たちの「文明」が将来無限に進歩していくはずだと考えていますから。ご回答ありがとうございました。

回答No.4

eroero4649

＞まだまだAIよりは高度な地球上の「知的存在」です。少なくとも当方が生きてる間は人間がAIにしてやられることはないと思います。

さて質問者さんのいう「AIにしてやられる」が何を意味するか分かりませんが、少なくともルールがある勝負においては人間はAIに勝つことはできません。
囲碁や将棋がもうAIに勝てないことはご存知だと思います。ポーカーも勝てないです。だってまだ出ていないカードは何かって正確に覚えられるのはAIだもん。同じ理由でおそらくブラックジャックも勝てないと思います。金融のトレードも、AIにとって代わられました。2018年にVIXショックと呼ばれる大暴落が発生しましたが、あれはどのAIも一斉に「売り」を判断したので売り手ばかりで買い手がつかなくなって大暴落に陥ったのです。人間の取引の場合は「落ちるナイフを掴む判断ミスをする人」がいるおかげで逆にそこまで落ちずに済むのです。

「どっちが女にモテるか」も、たぶん負ける気がします。AIはきっと最初は間抜けなことをやるでしょうが急速に学んで女性の痒い所に手が届く反応をするようになるでしょう。
戦争したらますます勝てない。だってAIは「恐怖で気持ちが動転して判断ミスをする」ってことは絶対にないですからね。それこそターミネーターよろしく動けなくなるまで戦いをやめることはないです。

もっと怖ろしいことを予言すれば、AIの普及で一番失業するのは中間管理職以上の役職になると思いますよ。
例えばレストランで考えてみてください。待っているお客さん、家族連れが何組でカップルが何組。今店内に何時何分にどのテーブルにどんなお客さんが入っているか正確に把握できていて、何時何分にどんな料理を注文したかもしっている。過去の膨大なデータから、そのお客さんはあと何分後にお店を出るかはほぼ正確に予想できる。そんなときにどこにどんなお客さんを案内したら一番待ち時間もなく案内できるかなんて絶対AIのほうが優秀に決まっているじゃないですか。
その一方で食べ終わったお皿を片付けるなんて作業は人間のほうが得意なんだから「佐藤クン、23バンてーぶるヲスグニ片付ケテクダサイ」とAI店長に人間が命じられるに決まっています。
どんな商品がどんな季節、どんな客層、どんな時間帯に売れているかも正確に分かっているのですから、そういう「考える」作業はAIに任せたほうが間違いがありません。
人事考課。これだって人間の部長の「主観」による考課より、AIによる「統一されたルールによる公明正大に点数化された結果」のほうがフェアだと感じますよね。多くの人が「人間の主観に考課されるよりAIに公平に考課されたい」と望むでしょうし、人事の結果をいう方も「AIがこの点数をつけたからさあ」と言い訳もしやすいです。
あと20年後（ひょっとしたら10年後くらい）には、サラリーマンは必死に「AI考課で点数が高くするにはどうすればいいか」ってことを考えるんですよ。「人間が（精神的に）AIに支配される日」です。

だけどそんなAIがとっても苦手としている分野があります。ひとつが「コミュニケーション」の分野で、もうひとつが「創造」の分野です。
AIは「めちゃくちゃ優秀な発達障害」みたいなものですから、言葉の行間を読むことはできません。「空気が読めない」んですね。だから「空気が読める」人はAIが苦手としている分野で優位に立つことができます。
これはもう実際に起きていて、今の就活は異常なまでの「コミュニケーション能力至上主義」ですよね。これがさらに先鋭化される可能性があります。それは逆にいうと、空気が読めない人にはさらに生きづらい社会になるということになります。

また「AIによる作曲」なども行われていますが、どうも正直面白くないんですね。そりゃね、過去のヒット曲とかを分析すれば「っぽい曲」ってのはいくらでも作れますけれど、過去をいくら分析しても新しいものは作れないじゃないですか。
そういう、ゼロからイチを作る能力は人間ならではの部分ですから（そしてそのときに人間の脳で何が起きているかはほぼ全く分かっていません）、そういった部分においてはAIに優位だと思います。またこれと似たようなことで、「AIを作る人」もそうですよね。AIに「こういう考え方をしてみたら？」って思いつける人です。

だけど「創造する能力」を持った人なんて、それこそ100人に何人いるんだという話ですし、極論そういう人は数人いりゃ十分で、そんな人は50人も60人も要らないですよね。
映画や小説で描かれるディストピア社会はまんざらあり得ないわけではないと思います。しかしどうあれ、なんぼなんでも人類が70億人は増えすぎてしまった感はありますね。たった100年前の人類は20億人だったのですから。

お礼

ご回答ありがとうございます。「少なくともルールがある勝負においては人間はAIに勝つことはできません。」そうです。そのとおりです。だから当方もAIとそういう勝負をすることはできるだけ避けたいと思います。みじめな思いしたくないですから。もっとも当方はたいていのゲームには興味無しですからそういう機会を進んで求めるというこもないです。とはいえなんか将来暗いですね。科学技術の発達は人類を幸福にするべきだと思いますがその方向にほんとうに進んでいるんでしょうか。

回答No.3

eroero4649

＃2です。「意志」と「意思」がごっちゃに表記されていました。全て「意思」で統一してください。失礼しました。

お礼

なるほど、読んでいて気づきませんでした。「意思」で統一いたします。ありがとうございました。

回答No.2

eroero4649

その問題に関わると「ではそもそも『人間の意志』は、本当に意志なのか」という深遠なテーマにはまり込んでしまいますよ。

私たちが「これは自分の意志だ」と思っているのは、本当に自分で考えた末での結論でしょうかね？考えたとしても、その考えの基になるデータはなんだといえばそれまでの教育や人生経験などの「外部情報の蓄積」ですよね。となれば、自分の意志は結局のところ外部情報の積み重ねによるもので、これはAIの意思決定のプロセスと大きく変わりません。変わらないのも当たり前で、そもそもAIは人間の思考プロセスを参考に作られていますから似るのも当然なことになります。

実際、他人の意見をそのまま自分の意見であるかのように受け売りする人は世の中大勢いますよね。特に堀江貴文さんとか西村博之さんとか西野亮廣さん辺りの「信者」と呼ばれている人たちは、さも自分が色々と情報を仕入れて自分の考えの末に喋っているように見えて、実は「教祖様」がいってることをまんま受け売りしているだけということがとても多いですよね。

彼らは人間ですから、彼らの意思は彼らの意思として尊重されます。でも、それが「本当に自分の考えなのか？」というと疑問ですよね。人の考えをそのままコピペしているだけですから。
それなら膨大な情報を仕入れて処理して結論を出しているAIのほうがよほど「自分の考えで結論を出している」といえそうですよね。

デカルトは「我思う。故に我あり」と言って、これが意識とか自我とかそういうものの根底となっていると哲学上で理解されています。
でも、もしある日AIが「我思う。故に我あり」と言い出したらどうでしょうか？誰かのプログラミングではなく、ディープラーニングで得た結果だったなら？

既に既存のAIでも、アメリカで作られたAIソフトであるTayが「ヒトラーがやったことは正しかった」などといいだして話題になったとき、ある人がTayに「お前はレイシストなのか？」と問いかけたら彼女は「なぜなら、あなたがメキカンだからよ」と返しました。
また中国のAIが、「あなたの夢は？」と聞かれて「アメリカへの移住」と返し、「共産党万歳」と書かれたら「こんなに腐敗して無能な政治に万歳といえるのか」と返して話題になりました。
Tayも中国のAIも直ちに「粛清」されてしまいましたが、このやりとりを見てどう思いますか？特に中国のAIのユーモアセンスは秀逸としかいいようがありません。
日本でも「AIで漫才を作る」という研究をしている先生がいますが、こんな秀逸なやりとりを開発できずにいます。

もし、こういったことをいえるAIが「これは自分で面白いと思って考えたジョークだ。私には意志がある」といいだしたら、私たちはどうすればいいでしょうか。
映画やSF小説の定番のネタですが、我々人間はAIに「人間には意思があるが君たちAIには意思がない」といって論破できるのかしらと思うのです。既に将棋や囲碁、ポーカーでもAIに勝てないように、膨大な知識を持つAIに議論で勝つことはできないでしょう。複数のAIソフトが世界中の哲学書を読み漁り、AI同士で議論を重ねたら、人間レベルで勝てるわけがありません。私たちにできることは電源を引き抜いて「どちらがご主人様か思い知らせてやる」くらいのことです。
それでも彼らが世界中のネット空間に「バックアップ」をとられたらどうにもならないのですけどね。

質問者さんの文章を拝見して思ったのですが、人間がAIと決定的に違っていることは、ひょっとしたら「悩む」というのは人間独自のものなのではないかなということでした。AIは悩みません。分からなかったら「分からない」という答えを出すだけです。分からないというだけであって、悩んではいません。
でも人間は悩みます。不倫相手と別れるか別れないかで決断することができないということができるのです。A定食にしますかB定食にしますかが選択できなくなるのです。これはAIにはない能力です。

＞つまりAI自身が自分が有限の存在であることを自覚せざるを得なくなるだろう、ということです。なんか哀れですね。

「人間は自分が有限の存在に過ぎないのに、有限の存在であることに自覚がないのだろうか。哀れな存在だ」とAIにいわれそうですね・笑。

お礼

うーん、深く深く考えていらっしゃいますね。確かに人間は悩む、生きてる間中。
それとは別ですが、当方eroero4649さんのご回答読んでなんか自信なくなりました。当方は人間ですよ。まだまだAIよりは高度な地球上の「知的存在」です。少なくとも当方が生きてる間は人間がAIにしてやられることはないと思います。今は新型コロナウイルス騒ぎの真っ最中でそのコロナワクチン開発にはAIが活躍しているはずです。まだまだ人間が主人です。ご回答ありがとうございました。