コンピューターが自我意識を持つ可能性

質問

人間の脳に近いコンピューターが存在するようになった場合、自我意識を持つ可能性はあるのでしょうか？
また、持たせる事が可能なのでしょうか？
また、持たせるべきかどうか？

ＳＦのようなテーマですがお聞かせ下さい。

回答No.13

owlsjp

まあ、しかし「現実世界で、虚構は虚構であると知って遊ぶ」

のは健全だとは思いますが、

「善悪を知らず、人間の敵対勢力になる」とか、妄想が始まり、虚構と現実の区別がつかなくなら、それは健全ではなく、病的な人間だという事になりますね。

質問者さんは前者であるように見受けられますが、後者のような人間もいるとの指摘ですね、まあ、実害はないでしょうから放っておけば良いでしょう。

お礼

現実世界が虚構のように感じられる年寄の嘆きをご理解ください。

回答No.12

noname#101110

人間の脳も、自我意識も、現状ではまだしっかり解明されてはいません。
しかし、その解明が不可能だという証明もなされていません。
いずれ解明されるだろうと思います。
解明されれば、いずれそれは人工化されるでしょう。
それは自然の成り行きです。
それは、いわゆる「鉄腕アトム」の（頭脳の）誕生かもしれませｎ。
＞また、持たせるべきかどうか？
少なくとも、そういった最先端の研究は秘匿するべきではないと思い増すが、それが何なのですか？
それが新しい人格の主張をするとでも？
かまわないでしょう、言わせておけば。
あるいは、善悪を知らず、人間の敵対勢力になるとでも？
構わないでしょう。
手足をもがれた「神」にどんな可能性があるでしょうか？
例えば、
人間は核兵器をほぼ飼いならすことに成功したように思えます。
「人工万能神」も、やはり人間の知恵でうまく制御していくでしょう。
これは別に楽観的な見方ではなく、ごく常識だと思います。

お礼

全ては常識の範囲に納まる、そして天下泰平で済む・・・との事
大変ありがたいご意見をいただきました。

この辺で皆様方のご回答を振り返ってみたいと思います。

コンピューターが自我意識を持つ可能性は？
皆様のご意見では、出来る、出来ない・・とに分かれてしまいました。
また、出来る場合の危険性についても、有ると無い、とに分かれてしまいました。
あくまで推測の範囲ですので、このような多様なご意見になってしまうのは仕方ない事と思われます。

私の個人的な意見になりますが・・・
技術革新の早さに対応した倫理観といったものを同時に築いてゆく必要性を感じています。
最先端の技術革新を扱う人達に、一般人がシグナルを送り、ブレーキをかける事も必要なのではないでしょうか。
人間を忘れた科学の一人歩きは危険な事のようにも思います。
この事は私が今更言うまでもない事だと思いますが・・・

コンピューターへの期待よりも、皆様の良識に期待する事にいたしましょう。
沢山のご意見をいただけました事を感謝いたします。
有難うございました。

回答No.11

owlsjp

＞私がお聞きしたいのは、素晴らしくない世界の危険性についてです。

　しかし、

＞現実から離れた世界に遊ぶ夢は、それはそれで素晴らしいと思います。

　のは、危険が有るように思います。

　現実世界の「中で」、現実から離れた世界に遊ぶのは、それはそれで怖いことだと思います。現実世界の「中で」の現実から離れた妄想が、現実世界に影響を及ぼすのは、明らかでしょう。

　１００％あり得ないと思える（あくまで主観としてだが）、人工知能やアトムの実現を、本気で主張するなら、それはやはり恐ろしい気がします。なぜ、そのような疑問がそもそも、起こったのか不思議です。アニメや映画を見て、影響を受けすぎたのでしょうか。

　しかし、人種どころか、自分とは完全に別の思考形態を持つ人が、同じような外見で、街を歩いているとすれば、それはまた．．．何とも言えない．．．

お礼

鉄腕アトムも鉄人２８号も赤胴鈴之助も忍者影丸も面白かった・・・
なぜ面白かったかと言うと、自分がヒーローになれたからです。
漫画の中で伸び々とヒーローになったつもりになれた・・・

もう遠い昔です。
今はヒーローも夢もあったもんじゃない。
自分を置いて、周りの世界が勝手にどんどん変わっていく・・進んでいく・・・
理解できない現実ばかりが目についてしまう・・・

結局、私は時代遅れなのでしょう
時代遅れだから、半ばヤケ気味になって、これはどうなんだ？
と聞いてみたくなる・・・

少し悲しいか・・・

哀れっぽく思われたのなら、それも結構
大いに結構です・・・（少し強がり・・・お笑いください）
では。

回答No.10

kadowaki

＞人間の脳に近いコンピューターが存在するようになった場合、自我意識を持つ可能性はあるのでしょうか？

決してありえません。

コンピューターがどんなに「人間の脳に近い」能力をもつようになったところで、結局あらかじめ組み込まれたプログラム通りにしか作動し得ないからです。

また、人間以外の存在は「自我意識を持つ」ことはおろか、タダの「意識を持つ」ことさえも不可能なはずです。

なぜって、意識活動は、言葉と記憶と現実世界の三者が複雑に絡み合いながら展開しますが、言葉と記憶についてはともかく、無限に生成、転変し続ける現実世界を知覚したり、認識したりできるプログラムなんて、神様以外には作れるはずがないからです。

お礼

決してありえない、心配ご無用・・・
杞憂など捨ておくべし・・・と拝見させていただきました。

現在の常識からいえば、ごもっともな意見です。
しかしながら、常識と思われる事がくつがえされる可能性は全く無いのでしょうか。

私は物理や科学については素人ですが
量子論の世界をちょっと覗いてみると、とても常識では考えられない事が事実として確かめられているみたいです。
たとえば、粒子は同時に波の性質を持っているとか・・・トンネル効果とか・・・
決してありえない、と思われる事が実験によって確かめられているようです。
量子コンピューターが実現した場合にはいったいどうなるのでしょうか・・・

神様のプログラムを真似る試みはもう始まっているのかもしれませんね
出来る出来ない、では無くそれに近ずく試みです。
怖いですね・・・
誰かこの不安を取り去ってください、お願いします。

有難うございました。

回答No.9

jinseiwalk

番組名は爆笑問題のニッポンの教養＝爆笑学問で１３日火曜夜１１時にＮＨＫでやってましたので誰かビデオした人に見せてもらうと驚きますよ。掲示板で探すといいかもしれません。

自分で鏡を見て行動するロボットにびっくりです。

お礼

有難うございました。

回答No.8

owlsjp

ああ、それからアトムは出来ないでしょう、しかし妄想世界では実現するでしょう、人それぞれだと思います．

お礼

出来ないからアトムは素晴らしいのでしょう。
素晴らしい夢を私も子供の頃に沢山いただきました。
現実から離れた世界に遊ぶ夢は、それはそれで素晴らしいと思います。

私がお聞きしたいのは、素晴らしくない世界の危険性についてです。
よろしく。

回答No.7

bananasand

いわゆる強い人工知能のことでしょうか。

可能性があるかと聞かれれば、あるとなります。
可能かと聞かれれば可能と言えます。

ただし、論理的に実現し、アトムが完成しても、
真に実現したかどうか人間は知ることができないでしょう。

あなたが、私の自我意識の存在を確実に知ることができないのと同じように。

そして、もし、それができるほどの知能が完成するなら、技術的特異点を越えて、ポストヒューマノイドが出現すると言うことでしょうね。

参考URL：

http://ja.wikipedia.org/wiki/%E5%BC%B7%E3%81%84AI%E3%81%A8%E5%BC%B1%E3%81%84AI

お礼

参考ＵＲＬによれば、すでに様々な推測のもとに人工知能の可能性が考えられているようですね。
まだ、推測なのでいいと思いますが、量子コンピューターが実現してくると現実味を帯びてくるような気もします。

こうして、半ば面白く議論し合っているうちは平和だと思いますが・・・

有難うございました。

回答No.6

owlsjp

質問タイトルだけを読んで即答するならば、「ない」としか言えません。そのうち、他の回答者さんの回答も読んで投稿することもあるかもしれません。

回答No.5

UROIUSH

こんにちは

そもそも、「自我意識」て何でしょうか。
自我意識　→　人の心
と考えるなら無理でしょう。この場合、どんなに研究しても、コンピュータと人は永遠に別物です。
私の場合、人の自我も、コンピュータの持った自我も、物理現象としては同じと考えます。
つまり、
自我意識　→　脳の処理をシミュレーション
と考えます。

という前提なら、理論的には可能です。実際に研究も行われています。
そもそも、人は微生物から進化して自我意識を獲得したんですから、それを作ること自体は可能だと思います。
ただそれには膨大な処理能力のコンピュータが必要になるでしょう。
まだ当分先でしょうけど、来世紀ごろには実現してるんじゃないでしょうか。
＞また、持たせるべきかどうか？
持たせるべきです。多分そうしないと、動物レベルの知能で止まっちゃうでしょう。ただ、ターミネータみたいにコンピュータが一人歩き、というのは怖いので、何らかの制御は必要でしょう。

お礼

確かに人の心の全体をコンピューターに移し変える事は不可能のようにも思えます。
しかし、プログラムの方法によっては、感情を伴った複雑な判断などもできるようになって行くのではないでしょうか。
その点については回答者様も同じ意見と思われます。

現在、量子コンピューターの開発が進められていると聞きます。
超高速の演算速度や完璧なセキリュティを保持するとか言われています。
それらのハード面に伴ったソフトも開発されていくのでしょう。
現在の私達が知るコンピューターのイメージが全く変わってしまう可能性すらあります。
仕事や生活においての必需品としての存在から、疑似人間的で精神的要求にすら答えられる存在にまでなっていく可能性をも秘めているのかもしれません。

感情を持ち自己判断をするコンピューターが現れるかもしれないのです。
仮にそうなった場合において、注意すべきはプログラムをする人間の心理ではないでしょうか。
コンピューターが、善人にもなり悪人にもなってしまうからです。
恐ろしくも怖い存在は同時に魅力的でもあります。
そうした魔に魅入られた人間がプログラムをしないとは限らないと思います。
プログラムの危険性が予め予測された段階において、その対処方法を検討しておくべきと思います。

自我意識を持たせるべきかどうか？
実際には、その事が可能になってしまえば、必ずそうなってしまうのでしょう。
やってはいけない、という事を人間は数限りなくやってきてしまったのですから・・・
核兵器にしてもクローンにしても人工授精にしても同じようなものです。
議論はいつも後回しになってきました。
でもこの問題は、実現可能ともなれば、余りにも危険性が大き過ぎて手に負えなくなる事のように思えます。
人間の良識が試される時なのかもしれません。
有難うございました。

回答No.4

tabaxyz

すでにコンピュータウイルスのように生物界(厳密には生物へ感染するウイルスは生物に属しない)と同じような事が出来るものがあります。
自我意識の定義としてですが、コンピュータの場合人間が必ずプログラミングをし、その結果で行動とするものであり、あくまでも人間の意志をプログラムによって行動に変えているわけで「自我」では無いでしょう。
生物の世代交代にて偶発的にDNA(RNA)が変化し新しい環境に対応し進化しているものにたいして、コンピュータの機能追加は物理的には変化をすることができず、論理的に変化をするなら、自分自身のプログラムを書き換える事で進化をすることになるが、不可能。プログラムを偶発的に書き換えた場合、即プログラムは例外処理になり「クラッシュ」します。生物に例えると「死」となり、進化していくことはありえないでしょう。
映画ターミネーターでスカイネットというコンピュータネットワークに乗っ取られるという設定ですが、実現するには誰かがそのように行動するプログラミングを行うしかできないでしょう。
結局、コンピュータは人間(プログラマ)の管理下であり続けます。

お礼

コンピューターが最初に造られた時、そのウィルスが出来る事を誰が予測できたでしょうか。
現在は不可能と思われていても、実現できないとは言い切れないのでは・・・
自分の子供の未来がどうなるのか、親である私達にも分からないのです。
子供が成長して自我に目覚める時がいつ来るのかも・・・

見守りましょう。
良い大人になるように・・・

有難うございました。