チャットGPTは信頼できるのか

質問

チャットGPTは「愚かな多数決」であると思えてなりません。そのわけは……

　友人が今話題のチャットGPTに「ロシア民謡が日本人に親しまれた理由は？」と聞いてみたら次の回答を得ました。
………………………………………………………………………………
『ロシア民謡が日本人に親しまれた理由には、以下のようなものが考えられます。

日露交流の歴史
　日露交流は、江戸時代から始まります。その後、19世紀後半から20世紀初頭にかけては、ロシア帝国と日本が激突した日露戦争がありました。その後、日本とソ連（ロシア）との関係は複雑でしたが、両国の文化交流は続いていました。このような歴史的背景から、ロシアの音楽が日本に紹介され、親しまれるようになったと考えられます。

バレエ音楽や映画音楽としての普及
　ロシア民謡は、バレエ音楽や映画音楽としても知られています。例えば、チャイコフスキーの『白鳥の湖』や『くるみ割り人形』、ストラヴィンスキーの『春の祭典』などが代表的なバレエ音楽です。また、映画『戦場にかける橋』の主題歌である「眠れぬ夜」や、『ロシアの休日』の主題歌である「カチューシャ」など、映画音楽としても親しまれました。これらの作品を通じて、ロシア民謡が広く知られるようになったと考えられます。

日本とロシアの文化的類似性
　日本とロシアには、文化的な類似性があると言われています。例えば、両国ともに四季がはっきりと現れるという点や、自然への敬意があるという点が挙げられます。このような共通点から、日本人がロシア民謡に親しむようになったと考えられます。

これらの要因が重なって、ロシア民謡が日本人に親しまれるようになったと考えられます。』
………………………………………………………………………………

というチャットGPTの回答だったそうです。

　このチャットGPTの回答に，『映画『戦場にかける橋』の主題歌である「眠れぬ夜」や、『ロシアの休日』の主題歌である「カチューシャ」』とありましたが，戦場にかける橋といえば，「クワイ川マーチ」＝映画全体を通じてあの口笛のメロディーしか思い浮かびません。ネットで検索しても「眠れぬ夜」にはヒットしませんでした。「ローマの休日」でヘップバーンがつけたカチューシャならわかるのですが……。「ロシアの休日」+「カチューシャ」については見つかりませんでした。
　嘘の書き込み（トランプ氏いわく「フェイク」）や間違った情報が多くあればそれを選んでしまうのではないですか。特にこのロシア民謡などは古い話題なのでそもそも書き込みなど少ないのでＡＩさんも回答作成には迷ったのかも知れませんが……。

チャットGPTは信頼しても良いのですか？

回答No.6

eroero4649 · ベストアンサー

いろいろ使っていますが、使い手の能力を反映するなと感じます。偏差値60の質問をしたら偏差値60の答えが返ってきて、偏差値40の質問をすると偏差値40の答えが返ってくる感じです。バカとハサミは使いようと答えた人がいますがまさにその通りで、ハサミを箸として使おうとした人がいて「これって箸に使えないじゃん」という人がいたら、ハサミを箸として使うやつがバカだということになりますよね。
得意な分野と不得意な分野があります。使ってみて実感するのは、マーケティングみたいなのは上手に使うとかなり使えるのではないだろうかと思います。「5時間でツアーを考えて」というのも上手な使い方のひとつだろうと思います。
一方で「この彼とは脈はあるでしょうか？」みたいな質問は不得意だと思います。

だから今、「プロンプトエンジニア」という職種が注目を集めています。「AIに上手な質問をする技術者」です。上手に質問するにはコツがありますからね。場合によってはコードをいじってどういう答えをするかの傾向をプログラムする場合もあります。
使いこなすには技術が求められます。でもそれは、どんな道具でもそうでしょう？

ChatGPTが「愚かな多数決」なら、Wikipediaもそうだと思います。Wikipediaも「大勢の人たちによって編集される」ものです。それこそ今のChatGPTに対する世間の反応は、Wikipediaが出てきたときの世間の反応と同じだなと思いますね。あの頃も、特に技術系の人たちから「Wikipediaは間違いばかりで信用できない」と声があがっていました。
質問者さんはWikipediaをどう思いますか。それよりも広辞苑を信用しますか？それはそれで間違いではないですが、広辞苑のどこを探しても「プロンプトエンジニアリング」って言葉は出てきません。だって今年くらいに生まれた言葉だから。Wikipediaには「プロンプトエンジニアリング」の項目があります。

ChatGPTの今のところの最大の欠点は「何を根拠にそのような回答をしたのかが分からない」ことにあります。間違った回答をしたならしたでなんでそうなったのかを知る方法がないのです。
しかしそれに対しては「Perplexity」というやつがありましてね。こっちは回答の参考資料が出てくるのです。ですので私は間違ってはいけない調べもの、主に仕事に関する調べものは「Perplexity」を使っています。

まあここは保守的な人が多いので、新しいものはとりあえず片っ端から否定する傾向はありますね。

補足

なるほど。なるほど。よくわかりました。ありがとうございました。

回答No.5

MT765

ChatGPTは「正解を出すためのAI」ではなく「自然な文章を生成するためのAI」です。

正解を求めるのは本来の使用用途から逸脱しています。

＞チャットGPTは信頼しても良いのですか？
調べものするには全く信頼できません。
自分の下書きを清書してもらう、などには有効です。

補足

なるほど。
ありがとうございました。

回答No.4

aokii

その通りだと思います。チャットGPTは「愚かな多数決」です。

補足

ですよね。ありがとうございました。

回答No.3

tetsumyi

専門家も言ってますが、
こんな物は信頼する物ではなく参考にするものです。
net上の情報を集めても現在常識となっていること、憶測、面白く仕立てられたものが多い訳で信用するのはアホか自分で考えない人でしょう。
今の常識の中には多くの間違いがあり、これを信用してると進歩はない。
日本の政治家はアホが多い様だ。

補足

御意！！　ありがとうございました。

回答No.2

sutorama

使い方ですよね

例として、イギリスやフランスの個人で旅行会社を経営している人たちが「○万円で５時間の歴史と食事のツアーを考えて」とチャットGPTに聞いて、そのままツアーとして運用し、成功しているそうです

つまりは、チャットGPTを「利用している」のであって、書かれているような歴史や概念や知識などの抽出には利用していないわけです

他にも、冷蔵庫にある食材をチャットGPTに入力し「美味しい料理を考えて」に対して出た回答料理を楽しんでいる主婦の人たちもいます

ので、しつこいようですがハサミとバカは使いようと同じで、使う側の力量で、どうにでも応用が効くために作成されたチャットGPTであるので、質問や悩みで利用できると思いこんでいる人たちなどは、取り残されていくと思います

お礼

なるほど。そうですよね。
ありがとうございました。

回答No.1

kamura01

＞チャットGPTは信頼しても良いのですか？
全然信頼できないジョークソフトの段階です。
AIと呼ぶには程遠いシステムなので間違った情報をチョイスして提示してくることはざら。
①数学の問題を答えさせると毎回違う答えになる。
②同じ質問を何回もすると毎回答えが違う。
2015年以降の情報を持ち合わせていない

結論「現状だと玩具」

お礼

やっぱりそ。うなのですね。ありがとうございました。