- ベストアンサー
相関係数と検量線の求め方と使い方
- 相関係数と検量線の求め方がわからなくて困っています。
- 過マンガン酸カリウム標準溶液を用いて吸光度を測定し、相関分析と回帰分析を行いたいと考えています。
- 未熟なため、相関係数と検量線の理解が不十分です。助けていただけると幸いです。
- みんなの回答 (3)
- 専門家の回答
質問者が選んだベストアンサー
検量線ためには、まず散布図を描きます。散布図の横軸は、標準液の濃度です。 200ppmのものから、0m採ったものの濃度は、0ppmです。4ml採ったときの濃度は、原文のままなら、7.69ppm。8mlの場合は、14.8ppmになります。そのときの吸光度が、0.009、0.335、0.674ですね。 エクセルのA列にX軸の数値になる濃度を、B列にその吸光度を入力します。すなわち、A1番地に0、A2に7.69、A3に14.8を入力します。B1に0.009、B2に0.335、B3に0.674を入力します。 あとは、グラフから散布図を選んで描いて下さい。散布図における回帰式が、検量線になります。 すなわち、グラフのウィンドをクリック>メニューバのグラフ>近似曲線の追加>種類(ここで、高次式を選ぶことも可能)、を確認後、オプションのタグ>グラフに数式を表示する、と、グラフにR-2乗値を表示する、のボックスにチェックをいれれば、グラフ上に回帰式と決定係数が表示されます。 このやり方だと、y=0.0449+0.0028 (r^2=0.9989)になりました。fox19jpさんとほぼ同じ値ですので。おそらく正しく計算なさっていると想います。 相関係数は、0.9989の平方根を計算すればOKです。 あとは、サンプルの吸光度が0.276ですから、y軸の0.276から右に直線を水平に引き、検量線の交点からは、垂直に線をおろして、x軸の交点を読めば、6ppmほどの値がよめます。 yに0.276を代入して、xを求めると、より正確ですが。 あとは、5gのサンプル中のマンガンイオンは、100mlの溶液に全て移り、その濃度は約6ppmなのですから、釈迦に説法でしょう。 厳密には、fox19jpさんの補足にある r=√Σ(Xi-Xの平均)^2 / Σ(Yi-Yの平均)^2 m=(ΣXi-Xの平均)y / Σ(Xi-Xの平均)^2 Yi-Yの平均=m(Xi-Xの平均) から計算した値と、エクセルの散布図の検量線として扱った回帰式とは、一致しません。 前者は、最小2乗法で計算し、エクセルのグラフは回帰だからです。 現実的には、その差は無視できるくらいなので、実用上は問題ありません。 文字で書くと、表現が貧弱で、分かって下さるかなと不安になり、イライラします。ご不明の点は、書き込んで下さい。
その他の回答 (2)
- kgu-2
- ベストアンサー率49% (787/1592)
>残念ながら、検量線を書いた事はありません。 お察しのとおり大学の課題なのですが、手書きで求めろという意味合いが強い 検量線が手書きなら、そのグラフを見て、正否を判断するので、相関係数を求める必要がありません。相関係数は、統計学的処理によって、検量線の適否の判断に使うからです。手書きの場合は、相関係数を計算するのは不可能です。 30年も昔に、10サンプルについて相関係数を場粗紺ではなく電卓で計算しました。キーを1000回くらい打つ必要があり、何度やっても一致しなかったので、諦めました。善意に開始訳すれば、標準液が2つなのは、その点の配慮なのかも。 回答の補足で >KMnO4の体積(cm^3) 0 2 4 6 8 の濃度(ppm) 0 4 8 12 16 の吸光度 0.009 0.175 0.334 0.522 0.674 となっています。が、この中で、2と6は、私の指摘で、fox19jpさんご自身で、その吸光度を測定されたものですね。 大学のレポートであっても、ここまでされていれば、解答に近いものを書き込んでも違反にならないと想いますので。 手では大変なので、エクセルを前提にして、長くなるので、次に書きます。
- kgu-2
- ベストアンサー率49% (787/1592)
失礼な問いですが、検量線を描いたことがおありですか。 そのご経験があるなら、あとは、検量線のための横軸の濃度を計算するだけなのですが。 200μg・cm^-3は、200μg/mlの方が分かりやすいですね。cm^3ではなく、mlが化学の世界では一般的です。 >相関係数と検量線の求め方がわからなくて困っています・・・。 検量線は、手書きではなく、エクセルで3年生の学生実習でやらせています。相関係数を求めるには、パソコンがないと無理で、それもエクセルを使えば簡単にできます。ただ、XとYを逆にして計算しないと、ワークシートを作るのが大変です。厳密にはだめですが、実用上は問題ありません。 大学の課題のような印象があるので、回答しにくいのですが、実際には、「試料中の濃度を求めよ」という文章が続くと思うので。そして、この問題は、分かっているようでスッキリしない、という経験があります。それでも4年生になって研究室で実験をやるようになれば、毎日でも行う操作です。 1) 検量線、相関係数の用語が分からないのか 2) 検量線を手書きでも図にかけないのか 3) エクセルでの計算ができないのか を書いてください。 ちなみに、この実験には、欠点があります。私なら「次の方法の欠点を述べよ」の問題にしますが。 第一に、0、4、8mlをとり、100mlの酸に溶かし、は、「100mlの酸で全量を100mlにする」というのが普通です。そのように書いていませんか。さもないと、面倒な計算がいり、そんな意地悪な問題はつくりません。 第二に、0、4、8mlではなく、0、2、4、6、8、10mlとり、それぞれ測定します。
補足
アドバイス、ありがとうございます。 残念ながら、検量線を書いた事はありません。 お察しのとおり大学の課題なのですが、手書きで求めろという意味合いが強いようです・・・。 式では r=√Σ(Xi-Xの平均)^2 / Σ(Yi-Yの平均)^2 m=(ΣXi-Xの平均)y / Σ(Xi-Xの平均)^2 Yi-Yの平均=m(Xi-Xの平均) という式を使って求めるそうです。 パソコンで相関係数を求めるやり方もあるそうですが、それが全く解りません・・・。 また、文章には試料中の濃度と含有量を求めよという文章が続きます。 自力で以下の用に求めてみたのですが、あっているか自信がありません・・・。 KMnO4の体積(cm^3) 0 2 4 6 8 の濃度(ppm) 0 4 8 12 16 の吸光度 0.009 0.175 0.334 0.522 0.674 より y=ax + 0.009 200µ cm^-3 =200ppm 2cm^3時:200ppm × 2cm^3 =400ppm・cm^3 ÷ 100cm^3 =4ppm 4cm^3時:200ppm × 4cm^3 =800ppm・cm^3 ÷ 100cm^3 =8ppm 6cm^3時:200ppm × 6cm^3 =1200ppm・cm^3 ÷ 100cm^3 =12ppm 8cm^3時:200ppm × 8cm^3 =1600ppm・cm^3 ÷ 100cm^3 =16ppm となり上記の濃度が出る・・・と思うのですが この値より y=0.0416X +0.009 となり、 釘0.25gを100cm^3に定容して、吸光度 0.276なので そのときは X= 6.2ppm(濃度) よって 6.2×100=620µg 620×10^-6 / 0.25 (g) ×100= 0.248 % となりました・・・。 色々、足りない文章でお手数をおかけ致します・・・。 また、吸光度の値を一部訂正しました。 また、「100mlの酸で全量を100mlにする」という指摘ですが、僕も思いましたが、そのまま100mlの酸にとかす。としか書いてありません。おそらく課題の方が間違えていると思います…。
お礼
的確で明瞭な回答ありがとうございました。 おかげで、エクセルで回帰直線と散布図 を書くことができました。kgu-2さんの計算 と同じで安心しました。どうもありがとう ございます。 こちらも質問等で、文字化けやら打ち間違え やらで、迷惑をかけてすいません。