与えられた三角形を△ABCとして AB=4cm, BC=2√3cm, CA=2cm となるように頂点A,B,Cを付けます。
また内接している長方形を長方形DEFGとして、辺AB上の点Aに近い方の頂点を点Dとし、残りの頂点E,F,Gは反時計回りに振っていきます。
そして、頂点Cから辺ABに下ろした垂線の足を点Hとします。
△ABCは すでに回答者さんたちから解答されている通り、AB^2=BC^2+CA^2 の三平方の定理が成り立ちますので、∠C=90°とする直角三角形です。
従って、△ABCの面積は (1/2)×2√3×2=2√3 (cm^2) です。
DG:HC=x:1 (0<x<1)と置きます。
すると三角形の相似比から三角形の面積の比が求められます。
△ADG∽△AHC なので △ADG=x^2 △AHC です。 ・・・・(1)
△BEF∽△BHC なので △BEF=x^2 △BHC です。 ・・・・(2)
△GFC∽△ABC なので △GFC=(1-x)^2 △ABC です。 ・・・・(3)
ここで、△AHC+△BHC=△ABC なので (1)(2)から
△ADG+△BEF=x^2 △ABC
となりますので、
△ADG+△BHC+△GFC={x^2+(1-x)^2}△ABC=(2x^2-2x+1)△ABC
です。
このことから 長方形DEFGの面積は次のように求められます。
長方形DEFG=△ABC-(△ADG+△BHC+△GFC) =(2x-2x^2)△ABC ={-2(x-1/2)^2+1/2}△ABC
△ABCの面積は2√3(cm^2)でxにはよりませんので、長方形DEFGの面積は x=1/2 のとき最大となり その最大値は (1/2)×2√3=√3 (cm^2) となります。