右図のように、一辺の長さが６ｃｍの正三角形ＡＢＣがあります。 ＡＰ＝ＢＱ＝ＣＲになるように、３点Ｐ，Ｑ，Ｒをとった。 線分ＡＱ，ＢＲ，ＣＰを結んだところ、中に出来る三角形の面積が、正三角形ＡＢＣの面積の１／７になった。 さて、ＡＰの長さは何ｃｍにしたのでしょうか。

赤い三角形の頂点をＡ，Ｂ，Ｃに近い順にＤ，Ｅ，Ｆとします。
中にできる三角形を図のように△DEFとする。
△ABQ≡△BCR≡△CAPであるから、
△AQC≡△BRA≡△CPB、△ABE≡△BCF≡△CAD，
△APD≡△BQE≡△CRF、△AER≡△BFP≡△CDQ，
△DEFは正三角形であることが言える。
△DEF＝Sとおくと、
題意より△ABC＝7Sだから、
△ABE＝△BCF＝△CAD＝（△ABC−△DEF）×1/3＝（7S-S）×1/3＝2S・・・�@
ここで、AD：DE：EQ＝BE：EF：FR＝CF：FD：DP＝a：1：ｂとおく。
△AER：△DEF＝EA×ER：ED×EFより、
△AER：S＝（a+1）（b+1）：1×1
△AER＝（a+1）（b+1）S・・・�A
△ABE：△AER＝BE：ERより
△ABE：（a+１）（b+1）S＝a：（b+1）
△ABE＝a（a+1）S・・・�B
�@、�Bより
a（a+1）S＝2S
Sは0ではないから、
a（a+1）＝2
a^2+a-2=0
(a+2)(a-1)=0
a>0だから、a＝1・・・�C
そうすると、�@、�Cより、
△APC：△CAD＝PC：DCより、
△APC：2S＝（b+a+1）：（a+1）＝（b+2）：2
△APC＝（b+2）S・・・�D
また、�@、�A、�Cより、
△PBC＝△PBF+△BCF＝△AER+△BCF＝（a+1）（b+1）S+2S＝2（b+1）S+2S＝2（b+2）S・・・�E
したがって、�D、�Eより
AP：PB＝△APC：△PBC＝（b+2）S：2（b+2）S＝1：2
AB＝6ｃｍだから
AP＝6×1/3＝2ｃｍ・・・答

BP=aとすると、
A(３ルート３、０）, B(-3,0),C(3,0)
P(-3+a/2,ルート3*a/2)
R(a/2,ルート3*(3-a))
PC,BRの交点をZとすると、Zのｙ座標は、
3ルート3*（a**2-6*a+36)/a/(6-a)
△ZBCは、△ABC*2/7なので、
1/2*6*3ルート3*（a**2-6*a+36)/a/(6-a)＝2/7*９ルート3
上式は、aに関する２次方程式
a**2-6*a+8=0
に還元されるから、a=2, 4

AQとCPの交点:K
AQとBRの交点:L
BRとCPの交点:M
とする。
△ABQ,△BCR,△CAPは2辺とその間の角がそれぞれ等しいことより合同である。(1)
△AKP,△BLQ,△CMRは1辺とその両端の角がそれぞれ等しいことより合同である。(2)
△ABL,△BCM,△CAKは1辺とその両端の角がそれぞれ等しいことより合同である。(3)
また△ABQ,△AKPは2角がそれぞれ等しいことより相似である。(4)
△KLMは正三角形である。(5)

AP=x,KP=y,AK=zとおく。
△ABQ,△AKPについて、2つの三角形が相似であることより、
AB/AK=BQ/KP=AQ/AP

AQ=AK+KL+LQ
(5)と△ABCと△KLMの面積比が7:1であることより
KL=6/7^(1/2)
(1)よりBQ=AP=x
(2)よりLQ=KP=y
したがって
6/z=x/y={y+z+6/7^(1/2)}/x (6)
(6)より
y+z+6/7^(1/2)=6x/z (7)
x^2=y{y+z+6/7^(1/2)} (8)
また△ABQを考える。
△ABQ=△ABL+△BLQ
=(1/2)*6*x*(3^(1/2)/2)
=3*3^(1/2)x/2 (9)

△ABL=△ABC-△KLM
=(2/7)△ABC
=18*3^(1/2)/7 (10)
△BLQ=△ABL*(LQ/AL)
=18*3^(1/2)*[y/{z+6/7^(1/2)}]/7 (11)
よって (9),(10),(11)より
3*3^(1/2)x/2=18*3^(1/2)*[1+y/{z+6/7^(1/2)}]/7
=18*3^(1/2)*{y+z+6/7^(1/2)}/{z+6/7^(1/2)}/7
=18*3^(1/2)*(6x/z)/{z+6/7^(1/2)}/7 ((7)を用いる)
これを整理すると
7*7^(1/2)z^2+42z-72*7^(1/2)=0
z>0より
z=6/7^(1/2) (13)
(6),(13)より
y=6x/z
=x/7^(1/2) (14)
(8)に(14)を代入して
x^2=x/7^(1/2)*{x/7^(1/2)+12/7^(1/2)}
x^2=x^2/7+12x/7
したがってx>0よりx=2
APは2cmである

AQとCPの交点:K
AQとBRの交点:L
BRとCPの交点:Mとする。
△ABQ,△BCR,△CAPは2辺とその間の角がそれぞれ等しいことより合同である。(1)
△APK,△BQL,△CRMは1辺とその両端の角がそれぞれ等しいことより合同である。(2)
また△ABQ,△AKPは2角がそれぞれ等しいことより相似である。(3)
AP=x,AQ=yとする。

(3)より
AK/AB=AP/AQ=PK/BQ
すなわち
AK=6x/y,PK=x^2/y (4)

AQ=AK+KL+KQ
(2)よりKQ=PKだから
y=6x/y+x^2/y+KL (5)
また△KLMは△ABCの1/7であるからKL^2/AB~2=1/7
よってKL=6/7^(1/2) (6)

(5),(6)より
y^2=x^2+6x+(6/7^(1/2))y (7)

余弦定理を用いて
AQ^2=AB^2+BQ^2-2AQ・BQ・cos(π/3)
すなわち
y^2=x^2-6x+36 (8)

(7),(8)より
x^2-6x+36=x^2+6x+(6/7^(1/2))y
2(x-3)=-y/7^(1/2)
両辺を2乗して
4(x^2-6x+9)=y^2/7
=(x^2-6x+36)/7
これは
x^2-6x+8=0
と整理できる。
したがってx=2,4
APは2cm、または4cm

赤い三角形の頂点をＡ，Ｂ，Ｃに近い順にＳ，Ｔ，Ｕとします。
面積比　　７：１　　　より　　相似比　　√７：１
△ＡＢＴ＝２／７△ＡＢＣ　　より　　ＡＳ＝ＳＴ（三角比 s=1/2ab sinθ）
△ＡＢＱ∽△ＢＴＱ　　相似比　　√７：１　　　面積比　　７：１
従ってＡＱ：ＴＱ＝７：１
△ＡＢＱ＝（２／７）△ＡＢＣ＊（７／６）＝１／３△ＡＢＣ
ＡＰ＝６／３＝２
ＡＳ＝ＳＴを求める方法はもっと簡単に出せるのだと思いますが三角比を使ってしまいました。

三角形ＡＢＣから中の三角形（赤）の面積を引くと６／７になる。
６／７を３で割ると２／７となる。これは周りの図形を３つの三角形に分けたとき
の１つの三角形の面積。
重なった三角形とみると、重なった部分（３つ）の合計は１／７だから１つ分は１／２１
よって。２／７＋１／２１＝６／２１＋１／２１＝７／２１＝１／３
よって、ＡＰ＝ＢＱ＝ＣＲ＝２ｃｍ