直角三角形ABC中,角ACB=90°,AC=5,BC=20／3,将三角形ABC绕着点C逆时针旋转α(0＜α＜180°),

直角三角形ABC中,角ACB=90°,AC=5,BC=20／3；
由勾股定理,可得：AB=25／3；
三角形AA'C的面积等于25√3／4,
由A'向AC做垂线A'D,交AC于D,则
S△AA'C=AC×A'D÷2 = 5A'D/2 =25√3／4
故：A'D=5√3／2
A'C=AC=5
在△A'CD中,
由勾股定理,可得：CD=5／2；
sinα=A'D/A'C=√3／2,
0＜α＜180°
故：α=60° 或 α=120°
α=120°时,A'B'与AB不相交,故不考虑.
（如果允许A'B'与AB各自做延长线相交,则α=120°也是要考虑的解.）
下面仅对α=60°
把△ABC放在笛卡尔坐标系中,使C点与原点O重合、AC与y轴重合、AB与x轴重合,
则A点坐标为(0,5),B点坐标为(20／3,0),
设P点坐标为(Px,Py),
P点旋转前的对应点为Q,则Q点也在AB上,且AQ=A'P、BQ=B'P、CP=CQ、∠PCQ=α=60°；
故△CPQ为正三角形.
AP／Px＝AB／BC,从而：AP=5Px／4
因此只要求出P点横坐标Px,就能求出AP了.
注意到P为直线CB'与直线AB的交点,
∠B'CB=∠PCQ=α=60°,故直线CB'的斜率为√3,则
CB'的方程为：y=√3x
AB的方程为：y=5-3x/4
联立两方程,解得：
x=20(4√3-3)／39
即：Px=20(4√3-3)／39
从而,AP＝5Px／4＝25(4√3-3)／39.