已知圆O的半径为R,它的内接三角形ABC中,2R(sin^2·A-sin^2·C)=(根号2a-b)sinB成立

①
∵ 2R(sin²A-sin²C)=（√2a-b)sinB,
又∵a/sinA=2R,b/sinB=2R,c/sinC=2R,
∴原式变成 a×sinA-c×sinC=√2a×sinB-b×sinB
∴a×sinA-c×sinC+b×sinB=√2a×sinB
式子两边同乘以2R,则原式变为
a²+b²-c²=√2ab
∴c²=a²+b²-√2ab
又∵c²=a²+b²-2ab×cosC,
∴-√2ab=-2ab×cosC
∴-√2=-2×cosC
∴cosC=√2/2
∴C=45°
②
S△ABC=1/2ab×sinC
∴若求面积最大值,即为求ab最大值
在圆中最长径为直径2R,所以ab中必有一边为2R,
以圆的直径为一边的三角形是RT△,
总之,你可以解这个△了,很简单,不必在写,
最后求得面积为 R².