当x※y=xy-x-y+1时，试回答下列问题：

解题思路：（1）根据新定义得到a※a=ab-a-b+1，然后利用分组分解法因式分解；
（2）先根据新定义得到b※b=b²-b-b+1=b²-2b+1，再得到（b※b）※2=（b²-2b+1）※2=b²-2b，则b²-2b=0，然后利用因式分解法解方程．

（1）a※a=ab-a-b+1
=a（b-1）-（b-1）
=（b-1）（a-1）；
（2）∵b※b=b²-b-b+1=b²-2b+1，
∴（b※b）※2=（b²-2b+1）※2=2（b²-2b+1）-（b²-2b+1）-2+1=b²-2b，
∴b²-2b=0，
b（b-2）=0，
∴b₁=0，b₂=2．

点评：
本题考点： 解一元二次方程-因式分解法；因式分解-运用公式法．

考点点评： 本题考查了解一元二次方程-因式分解法：先把方程右边变形为0，然后把方程左边进行因式分解，这样把一元二次方程转化为两个一元一次方程，再解一次方程可得到一元二次方程的解．

<1>原试=a^2-2x+1=(a-1)^2
<2>原试=（b-1)^2※2=0, 2( b-1)-b+1-2+1=0
2b-2-b=0 b=2