已知单位向量OA与OB的夹角为α（0,180）向量OC与OA的夹角为β,且OC的模=m用OA,OB表示OC

我想你的这个问题是平面几何中的问题吧,如果是空间中,应该是个锥面,单用OA和OB无法描述,如果是在平面里,那么就是这个锥面与xy平面的两个相交的线段,计算如下：
（1）以OA为X轴正方向,沿OB方向建立Y轴,即,OB在X轴的正上方.设X轴方向单位向量为i,Y轴方向的单位向量为j
（2）如上所说,OC与xy平面有两个相交线段,
① 当向量OC在X轴上方时
OA=i;OB=i*(1+cosα)+j*sinα
OC=m*i*cosβ+m*j*sinβ
将OA和OB分别代入,消去i,j可得：
OC=（mcosβ-(1+cosα)/sinα）OA+m*sinβ*OB;
② 当向量OC在X轴下方时
OA=i;OB=i*(1+cosα)+j*sinα
OC=m*i*cosβ-m*j*sinβ
将OA和OB分别代入,消去i,j可得：
OC=（mcosβ+(1+cosα)/sinα）OA-m*sinβ*OB;