设向量a0,b0分别是向量a,b上的两个单位向量

a0*b0＝|a0|×|b0|×cos60°＝1/2
求向量与n的m的模：
|m|^2＝m*m＝(2a0-b0)*(2a0-b0)＝4|a0|^2＋|b0|^2－4(a0*b0)＝4＋1－4×1/2＝3，所以|m|＝√3

|n|^2＝n*n＝(-2a0+3b0)*(-2a0+3b0)＝4|a0|^2＋9|b0|^2－12(a0*b0)＝4＋9－12×1/2＝7，所以|m|＝√7

求m与n的乘积：m*n＝(2a0-b0)*(-2a0+3b0)＝－4|a0|^2－3|b0|^2＋8(a0*b0)＝－4－3＋8×1/2＝－3

m与n的夹角的余弦cosθ＝(m*n)/(|m|×|n|)＝－3/√(21)，所以θ＝π－arccos[3/√(21)]