矩阵方程

对于Ax=b方程组
你先看一下你的矩阵A,它对应的行列式是否等于0,
Matlab下,就是det(A),如果等于0,那么它有非零解.
如果不等于0,它只有一个零解.

=======================
对于这种问题一般方法是不好解出来,不过可以用迭代法(我也是刚才从网上看的)

对于你这个比较简单的,可以通过初等行变换得到.
x β 0
β x β
0 β x
你也指出了只有 x=0,x=-(√2)β,x=(√2)β,才有非零解
(1)x=0,
A=[0,1,0;1,0,1;0,1,0];
x=null(A,'r')
得到
x =
-1
0
1
也就是说
x=
[-1,
0,
1]*c3

(2)x=sqrt(2)*beta
A=[sqrt(2),1,0;1,sqrt(2),1;0,1,sqrt(2)];
x=null(A,'r')
得到
x =
1.0000
-1.4142
1.0000
即c1=c3,c2=-1.414*c3

(3)同样地:
>> A=[-sqrt(2),1,0;1,-sqrt(2),1;0,1,-sqrt(2)];
x=null(A,'r')
得
x =

1.0000
1.4142
1.0000

哪有C1,C2,C3啊，
是解线性方程组吗？