我当月辞职，他们是不是要扣也只能扣当月的最高不超过30%的工资

给你指条解决的途径吧
首先跟单位协商，如果能协商好最好，不行的话向你们本地的劳动争议仲裁委员会申请劳动争议仲裁，这是法定必经程序，这以后如果仍不能得到满意的结果，你才可以向法院提起起诉。
我认为你是可以追回一部分工资的。

要知道几个问题，才能明白你想问的意思，不然太笼统了：
1、你入职时间多长了？
2、没有提前30天辞职，那你实际究竟是提前多少天？
3、你是属于员工级别还是管理级别？
4、他扣你5个月前的工资，你是否有证明？（比如离职证明、工资条等）