When I came in ,I found _______.

这里用的是find的这个句型:

find sb/sth done发现某人或某物已经被干了。(过去分词做宾语补足语)。

found the glass broken发现玻璃杯已经被打破了。

因此选B。

A不对是因为break是瞬间动作动词，不可能一个玻璃杯正在被打破！玻璃杯一打就破，动作不能持续。进行时表示在持续。

C不对是因为某人打破玻璃杯在I(“我”)进来之前就早已经打破了，应该用过去完成时。

此处B选项的broken表状态修饰宾语glass，语义恰当，语法也合适。
A选项语法没有毛病，不过语义不合，杯子被打坏的状态不可能持续。
C选项语法有毛病。如果我发现的是杯子被打坏这个事实的话，应该在came之前，故为过去完成时： someone had broken the glass。

glass 与broken的关系，是表动作已经完成