被相続人が亡くなる前に、相続人が既に亡くなっていたり、相続人ではなくなっている場合は、その子供が相続人である親の代わりに相続することができます(代襲相続)。
代襲相続は、相続人の直系卑属(子・孫など自分より後の世代で、直通する系統の親族)がすることができます。
既に死亡した相続人が被相続人の子である場合は、子の次に孫、孫の次にひ孫と、永遠に再代襲相続します。既に死亡した相続人が被相続人の兄弟姉妹にあたる場合、代襲相続するのは甥、姪までで、甥、姪の子供には相続権はありません。
また、直系尊属(母・祖父母など自分より前の世代で、直通する系統の親族)には代襲相続は起こりません。
今回のケースでは、被相続人である父が亡くなる前に、子供である弟が亡くなっているので、弟の子供(被相続人から見れば孫)が代襲相続をすることになります。
しかし、弟の妻は代襲相続をすることはできません。
従って、被相続人に、質問者(兄)と、既に亡くなった弟しか相続人がいなかった場合は、質問者(兄)と弟の子供が、それぞれ2分の1ずつ相続することになります。