遺産相続について、専門家のアドバイスが聞きたい。

まず、本件では、2つの相続があります。①お父様の相続　お母さま2分の1　お兄様4分の１　奥様4分の1
②お兄様の相続　遺産は、お兄様の資産・負債＋①の相続によるお父様の遺産の4分の１です。
お兄様は、配偶者・お子さんはいないという前提で考えます(妻や子がいる場合は、これ以下の結論が変わります)。
お父様・お兄様が遺言書を作成していこと、お父様の遺産分割について、協議書をまだ作成していなこと(家は奥様が取得することに決定している場合でも、それが書面化され、お母さま・お兄様・奥様の印鑑登録証明書がなければ、基本的には家の登記ができません)。

お兄様の相続人は、お母さまだけです。お母さまが相続放棄すると、相続人は、奥様だけになります。
奥様も相続放棄すると、相続人がいないことになります。
この場合は、家庭裁判所(お兄様の最後の住所地を管轄する家庭裁判所)に相続財産管理人の選任の申立てをして、選任してもらいます。
相続財産管理人が(お兄様に変わって)、お父様の遺産について、お母さま・奥様と遺産分割協議をします。なお、相続財産管理人の選任には、家庭裁判所に印紙代・切手代のほか予納金(事案によりますが、５０万円以上になると思います。)を納付します。相続財産管理人は、法定相続分とおりの分割を希望します(そうでなければ家庭裁判所の許可が得られません)ので、法定相続分４分の１に相当する額を相続財産管理人に支払わなければならなくなります。

お兄様の相続については、お母さまが相続する。お父様の相続について、お母さまと奥様が協議して、家は奥様名義にし、その他はお母さまが取得する。債務は、お母さま名義に返済する。仮に、多額の債務があった場合、お母さまについて、任意整理。個人再生・破産の手続きをとる。お兄様の債務については、CIC等の信用情報機関に問い合わせをして調査をする。
こうすれば、お兄様の債務が多額で、お母さまが破産をするという最悪の場合でも、家は奥様名義ですから、手放さなくても済みます。

お父様・お兄様の遺言書やお父様の遺産について遺産分割協議書と３名の印鑑登録証明書がある場合は、上記の道筋が変わります。
以上