2世帯住宅同居の遺産分割について

残念ながら、遺言がない以上3分の1の相続分を別の比率にすることは出来ません。

路線価1億とのことで、どの程度の材料に出来るかは現時点では未知数ですが、「被相続人の療養看護その他の方法により被相続人の財産の維持又は増加について特別の寄与をした」とする寄与分（民法904条の2）の主張をしていくことは考えられます。
協議をしても寄与分の額が合意できないときは、家庭裁判所に寄与分の額を定めてもらうことになります。
代償金を求めている姉からすると、長男の寄与分を認めることは、自分の取り分が減るということなので、簡単には認めないことが予想されます。裁判所での関与で定めていくことになる可能性は高いと思います。

まずは出した費用、看護介護の状況など、資料を整えたうえで弁護士に相談することをお勧めいたします。

遺言書がない以上、他の相続人が同意しない限り基本的には法定相続分（相続人が子3人なので3分の1ずつ）を基準とせざるをえません。
相談者に寄与分（民法904条の2）がある、他の相続人に特別受益（同法903条）があるとなれば法定相続分をベースにしつつ、適宜具体的な相続分について修正できる場合はあります。

寄与分について。
相談者が被相続人（母）の介護行っていたり、被相続人のための費用を負担していたといった場合に寄与分が認められる可能性があります。介護したから、お金をだしたから、で認められるわけではなく、通常親子間で期待されるような扶養の範囲を超えることが求められます。寄与分が認められる場合、下記の計算により具体的な相続分を決めます。
寄与分がある相続人の相続分＝（遺産の総額－寄与分）×法定相続分+寄与分
特別受益について。
他の相続人が被相続人から生前贈与を受けていた場合等、遺産分割の場面で考慮しないと不公平になるので下記の計算で考慮をします。
特別受益のある相続人の相続分＝（遺産総額+特別受益額）×相続分－特別受益額

単純化していうと、相談者に寄与分があれば遺産を多く取得できる（反面他の相続人の相続分は減る）、他の相続人に特別受益があれば他の相続人の相続分が減る反面、相談者の相続分が増える、ということになります。
寄与分が認められそうか、認められるとして寄与分の金額をどう求めるのかなど、さらに検討すべきことはありますが、大雑把には以上のように考えます。

具体的に寄与分が認められそうなのか等はネットでの相談では回答に限界がありますので、一度法律相談会やお近くの弁護士にアポを取る等して直接弁護士に相談されることを強くおすすめします。