XとYが独立に同じ一様分布から得られるなら、正方形の範囲でY＜Xとなるのは対角線の下側半分です。したがって確率は1/2です。
600回での期待回数は600×1/2＝300回です。これは平均的に見込む回数で、毎回の試行結果が必ず300回になる意味ではありません。