なぜデータベースをオープンしないと表領域をオフラインにできないか？

システム表領域内のデータディクショナリを変更するから。たぶん。
要するに、nomount でできる変更は spfile を、mount でできる変更は制御ファイルを、open しないとできない変更はデータファイルを変更している。というシンプルな話か。