Соблюдающие культуру правила сортировки и обсалки, используемые при сравнении строк, зависят от версии .NET Framework. В .NET Framework 4 информация о сортировке, обсадке, нормализации и Unicode синхронизируется с Windows 7 и соответствует стандарту Unicode 5.1.
Символ, который вы используете, является символом Unicode 5.2, поэтому он не может корректно вести себя в любой функции, отличной от тех, которые сравнивают символы только по числу.
Вы должны увидеть другое поведение (но я не могу проверить его прямо сейчас) в Windows 8 и .NET 4.5: согласно документации, в этом случае поддерживается Unicode 6.0. Levesque в комментариях, в отличие от документации, не был изменен в более поздних версиях.