Программа использует большие массивы констант, как лучше их задать в коде, чтобы избежать перерасхода памяти?
Например в C++ можно было объявить статичный массив с одновременной инициализацией, после чего получать данные с помощью указателя. Т.е. отдельного объекта не создавалось.

Все зависит от специфики задачи.
Можно сохранить данные в бинарном файле а в памяти хранить только позиция для считывания из этого файла.
Использовали это у себя в проекте, на удивление получилось очень быстро.
Так же можно попробовать для хранения данных использовать структуры вместо классов они несколько экономичнее используют память.
Если значения в массивах очень часто повторяются можно попробовать объекты-значения.

В .NET все костатнты статичны.

Достучатся до константы как до static member: