/3GB или 4GB Ram Tuning стоит использовать только тогда, когда это рекомендуют производители программного обеспечения. Например для SQL сервера это полезно, но вот для работы сервера как файлового хранилища это плохо. Почему так? Да потому, что указывая такую опцию ОС делит память не 50/50 между ядром и прикладными программами а 25/75 (т.е. максимум 1 ГБ на ядро и 3 ГБ на программы). Это здорово, если нужно много памяти программам и они могут ей воспользоваться, но с другой стороны у ядра ОС остаётся только 1 ГБ и соответственно уменьшается файловый кэш и это может привести к падению производительности

/PAE - Physical Address Extension - расширение адресуемого пространства за пределы ограничения 32 битной архитектуры (4 ГБ). Это происходит с помощью использования 36 бит для адресации и как следствие - позволяет использовать больше 4 ГБ памяти (максимум 64 ГБ). Самое интересное, что если использовать 3GB и PAE одновременно, то нельзя использовать больше 16 ГБ, не спрашивайте меня почему так, видимо слишком сложно это 

AWE - применяя /PAE, приложениям памяти больше не достаётся. Для того, чтобы сами приложения ощутили этот объем и нужна эта опция (Address Windows Extension).

Конечно же для того, чтобы приложениям ощутить пользу от 3GB или AWE, они должны быть собраны со специальным бубном и в процессе разработки программисты должны думать об этом.