Особисто я використовую netams.
Він, правда, нетривіальний у налаштуваннях, але все ж достатньо потужний по можливостях.
Щодо розігнаного процесора - наполегливо рекомендую "зігнати" назад. Лінуксу/БСД вистачить і 400-го (звісно що залежить від задачі - я передбачаю функції маршрутизатор+проксі+файрвол+пошта+антивірус для локальної мережі з трафіком до 1 ГБ/добу). Якщо є можливість - додайте ще одну планку памяті: на сервері її ніколи не буде забагато.
Поради щодо ОС... Жарт оцінив ;о))
Якщо серйозно - будь-що з юніксів, що зможете підняти: FedoraCore/Debian/Free-Open-Net-BSD etc...
Проксі - squid.
Файрвол - штатний відповідної ОС.
Пошта - postfix/sendmail - що зможете підняти.
Про решту - запитуйте.