Ну-ну... Насчет яндэкса это ты погорячился
Ну для начала тебе понадобится хороший хостинг(не меньше, чем выделенный сервер с громадным диском, а лучше co-location).
Настраиваешь его. Firewall, apache, bind... Ось желательно, чтобы заканчивалась на nix
Далее выбираешь почтовый сервер. Sendmail, qmail, exim... Тут, как говорится, на вкус и цвет...
Изучаешь его, ставишь, настраиваешь... Можно сразу прикрутить к нему drweb или еще чегонить.
Далее, прикручиваешь к нему веб-интерфэйс. Как вызывать системные команды, и запускать процессы, прочитай в документации к выбранному языку. В принципе ничего сложного тут нет.
Вот вроде бы и все. Одно но: если захочешь пускать людей за почтой по pop3(или imap) и пересылать по smtp, следует подумать о защите smtp (например smtp после авторизации pop3, или просто запаролить). Иначе можно стать "лакомым кусочком" для спамеров
ps: Можно все это повторить и в виндусе, но лучше не стоит.