Может, дело в том, что Вы элемент в одном документе создаете, а присоединить пытаетесь к другому?
А вообще у меня этот код [при замене createPopup() на open()] вполне нормально отработал.
А на кой Вам фрейм в попапе? Почему документ непосредственно в попап не загрузить?