Petroffs
Извини, ты что ядерный реактором на Javascript\'е рулить будешь?
Опиши задачу тогда полностью, я на 95% уверен, что ее можно решить стандартными способами.
А вообще при событии onsubmit вызываешь функцию, которая проверяет
а. сколько чекбоксов нажато
б. какая кнопка нажата
в. если нажата та кнопка, при которой может быть только один нажатый чекбокс, функция выводит алерт, что должен быть нажат в данной опции только один чекбокс, очищает все чекбоксы, обнуляет хранилище, возвращает flase, чтобы не происходило сабмита.