Чот всегда суетил со всякими сложными скриптами.
А проще всего наверное так:


$(document).mouseleave(function() {
$.fancybox("#feedback_form");
});