Блюрей и DVD работают совершенно по-разному и собираются из абсолютно по-разному устроенных объектов. То, что программа авторинга создаёт из одних исходников одинаково работающие (в идеале) вещи - это заслуга программы. И в общем, пользователю без разницы, это работает байт код для DVD, или java-программа - главное что вот отсюда этот файл, вот так должен выглядеть, и вот так он работает (должен).
Если есть возможность взять чужой образ DVD (из сети, либо создать в другой программе авторинга), можно проверить работу Дюны с меню DVD.
Если нормально, то Дюна не виновата.
Тогда попробовать в pinnacle создать примитивное меню из других исходников, не связанных с текущим проектом, чтобы исключить проблемы, завязанные на эти же исходники.
Если нормально - то Pinnacle не совсем виноват, но надо будет проверить, что не так с исходниками.