1. Първият въпрос нещо не го разбрах... Ако искаш като пуснеш на jar-a - той да ти отвори конзола в която да пуснеш jar-a... става малко омагьосан кръг...
2. За втория въпрос без код мога само да гадая. Предполагам си сетнал като close оперсация на frame-a EXIT_ON_CLOSE. Съответно когато цъкнеш на X това ти затваря цялото приложение. Промени го на DISPOSE_ON_CLOSE за frame-овете които отваряш в последствие.
setDefaultCloseOperation(javax.swing.WindowConstants.DISPOSE_ON_CLOSE);
3. За да стартираш програма от ОС трябва да прочетеш малко за ProcessBuilder и Process . Като най-елементарно примерче можеш да направиш следното
Runtime.getRuntime().exec("твоята команда");
Обаче имай пред вид, че там има разни врътки от сорта на това, че променливите на средата не са ти сетнати и т.н.
Надявам се да съм бил полезен