La manera más fácil de ejecutar una aplicación Java (.jar) en vb en mi opinión es convertirla a .exe; hay otras maneras como usar .bat (aparece la fastidiosa pantalla de MS-DOS) aunque hay maneras de esconderla, usando un .vbs o llamarlo desde un shortcut de esta manera lo conviertes a .lnk.
Pero el tema aquí es convertir a .exe, no busques más y bajate el JSmooth.
Es fácil de usar y rápido
Después de instalar y abrir sigue los pasos:
En Skeleton vas a seleccionar el mensaje que aparecerá si la persona no cuenta con JAVA, la apropiada sería Windowed Wrapper

Executable Binary. Elijes el nombre de lo que va a ser tu ejecutable . Importante obviamente que lleve la extensión .exe
Executable Icon. Puedes agregar un ícono.
Current Directory. Para efectos prácticos seleccionar la carpeta jre.#.# (que debe estar en c:\ o Java o archivos de programa comúnmente .

Llegamos al punto determinante entre acertar o fallar.
Classpath. Es lo primero que debes modificar, recomiendo que antes de elegir un classpath hagas lo siguiente: Ir a la carpeta de jre.#.# y mover tu .jar principal (en caso de ocupar más librerias) con todos los archivos que use o haga referencia (imagenes, .txt, etc) y en la carpeta lib guardar los .jar que también ocupas. Haciendo lo anterior agregas primero:
1.- .jar principal
2- carpeta jre.#.#
3- todos los .jar en el orden que aparecen en el .MF de tu .jar principal ¿cómo lo abres? desempaquetas el .jar y abres en block de notas el .MF y checas en que orden aparecen las librerias.
Main class. Vas a seleccionar tu clase principal, ya sabes la del main, te debe aparecer Available classes y ahí buscas tu main.
Las demás opciones dejar vacias.

Por último vamos al menú y en project seleccionamos compile guardamos nuestro proyecto jsmooth en la misma carpeta del .exe (Recomendado)
Seleccionamos Run the exe y.................listo

Si requieres llamarlo desde vb.NET ejecuta con un botón (recomendable más que usar shell)
Dim myProcess As Process = Process.Start("dirección.exe")
Si requieres llamarlo desde vb 6 ejecuta con un botón
Shell ("dirección.exe")
Ojala te haya servido el "tutorial" y mas que nada te ahorre tiempo de búsqueda.