Se supone que ese cable usa puertos serie virtuales ¿no?
¿está bien configurado? El VAG-COM te muestra el error de puerto incorrecto o que no es correcto el cable o problemas con línea K. Yo creo que deberías tener instalado una entrada en la rama de puertos serie que diga algo así como VIRTUAL SERIAL PORT
¿Tienes algún tipo de drivers? ¿el cable adquirido tiene instrucciones?