Aquí comentan varias cuestiones sobre el mismo problema que tienes:
http://stackoverflow.com/questions/779228/the-parameter-is-incorrect-error-using-netsh-http-add-sslc...
La verdad que yo siempre he ejecutado el netsh como 0.0.0.0:443 desde la propia máquina y con el cmd como admin, pero al parecer hay varias cosas que habría que revisar.
A mi lo que me ha pasado varias veces es lo que comentan en esta respuesta:
Another possible cause for this problem is hidden characters being copied from the Certificate Manager page. If you copy the thumbprint from the details window in Certificates, check for a hidden character at the start (use your arrow keys!). This was the cause for me of the "The Parameter is Incorrect" error message.
Que al copiar y pegar de la MMC me mete caracteres raros en la consola.
.png "Former Employee"){kind=icon}