VSPE свой драйвер подставляет.
ну тогда видимо выбора нет, надо писать драйвер.... можно для очистки совести на API посмотреть - что там позволено... может быть можно поставить hook на функции обращения к порту и перехватывать
http://www.rsdn.ru/article/baseserv/IntercetionAPI.xmlи была еще какая то библиотека для перехвата ядра... но убей бог пока не вспомню названия...
... вспомнил! Detours.
http://research.microsoft.com/en-us/projects/detours/если драйвер... то, ща поищу с чего начать.
Добавлено через 1 час, 53 минуты и 51 секунду:раздел msdn архитектуры последовательных COM портов для драйвера, вам потребуется DDK. наверное лучше сразу новый с майкрософта, но подойдет и старый с сайта.
из литературы - Вальтер Они, Руссинович и msdn - ваши друзья)
компиляция драйвера - утилитой build.exe, либо настройками VS (темы были на форуме)
там есть примеры драйвера COM порта, но он вам не факт что подойдет, потому как использует железо. хотя теоретически его тоже можно обрезать до виртуального устройства.
обязательно стоит посмотреть исходники com0com. это почти ваш случай, хотя тоже много избыточный вариант.
файлы операций чтения/записи там выделены, можно попробовать внедрить туда свой API, если его там еще нет)
еще есть пример в DDK/WDF DDK\6001.18001\src\input\vserial\
это какой то простенький виртуальный порт, для эмуляции планшетов... не знаю насколько он подойдет. но имеет смысл обязательно глянуть! особенно после того как напугает объем кода предыдущих источников)
да. сразу - в винде существует два подхода написания драйвера. при помощи "чистого" DDK (начиная с win98) и с использованием WDF (начиная с XP+SP, книга Пенни Орвик).
последнее более новое, и быть может незначительно проще, но скорее всего в интернете инфа об этом пока менее распространена.