Что называется хочу всё сразу.
Если по проще - то можно попробовать перехватывать WinAPI ф-ю BitBlt (или её клоны).
Но видео стараются ускорять и для этого вывод стараются делать ч/з оверлей, а обработку ч/з DirectX в таком случае возможно драйвер не нужен. Нужен будет фильтр, который нужно будет неким хитрым образом вклеить в вывод.
Если просто смотреть на интенсивность использования зкранного массива, то в зоне вывода занятой оверлейем это будет обычно 16,0,16 (RGB) а на эране - видео.
Как работает представляю, но ничего подобного никогда не делал.
Есть некое описание о том как работает Windows гафическая система в книге Программирование графики для Windows - Фень-Юань (автор) изд Питер
О том как делать перехват на уровне пользователя - в книге Рихтера.
Если напишешь ответ уведоми на
casandr-div@mail.ru (удали "-div").