Обычно у всех оконных компонентов есть свойство Handle,
т.е в твоем случае должно быть что-то типа
hWnd = PaintBox1->Handle
Но если мне не изменяет память, у PaintBox такого нет, значит попробуй получить хэндл родителя.
Проверить не могу среды под рукой нет.
на самом деле фраза
Хочу перерисовать PaintBox через функцию InvalidateRect
несколько не понятна. С помощью InvalidateRect ничего не перерисуешь, максимум затрешь фоном. эта функция всего лишь оповещает систему о той области, которая стала по разумению программы не валидной, и чтобы в последующем система отослала окну сообщение WM_PAINT, в параметрах которого передала эту область. Непосредственно отрисовка идет в обработчике сообщения WM_PAINT.