SendMessage와 PostMessage: 교착 상태, 타임아웃, WM_COPYDATA
SendMessage가 멈추는 이유와 PostMessage와의 차이, SendMessageTimeout으로 멈춤 피하기, WM_COPYDATA로 프로세스 간 문자열 보내기, UIPI 차단까지 코드로 정리.
2026년 11월 보강: 2021년에 쓴 SendMessage 강좌를 다시 검증했습니다. 2021년 글은 "wParam, lParam의 기본값은 0"이라고 했지만, C의
SendMessage에는 기본 인수가 없습니다(기본값이 있는 것은 MFC의CWnd::SendMessage입니다). 교착 상태 설명도 원인이 뒤섞여 있어서 아래에서 다시 썼습니다. Visual Basic 6 프로그램과 콘솔 창 스크린숏은 지금 재현할 수 없는 환경이라 뺐습니다. 모든 C++ 코드는 MinGW-w64(GCC 16.2.0)로 Windows용 실행 파일을 컴파일했지만, 이 글을 쓴 Mac에서는 실행하지 않았습니다. C# 판도 .NET 10 SDK로 빌드만 했습니다. 실행 결과는 지어내지 않고, 동작은 Microsoft Learn의 문서를 근거로 설명합니다.
이 글은 다른 프로그램의 버튼을 눌러 주거나 문자열을 보내려고 SendMessage를 썼다가 "내 프로그램까지 멈춘다", "관리자 권한 프로그램에는 아무 반응이 없다", "PostMessage로 바꿨더니 데이터가 깨진다"는 문제를 만난 분을 위한 글입니다. 결론부터 말하면 다른 프로세스에는 SendMessage 대신 SendMessageTimeout, 결과가 필요 없는 알림은 PostMessage, 데이터는 WM_COPYDATA를 SendMessage 계열로, 그리고 상대가 관리자 권한이면 UIPI부터 의심하면 됩니다.
SendMessage의 원형과 2021년 설명 고치기
LRESULT SendMessageW(HWND hWnd, UINT Msg, WPARAM wParam, LPARAM lParam);
BOOL PostMessageW(HWND hWnd, UINT Msg, WPARAM wParam, LPARAM lParam);
hWnd는 받을 창, Msg는 메시지 번호, wParam과 lParam은 메시지마다 뜻이 다른 부가 정보입니다. 반환값의 뜻도 메시지마다 다릅니다. 여기까지는 2021년 글이 맞습니다.
고칠 점은 두 가지입니다. 첫째, wParam과 lParam에는 기본값이 없습니다. Win32의 SendMessage는 C 함수라서 네 인수를 모두 써야 합니다. 기본값 0이 있는 것은 MFC의 CWnd::SendMessage(UINT message, WPARAM wParam = 0, LPARAM lParam = 0)입니다. 원래 글의 태그에 MFC가 붙어 있던 것과 같은 혼동입니다.
둘째, 동작 방식입니다. Microsoft Learn의 SendMessage 문서는 이렇게 나눠 설명합니다.
- 받는 창을 호출한 스레드가 직접 만들었다면 윈도우 프로시저가 일반 함수처럼 즉시 호출됩니다. 큐를 거치지 않습니다.
- 다른 스레드(다른 프로세스 포함)의 창이라면 그 스레드가 다음에 메시지를 꺼낼 때(
GetMessage/PeekMessage등) 윈도우 프로시저가 실행되고, 보낸 스레드는 그동안 막혀서 기다립니다. 다만 기다리는 동안에도 다른 스레드가 자신에게 보낸 메시지(nonqueued message)는 처리합니다.
버튼 메시지 표는 winuser.h에서 값을 다시 확인했고 모두 맞았습니다. Windows Vista에서 BM_SETDONTCLICK(0x00F8)이 하나 더 생겼습니다.
| 메시지 | 값 | 뜻 |
|---|---|---|
BM_GETCHECK / BM_SETCHECK |
0x00F0 / 0x00F1 | 체크 상태 읽기/쓰기 |
BM_GETSTATE / BM_SETSTATE |
0x00F2 / 0x00F3 | 눌림·포커스 상태 읽기/강조 표시 설정 |
BM_SETSTYLE |
0x00F4 | 버튼 스타일 변경 |
BM_CLICK |
0x00F5 | 사용자가 클릭한 것처럼 동작 |
BM_GETIMAGE / BM_SETIMAGE |
0x00F6 / 0x00F7 | 비트맵·아이콘 핸들 |
BM_SETDONTCLICK |
0x00F8 | 라디오 버튼이 포커스를 받을 때 BN_CLICKED를 보낼지 설정 (Vista 이후) |
2021년 BM_CLICK 예제와 "멈춤"의 진짜 원인
2021년 예제는 "폼" 창 안의 "버튼 클릭" 버튼을 찾아 BM_CLICK을 보냈습니다. MinGW로 컴파일하면 경고 없이 통과하지만, 임포트를 보면 SendMessageA, FindWindowA, FindWindowExA가 불립니다. UNICODE가 없는 ANSI 빌드라 한글 제목이 UTF-8 바이트로 넘어가서 한국어 Windows에서는 창을 못 찾게 되는 문제입니다. 자세한 이유는 FindWindow 글에서 바이트 단위로 확인했습니다.
2021년 글의 관찰, 즉 "메시지 상자를 닫을 때까지 SendMessage가 돌아오지 않는다"는 문서상 맞는 동작입니다. BM_CLICK을 받은 버튼은 부모에게 WM_COMMAND(BN_CLICKED)를 보내고, 부모의 처리 코드가 MessageBox를 띄우면 그 처리 코드는 메시지 상자가 닫힐 때까지 반환하지 않습니다. 보낸 쪽은 그 반환을 기다립니다. 이것 자체는 교착 상태가 아니라 그냥 오래 기다리는 것입니다.
교착 상태는 서로를 기다릴 때 생깁니다. 대표적인 예가 작업 스레드가 UI 스레드의 창에 SendMessage를 보내는데, 같은 순간 UI 스레드는 그 작업 스레드가 끝나기를 WaitForSingleObject(C#이라면 Task.Wait()나 Thread.Join())로 기다리는 경우입니다. UI 스레드는 메시지를 꺼내지 않으니 SendMessage가 영원히 돌아오지 않고, 작업 스레드는 끝나지 않으니 UI 스레드도 영원히 깨어나지 않습니다. WinForms의 Control.Invoke도 UI 스레드가 처리할 때까지 기다린다는 점에서 같은 구조라 같은 방식으로 멈춥니다.
고친 예제는 W 함수를 쓰고, 기다리는 시간에 상한을 둡니다.
// click.cpp — 2021년 BM_CLICK 예제를 고친 판
#include <windows.h>
#include <cstdio>
int main()
{
HWND form = FindWindowW(nullptr, L"폼");
HWND button = form ? FindWindowExW(form, nullptr, nullptr, L"버튼 클릭") : nullptr;
if (!button) { std::printf("button not found\n"); return 1; }
// BM_CLICK은 상대의 클릭 처리 코드를 동기로 실행한다. 거기서 MessageBox를 띄우면
// 그냥 SendMessage는 누군가 그 창을 닫을 때까지 기다린다.
DWORD_PTR r = 0;
if (!SendMessageTimeoutW(button, BM_CLICK, 0, 0, SMTO_ABORTIFHUNG, 3000, &r))
std::printf("no reply within 3 s (error %lu)\n", GetLastError());
return 0;
}
-Wall -Wextra로 경고 0건, 임포트는 FindWindowW, FindWindowExW, SendMessageTimeoutW였습니다. 버튼은 클래스 이름이 아니라 캡션으로 찾았습니다. 2021년의 대상은 Visual Basic 6 프로그램이었고, VB6 버튼은 표준 Button 클래스가 아니기 때문입니다. 그리고 Microsoft Learn의 BM_CLICK 문서에는 "버튼이 대화 상자 안에 있고 그 대화 상자가 활성 상태가 아니면 BM_CLICK이 실패할 수 있다"는 주의가 있습니다.
SendMessageTimeout과 PostMessage를 쓰는 기준
SendMessageTimeout은 SendMessage에 두 가지를 더한 함수입니다. 제한 시간(밀리초)과 플래그입니다.
SMTO_ABORTIFHUNG: 상대가 응답 없음 상태로 보이면 제한 시간을 기다리지 않고 바로 돌아옵니다.SMTO_ERRORONEXIT: 기다리는 동안 상대 스레드가 종료되면 0을 돌려줍니다(Vista 이후).- 실패하거나 시간이 지나면 0을 돌려주고,
GetLastError가 1460(ERROR_TIMEOUT)이면 시간 초과입니다. - 처리 결과(
LRESULT)는 반환값이 아니라 마지막 인수(PDWORD_PTR lpdwResult)로 받습니다.
PostMessage는 메시지를 큐에 넣고 바로 TRUE를 돌려줍니다. 결과값을 받을 수 없고 상대가 언제 처리할지도 모릅니다. 그래서 포인터를 넘기는 메시지에는 쓰면 안 됩니다. 내 스택의 문자열 주소를 넘겨도 상대가 처리할 때쯤에는 사라졌을 수 있고, 다른 프로세스라면 애초에 그 주소가 의미가 없습니다. Microsoft Learn에 따르면 WM_USER보다 작은 시스템 메시지에 포인터가 들어가는 경우(WM_SETTEXT 등) PostMessage는 실패합니다.
| 상황 | 쓸 함수 |
|---|---|
| 같은 스레드의 내 창, 결과가 필요 | SendMessage |
| 다른 프로세스, 결과가 필요 | SendMessageTimeout + SMTO_ABORTIFHUNG |
| 알리기만 하면 됨 (닫아라, 다시 그려라) | PostMessage |
| 다른 프로세스로 문자열·바이트 전달 | WM_COPYDATA + SendMessageTimeout |
| 작업 스레드에서 UI 스레드로 진행률 알림 | PostMessage (UI 스레드를 기다리지 않음) |
WM_COPYDATA로 다른 프로세스에 문자열 보내기
프로세스마다 주소 공간이 다르므로 lParam에 포인터를 넣어 보내도 상대는 읽을 수 없습니다. WM_COPYDATA는 시스템이 데이터를 상대 프로세스로 복사해 주는 메시지입니다. 받는 쪽부터 봅니다.
// receiver.cpp — WM_COPYDATA를 받는 작은 최상위 창
#include <windows.h>
#include <cstdio>
constexpr ULONG_PTR kCmdText = 1; // WM_COPYDATA 안에서 쓰는 우리만의 명령 번호
static LRESULT CALLBACK WndProc(HWND hwnd, UINT msg, WPARAM wp, LPARAM lp)
{
switch (msg) {
case WM_COPYDATA: {
auto* cds = reinterpret_cast<const COPYDATASTRUCT*>(lp);
if (cds->dwData != kCmdText) return FALSE;
// 데이터는 이 호출 동안만 유효하다. 필요하면 반환 전에 복사할 것
wprintf(L"got %lu bytes: %.*ls\n", cds->cbData,
static_cast<int>(cds->cbData / sizeof(wchar_t)),
static_cast<const wchar_t*>(cds->lpData));
return TRUE; // 보낸 쪽이 받는 결과값
}
case WM_DESTROY:
PostQuitMessage(0);
return 0;
}
return DefWindowProcW(hwnd, msg, wp, lp);
}
int wmain()
{
WNDCLASSEXW wc{};
wc.cbSize = sizeof(wc);
wc.lpfnWndProc = WndProc;
wc.hInstance = GetModuleHandleW(nullptr);
wc.lpszClassName = L"TLabReceiver";
RegisterClassExW(&wc);
HWND hwnd = CreateWindowExW(0, wc.lpszClassName, L"Receiver", WS_OVERLAPPEDWINDOW,
CW_USEDEFAULT, CW_USEDEFAULT, 300, 200, nullptr, nullptr, wc.hInstance, nullptr);
// 이 프로세스가 관리자 권한이면 UIPI가 일반 프로세스의 WM_COPYDATA를 버린다.
// 이 창에 대해 이 메시지 하나만 허용한다.
ChangeWindowMessageFilterEx(hwnd, WM_COPYDATA, MSGFLT_ALLOW, nullptr);
ShowWindow(hwnd, SW_SHOWNORMAL);
MSG m;
while (GetMessageW(&m, nullptr, 0, 0) > 0) { TranslateMessage(&m); DispatchMessageW(&m); }
return 0;
}
보내는 쪽입니다.
// sender.cpp — SendMessageTimeoutW + WM_COPYDATA, 그다음 PostMessageW
#include <windows.h>
#include <cstdio>
#include <cwchar>
int wmain()
{
HWND target = FindWindowW(L"TLabReceiver", nullptr);
if (!target) { wprintf(L"receiver not running\n"); return 1; }
const wchar_t text[] = L"hello from sender";
COPYDATASTRUCT cds{};
cds.dwData = 1;
cds.cbData = static_cast<DWORD>(wcslen(text) * sizeof(wchar_t));
cds.lpData = const_cast<wchar_t*>(text);
DWORD_PTR result = 0;
LRESULT ok = SendMessageTimeoutW(target, WM_COPYDATA,
0 /* 보내는 창 핸들: 콘솔 앱에는 없음 */, reinterpret_cast<LPARAM>(&cds),
SMTO_ABORTIFHUNG | SMTO_ERRORONEXIT, 2000 /* ms */, &result);
if (!ok) {
DWORD e = GetLastError(); // 1460 = ERROR_TIMEOUT, 5 = UIPI 차단
wprintf(L"SendMessageTimeout failed, GetLastError=%lu\n", e);
return 1;
}
wprintf(L"receiver returned %llu\n", static_cast<unsigned long long>(result));
// PostMessage는 바로 돌아온다. lParam이 내 메모리를 가리키는 메시지(WM_COPYDATA,
// WM_SETTEXT 등)는 절대 Post하지 말 것: 처리될 때쯤 그 메모리는 없을 수 있다.
PostMessageW(target, WM_CLOSE, 0, 0);
return 0;
}
$ x86_64-w64-mingw32-g++ -std=c++17 -Wall -Wextra -O2 -municode receiver.cpp -o receiver.exe -luser32
$ x86_64-w64-mingw32-g++ -std=c++17 -Wall -Wextra -O2 -municode sender.cpp -o sender.exe -luser32
$ file receiver.exe sender.exe
receiver.exe: PE32+ executable (console) x86-64, for MS Windows
sender.exe: PE32+ executable (console) x86-64, for MS Windows
처음에는 WNDCLASSEXW wc{ sizeof(wc) };로 첫 멤버만 초기화했더니 -Wextra가 나머지 멤버마다 warning: missing initializer for member 'tagWNDCLASSEXW::style' [-Wmissing-field-initializers]를 11줄 냈습니다. 동작에는 문제가 없지만(나머지는 0으로 채워짐) wc{} 후 cbSize를 따로 대입하는 형태로 바꿔 경고를 없앴습니다.
WM_COPYDATA에서 지켜야 할 규칙은 Microsoft Learn에 정리되어 있습니다. 반드시 SendMessage 계열로 보낼 것(Post 불가), 받는 쪽은 데이터를 읽기 전용으로 다루고 처리 중에만 유효하다고 볼 것, 처리했으면 TRUE를 돌려줄 것. 실무에서 하나 더 하자면, 받는 쪽은 보낸 쪽을 믿지 말아야 합니다. 같은 데스크톱의 어떤 프로세스든 WM_COPYDATA를 보낼 수 있으므로 dwData와 cbData의 크기를 확인하고, 받은 문자열로 파일 경로나 명령을 실행하지 않는 것이 기본입니다.
UIPI: 관리자 권한 창에는 메시지가 버려진다
받는 프로그램을 "관리자 권한으로 실행"하면 무결성 수준이 높음이 되고, 일반(중간) 프로세스가 보낸 메시지는 대부분 UIPI에 의해 버려집니다. 이때 SendMessage는 0을 돌려주고 GetLastError는 5(ERROR_ACCESS_DENIED)입니다. 반대 방향, 즉 높은 쪽에서 낮은 쪽으로 보내는 메시지는 막히지 않습니다.
받는 쪽을 직접 만든다면 위 receiver처럼 ChangeWindowMessageFilterEx(hwnd, WM_COPYDATA, MSGFLT_ALLOW, nullptr)로 그 창에 대해 그 메시지만 허용할 수 있습니다(Windows 7 이후). 프로세스 전체에 적용되는 예전 ChangeWindowMessageFilter보다 범위가 좁아서 안전합니다. 다만 허용한 순간부터 권한이 낮은 프로세스가 관리자 프로세스에 데이터를 넣을 수 있게 되므로, 앞에서 말한 입력 검증이 더 중요해집니다. 남의 프로그램을 조작하는 경우라면 방법은 하나, 내 프로그램도 같은 권한으로 실행하는 것뿐입니다.
C#에서 LibraryImport로 WM_COPYDATA 보내기
.NET 10에서는 LibraryImport로 같은 송신 코드를 쓸 수 있습니다(net10.0-windows, AllowUnsafeBlocks 켬).
using System.Runtime.InteropServices;
const uint WM_COPYDATA = 0x004A, WM_CLOSE = 0x0010;
const uint SMTO_ABORTIFHUNG = 0x0002, SMTO_ERRORONEXIT = 0x0020;
nint target = Native.FindWindowW("TLabReceiver", null);
if (target == 0) { Console.WriteLine("receiver not running"); return 1; }
string text = "hello from C#";
unsafe
{
fixed (char* p = text)
{
var cds = new COPYDATASTRUCT
{
dwData = 1,
cbData = (uint)(text.Length * sizeof(char)),
lpData = (nint)p,
};
nint ok = Native.SendMessageTimeoutW(target, WM_COPYDATA, 0, (nint)(&cds),
SMTO_ABORTIFHUNG | SMTO_ERRORONEXIT, 2000, out nuint result);
if (ok == 0)
{
// 1460 = ERROR_TIMEOUT, 5 = ERROR_ACCESS_DENIED (UIPI)
Console.WriteLine($"failed, error {Marshal.GetLastPInvokeError()}");
return 1;
}
Console.WriteLine($"receiver returned {result}");
}
}
Native.PostMessageW(target, WM_CLOSE, 0, 0); // 바로 돌아온다
return 0;
[StructLayout(LayoutKind.Sequential)]
struct COPYDATASTRUCT
{
public nuint dwData; // ULONG_PTR
public uint cbData; // DWORD
public nint lpData; // PVOID
}
static partial class Native
{
[LibraryImport("user32.dll", StringMarshalling = StringMarshalling.Utf16)]
public static partial nint FindWindowW(string? lpClassName, string? lpWindowName);
[LibraryImport("user32.dll", SetLastError = true)]
public static partial nint SendMessageTimeoutW(nint hwnd, uint msg, nint wParam,
nint lParam, uint flags, uint timeoutMs, out nuint result);
[LibraryImport("user32.dll", SetLastError = true)]
[return: MarshalAs(UnmanagedType.Bool)]
public static partial bool PostMessageW(nint hwnd, uint msg, nint wParam, nint lParam);
}
dotnet build -c Release -r win-x64 -p:EnableWindowsTargeting=true로 경고 없이 빌드됐습니다(실행은 하지 않았습니다). 확인한 점은 다음과 같습니다.
PostMessageW의[return: MarshalAs(UnmanagedType.Bool)]을 빼면error SYSLIB1051: Marshalling bool without explicit marshalling information is not supported가 납니다. Win32BOOL은 4바이트 정수이고 C#의bool은 1바이트라 명시해야 합니다.SetLastError = true를 준 함수의 오류 코드는Marshal.GetLastPInvokeError()로 읽습니다. 생성된 코드가 호출 직후 값을 저장해 두므로, 중간에 다른 API가 덮어쓰지 않습니다.COPYDATASTRUCT의dwData는ULONG_PTR이라 64비트에서 8바이트입니다.uint로 선언하면 뒤 필드의 위치가 밀려 상대가 엉뚱한 크기와 주소를 읽게 되므로nuint로 맞췄습니다.- 문자열은
fixed로 고정한 동안만 주소가 유효합니다.SendMessageTimeoutW는 동기 호출이라fixed블록 안에서 끝나므로 안전하고, 같은 이유로PostMessage에는 쓸 수 없습니다.
WinForms나 WPF 앱이라면 받는 쪽은 WndProc를 재정의(WinForms)하거나 HwndSource.AddHook(WPF)으로 WM_COPYDATA를 받으면 됩니다. 창 만들기의 기본 구조는 CreateWindow·ShowWindow, 핸들 찾기는 FindWindow에 있습니다.
검증 환경: macOS(Apple Silicon)에서 MinGW-w64 x86_64-w64-mingw32-g++ (GCC) 16.2.0, .NET SDK 10.0.403(EnableWindowsTargeting=true). Windows용으로 컴파일만 했고 실행하지 않았습니다.
자주 묻는 질문
SendMessage와 PostMessage는 무엇이 다른가요?
SendMessage는 받는 창의 윈도우 프로시저가 메시지를 처리하고 돌아올 때까지 기다리며 그 결과값(LRESULT)을 돌려줍니다. PostMessage는 메시지를 받는 스레드의 큐에 넣기만 하고 바로 돌아옵니다. 결과가 필요하거나 포인터를 넘겨야 하면 SendMessage(가능하면 SendMessageTimeout), 알리기만 하면 되면 PostMessage가 맞습니다.
다른 프로그램에 SendMessage를 보냈더니 내 프로그램까지 멈춥니다.
SendMessage는 상대가 처리할 때까지 기다리므로, 상대가 응답 없음 상태이거나 메시지 상자를 띄운 채 있으면 내 스레드도 같이 멈춥니다. 다른 프로세스에는 SendMessageTimeout에 SMTO_ABORTIFHUNG과 제한 시간을 주어 보내세요. 시간이 지나면 0을 돌려주고 GetLastError는 1460(ERROR_TIMEOUT)입니다.
SendMessage가 0을 돌려주고 GetLastError가 5입니다.
UIPI(사용자 인터페이스 권한 격리)에 막힌 것입니다. 관리자 권한으로 실행된(높은 무결성) 창에 일반 프로세스가 보낸 메시지는 대부분 버려집니다. 내 프로그램도 같은 권한으로 실행하거나, 받는 쪽을 직접 만들었다면 ChangeWindowMessageFilterEx로 필요한 메시지만 허용합니다.