윈도우 11 프린터 공유 설정: ‘0x0000011b’ 오류 완벽 해결 가이드

윈도우 11 프린터 공유 ‘0x0000011b’ 오류, 왜 발생할까요?

윈도우 11 환경에서 프린터를 네트워크로 공유하려 할 때, 많은 사용자들이 ‘0x0000011b’라는 오류 코드와 마주하게 됩니다. 이 오류는 특정 프린터 또는 공유 설정 시 발생하는 네트워크 통신 문제로, 특히 윈도우 11로 업데이트한 이후 빈번하게 보고되고 있습니다. 전문가 수준의 문제 해결을 위해서는 오류의 근본 원인을 정확히 파악하는 것이 중요합니다.

오류 발생의 주요 원인 분석

‘0x0000011b’ 오류는 주로 윈도우 11의 SMB(Server Message Block) 프로토콜 버전 관련 설정 문제에서 기인합니다. 과거 버전의 윈도우나 프린터 드라이버가 최신 SMBv2/v3 프로토콜과 완벽하게 호환되지 않거나, 보안 설정 강화로 인해 이전 버전 프로토콜(SMBv1) 사용이 제한되면서 발생하는 경우가 많습니다.

1. SMBv1 프로토콜 비활성화: 윈도우 11은 보안 강화를 위해 기본적으로 SMBv1 프로토콜을 사용하지 않도록 설정되어 있습니다. 하지만 일부 구형 프린터나 네트워크 장비는 여전히 SMBv1에 의존하여 통신합니다. 이 경우, 공유 설정 시 통신 오류가 발생하게 됩니다.
2. SMB 서명(Signing) 요구 사항: SMB 통신 시 보안 강화를 위해 ‘서명’을 요구하는 설정이 활성화되어 있을 수 있습니다. 만약 공유하는 프린터 또는 클라이언트 PC에서 SMB 서명을 지원하지 않거나 설정이 올바르지 않으면 연결이 거부될 수 있습니다.
3. 방화벽 및 네트워크 설정: 윈도우 방화벽이나 타사 보안 프로그램이 프린터 공유에 필요한 포트(TCP 139, 445 등)를 차단하는 경우에도 이 오류가 발생할 수 있습니다. 또한, 네트워크 검색 기능이 비활성화되어 있거나 Workgroup 설정이 올바르지 않은 경우에도 문제가 발생합니다.
4. 프린터 드라이버 호환성: 최신 윈도우 11 환경에 맞지 않는 구형 프린터 드라이버를 사용하는 경우, 공유 설정 과정에서 예기치 않은 오류가 발생할 수 있습니다.

전문가를 위한 심층 문제 해결 방안

단순히 오류 메시지만 보고 해결책을 찾기보다는, 각 원인별로 체계적인 접근이 필요합니다. 다음은 전문가 수준에서 ‘0x0000011b’ 오류를 해결하기 위한 상세한 단계별 가이드입니다.

1단계: SMBv1 프로토콜 활성화 (신중한 접근 필요)

SMBv1은 보안 취약점이 존재하므로, 활성화는 최후의 수단으로 고려해야 합니다. 꼭 필요한 경우에만 임시로 활성화하고, 문제 해결 후에는 다시 비활성화하는 것이 권장됩니다.

1-1. ‘Windows 기능 켜기/끄기’를 통한 SMBv1 활성화

1. 검색창에 ‘Windows 기능 켜기/끄기’ 입력 후 실행합니다.
2. 목록에서 ‘SMB 1.0/CIFS 파일 공유 지원’을 찾아 체크 표시합니다. (하위 항목 중 ‘SMB 1.0/CIFS 클라이언트’만 선택해도 되는 경우가 많습니다.)
3. ‘확인’을 클릭하여 변경 사항을 적용합니다.
4. PC를 다시 시작합니다.

1-2. PowerShell을 통한 SMBv1 활성화 (관리자 권한)

1. 시작 메뉴에서 ‘PowerShell’을 검색한 후, ‘관리자 권한으로 실행’을 선택합니다.
2. 다음 명령어를 입력하고 Enter 키를 누릅니다.

Enable-WindowsOptionalFeature -Online -FeatureName SMB1Protocol -All

1. 명령 실행 후 PC를 다시 시작합니다.

주의: SMBv1 활성화는 보안 위험을 증가시킬 수 있습니다. 꼭 필요한 상황이 아니라면 이 단계를 건너뛰거나, 문제 해결 후 즉시 비활성화하십시오.

2단계: SMB 서명 요구 사항 설정 변경

SMB 서명은 데이터 무결성과 인증을 강화하는 기능입니다. 공유하는 프린터가 SMB 서명을 지원하지 않는 경우, 이 설정을 조정해야 합니다.

2-1. 로컬 그룹 정책 편집기를 이용한 설정 (Pro/Enterprise 버전)

1. Windows 키 + R을 눌러 실행 창을 열고 gpedit.msc를 입력하여 로컬 그룹 정책 편집기를 실행합니다.
2. 컴퓨터 구성 > Windows 설정 > 보안 설정 > 로컬 정책 > 보안 옵션으로 이동합니다.
3. 오른쪽 목록에서 다음 정책들을 찾습니다.
4. 네트워크 보안: SMB 클라이언트에서 서명 사용 요구
5. 네트워크 보안: SMB 서버에서 서명 사용 요구
6. 각 정책을 더블 클릭하여 ‘사용 안 함’으로 변경합니다. (또는 ‘자동’으로 설정하여 시스템이 판단하도록 할 수 있습니다.)
7. ‘확인’을 클릭하고 PC를 다시 시작합니다.

2-2. 레지스트리 편집기를 이용한 설정 (Home 버전 포함)

1. Windows 키 + R을 눌러 실행 창을 열고 regedit를 입력하여 레지스트리 편집기를 실행합니다.
2. 다음 경로로 이동합니다.

HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\LanmanWorkstation\Parameters

1. 오른쪽 창에서 RequireSecuritySignature라는 DWORD 값을 찾습니다. (없으면 마우스 오른쪽 버튼 클릭 > 새로 만들기 > DWORD (32비트) 값으로 생성합니다.)
2. RequireSecuritySignature 값을 더블 클릭하고 값 데이터를 0으로 변경합니다. (기본값은 1이며, 이는 서명 사용을 의미합니다.)
3. 동일한 경로에서 HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\LanmanServer\Parameters로 이동합니다.
4. RequireSecuritySignature DWORD 값을 찾아 값 데이터를 0으로 변경합니다.
5. PC를 다시 시작합니다.

참고: RequireSecuritySignature 설정은 클라이언트(프린터를 연결하려는 PC) 측에 적용됩니다. 서버(프린터가 공유된 PC) 측에서도 유사한 설정이 있을 수 있으나, 일반적으로 이 설정으로 해결되는 경우가 많습니다.

3단계: 프린터 드라이버 업데이트 및 재설치

구형 드라이버는 윈도우 11과의 호환성 문제를 야기할 수 있습니다. 최신 드라이버로 업데이트하거나, 문제가 지속될 경우 드라이버를 완전히 제거한 후 재설치하는 것이 효과적입니다.

1. 프린터 제조사 웹사이트 방문: 사용 중인 프린터 모델의 최신 윈도우 11용 드라이버를 다운로드합니다.
2. 기존 드라이버 제거: ‘설정’ > ‘Bluetooth 및 장치’ > ‘프린터 및 스캐너’에서 해당 프린터를 선택하고 ‘장치 제거’를 클릭합니다. 또한, ‘제어판’ > ‘프로그램 및 기능’에서 프린터 관련 소프트웨어도 제거합니다.
3. 다운로드한 최신 드라이버 설치: 관리자 권한으로 설치를 진행합니다.
4. 프린터 공유 설정 재시도: 드라이버 설치 후 프린터 공유 설정을 다시 진행합니다.

4단계: 방화벽 및 네트워크 설정 점검

프린터 공유에 필요한 포트가 방화벽에 의해 차단되지 않았는지 확인해야 합니다.

4-1. 윈도우 방화벽에서 프린터 관련 규칙 허용

1. 검색창에 ‘Windows Defender 방화벽’ 입력 후 실행합니다.
2. 왼쪽 메뉴에서 ‘방화벽 및 네트워크 보호’를 선택합니다.
3. ‘방화벽을 통해 앱 또는 기능 허용’을 클릭합니다.
4. 목록에서 ‘파일 및 프린터 공유’를 찾아 ‘개인’ 및 ‘공용’ 네트워크 모두에 체크 표시합니다. (만약 목록에 없다면 ‘다른 앱 허용’을 통해 추가할 수 있습니다.)
5. ‘확인’을 클릭합니다.

4-2. 네트워크 검색 및 파일 공유 설정 확인

1. ‘네트워크 및 인터넷 설정’으로 이동합니다.
2. ‘고급 네트워크 설정’ > ‘고급 공유 설정’을 선택합니다.
3. 사용 중인 네트워크 프로필(개인 또는 공용) 아래에서 다음 설정을 확인합니다.
4. ‘네트워크 검색 켜기’: 체크합니다.
5. ‘파일 및 프린터 공유 켜기’: 체크합니다.
6. ‘변경 내용 저장’을 클릭합니다.

5단계: 레지스트리를 통한 RPC 연결 설정 수정 (고급 사용자용)

때로는 RPC(Remote Procedure Call) 관련 레지스트리 설정이 문제를 일으킬 수 있습니다. 이 방법은 신중하게 접근해야 하며, 잘못 수정 시 시스템 불안정을 초래할 수 있습니다.

1. 레지스트리 편집기(regedit)를 관리자 권한으로 실행합니다.
2. 다음 경로로 이동합니다.

HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Policies\System\LocalAccountTokenFilterPolicy

1. LocalAccountTokenFilterPolicy라는 DWORD 값이 있는지 확인합니다. 없다면 새로 생성합니다.
2. 이 값을 더블 클릭하여 값 데이터를 1로 설정합니다.
3. PC를 다시 시작합니다.

주의: 이 설정은 로컬 계정의 관리자 권한을 원격으로 사용할 수 있게 하여 일부 보안 정책을 우회할 수 있습니다. 따라서 문제 해결 후에는 반드시 원래대로 되돌리는 것이 좋습니다.

6단계: 서비스 상태 확인

프린터 공유와 관련된 필수 서비스가 정상적으로 실행 중인지 확인합니다.

1. Windows 키 + R을 눌러 실행 창을 열고 services.msc를 입력하여 서비스 관리자를 실행합니다.
2. 다음 서비스들이 ‘실행 중’ 상태인지 확인하고, 시작 유형이 ‘자동’으로 설정되어 있는지 확인합니다.
3. Print Spooler (인쇄 스풀러)
4. Remote Procedure Call (RPC) (RPC)
5. DCOM Server Process Launcher (DCOM 서버 프로세스 시작 관리자)
6. RPC Endpoint Mapper (RPC 엔드포인트 매퍼)
7. Server (서버)
8. Workstation (워크스테이션)
9. 만약 실행 중이 아니거나 시작 유형이 다르다면, 해당 서비스를 더블 클릭하여 시작 유형을 ‘자동’으로 변경하고 ‘시작’ 버튼을 클릭합니다.
10. 변경 후 PC를 다시 시작합니다.

결론: ‘0x0000011b’ 오류, 체계적인 접근으로 해결

윈도우 11에서 ‘0x0000011b’ 오류는 단일 원인으로 발생하기보다는 여러 복합적인 요인이 작용한 결과일 가능성이 높습니다. SMB 프로토콜 버전, 보안 서명 요구 사항, 방화벽 설정, 드라이버 호환성 등 각 요소를 전문가적인 시각으로 분석하고, 단계별로 적용하는 것이 중요합니다.

핵심 요약 및 실행 액션:

1. SMBv1 활성화는 최후의 수단: 보안상 위험하므로, 다른 방법으로 해결되지 않을 때만 임시로 사용하고 즉시 비활성화합니다.
2. SMB 서명 설정 점검: 레지스트리 또는 그룹 정책 편집기를 통해 RequireSecuritySignature 설정을 확인하고 필요시 조정합니다.
3. 최신 드라이버 설치: 프린터 제조사 공식 웹사이트에서 윈도우 11용 최신 드라이버를 다운로드하여 설치합니다.
4. 방화벽 및 네트워크 설정 확인: ‘파일 및 프린터 공유’가 허용되었는지, 네트워크 검색이 켜져 있는지 확인합니다.

이 가이드라인을 통해 대부분의 ‘0x0000011b’ 오류를 성공적으로 해결하실 수 있을 것입니다. 만약 문제가 지속된다면, 네트워크 환경이나 특정 프린터 모델과의 특수한 충돌일 가능성이 있으므로 해당 환경에 대한 더 깊이 있는 진단이 필요할 수 있습니다.