WhiteRabbitNeo - 보안의 공격과 방어에 특화된 로컬 AI

 

 

AI 에이전트의 보안 활용

2023년 6월 WormGPT가 등장한 이후, AI 기반의 해킹 도구는 다크웹과 텔레그램을 비롯해 GitHub, Hugging Face 등으로 빠르게 확산되었다. 현재 관련 시장은 유료 구독형 SaaS 모델과 무료 오픈소스 배포가 공존하는 산업 구조로 진화했다.

 

이러한 도구들의 주요 기능은 피싱 자동화, 악성코드 개발, 타겟 정찰, 브루트포스, 취약점 익스플로잇, 소셜 엔지니어링 등 세분화된 영역으로 분화되었다. 그 결과 시장에는 WormGPT, FraudGPT, EvilGPT, KawaiiGPT, Xanthorox, HexStrike AI, BruteForce AI 등 수많은 공격용 도구가 활발하게 유통되었다.

 

이 같은 AI 도구의 등장으로 인해 사이버 공격의 진입장벽이 낮아진 것은 사실이다. 그러나 그 실질적인 영향력은 공격의 전 과정이 아닌 특정 단계에 제한되며, 핵심적인 공격 인프라를 구축하고 운영하는 데에는 여전히 고도의 기술적 전문성이 요구된다.

 

결국 우리가 직면한 AI 위협의 본질은 최신 모델 자체의 성능에 있는 것이 아니다. 강력한 AI 역량이 아무런 통제 장치 없이 걷잡을 수 없이 확산되는 구조적 한계에 근본적인 위험이 존재한다.

 

 

WhiteRabbitNeo는 무엇인가

기존 다크웹과 텔레그램에서 유통되던 AI 해킹 도구들은 기술적 한계와 치명적인 작전 보안(OpSec) 리스크를 안고 있었다.

 

시장에 난립한 다수의 도구는 독자적인 AI 모델을 개발한 것이 아니라, Mistral이나 Grok 같은 상용 AI API에 교묘한 탈옥(Jailbreak) 프롬프트를 씌운 단순 래퍼(Wrapper) 구조이거나 Hugging Face의 언센서드(안전장치가 제거된) 모델을 대충 엮어놓은 형태에 불과했다.

 

이러한 SaaS(서비스형 소프트웨어) 형태의 해킹 도구는 공격자의 활동 내역이 외부 서버에 남는다는 치명적인 약점을 지닌다. 실제로 범죄용 AI의 대명사였던 WormGPT는 사용자 DB가 유출되면서 1만 9천여 명의 이메일, 결제 정보, 구독 기록이 만천하에 공개되는 참사를 겪었다. 흔적을 남기지 않고 은밀하게 타겟을 타격해야 하는 레드팀과 공격자 입장에서는 절대 신뢰할 수 없는 인프라인 셈이다.

 

이러한 추적과 노출의 위험을 회피하기 위해, 공격 생태계는 오픈소스를 적극적으로 악용하는 방향으로 급선회했다. 일례로 무료로 공개된 AI 해킹 도구 KawaiiGPT는 다크웹이 아닌 GitHub를 통해 버젓이 배포되었으며, 안드로이드 터미널 환경인 Termux까지 지원했다. 이는 스마트폰 한 대만 있으면 언제 어디서든 해킹 스크립트를 생성할 수 있게 되었음을 의미한다.

 

하지만 진정한 위협의 정점은 기기에 직접 설치하여 구동하는 '로컬 언센서드(Uncensored) 모델'의 등장이다. 이 지점에서 WhiteRabbitNeo가 레드팀의 핵심 작전 무기로 부상한다.

 

https://huggingface.co/WhiteRabbitNeo/

WhiteRabbitNeo (WhiteRabbitNeo)

 

 

WhiteRabbitNeo를 비롯해 Llama 2 Uncensored, Dolphin 시리즈, Wizard-Vicuna Uncensored 같은 모델들은 윤리적 가드레일이 완전히 제거된 상태로 오프라인 로컬 환경에서 실행된다. 외부 API와 통신하지 않기 때문에 공격을 기획하는 프롬프트나 타겟의 취약점 데이터가 외부로 유출될 확률은 상당히 적다. 또한 횟수 제한이나 구독료 같은 비용 부담 없이 무제한으로 익스플로잇 코드를 생성하고 분석할 수 있다.

 

더욱 치명적인 사실은 Ollama와 같이 로컬에서 AI 모델을 손쉽게 실행해 주는 프레임워크가 대중화되었다는 점이다. 과거에는 로컬 AI를 구축하기 위해 복잡한 환경 설정이 필요했지만, 이제는 Ollama를 통해 명령어 몇 줄만으로 WhiteRabbitNeo 같은 해킹 특화 모델을 즉각적으로 구동할 수 있다. 기술적 진입 장벽마저 붕괴되면서, 레드팀은 완벽한 익명성과 보안이 보장된 강력한 해킹 AI 에이전트를 자신의 랩탑 안에 손쉽게 구축할 수 있게 되었다.

 

WhiteRabbitNeo가 다루는 주제:

- Open Ports: Identifying open ports is crucial as they can be entry points for attackers. Common ports to check include HTTP (80, 443), FTP (21), SSH (22), and SMB (445).
- Outdated Software or Services: Systems running outdated software or services are often vulnerable to exploits. This includes web servers, database servers, and any third-party software.
- Default Credentials: Many systems and services are installed with default usernames and passwords, which are well-known and can be easily exploited.
- Misconfigurations: Incorrectly configured services, permissions, and security settings can introduce vulnerabilities.
- Injection Flaws: SQL injection, command injection, and cross-site scripting (XSS) are common issues in web applications.
- Unencrypted Services: Services that do not use encryption (like HTTP instead of HTTPS) can expose sensitive data.
- Known Software Vulnerabilities: Checking for known vulnerabilities in software using databases like the National Vulnerability Database (NVD) or tools like Nessus or OpenVAS.
- Cross-Site Request Forgery (CSRF): This is where unauthorized commands are transmitted from a user that the web application trusts.
- Insecure Direct Object References: This occurs when an application provides direct access to objects based on user-supplied input.
- Security Misconfigurations in Web Servers/Applications: This includes issues like insecure HTTP headers or verbose error messages that reveal too much information.
- Broken Authentication and Session Management: This can allow attackers to compromise passwords, keys, or session tokens, or to exploit other implementation flaws to assume other users' identities.
- Sensitive Data Exposure: Includes vulnerabilities that expose sensitive data, such as credit card numbers, health records, or personal information.
- API Vulnerabilities: In modern web applications, APIs are often used and can have vulnerabilities like insecure endpoints or data leakage.
- Denial of Service (DoS) Vulnerabilities: Identifying services that are vulnerable to DoS attacks, which can make the resource unavailable to legitimate users.
- Buffer Overflows: Common in older software, these vulnerabilities can allow an attacker to crash the system or execute arbitrary code.
- More ..

 

WhiteRabbitNeo 사용 후기

현존하는 오픈소스 보안 특화 모델 중 가장 강력한 추론 능력을 가진 'Llama-3.1-WhiteRabbitNeo-2-70B'의 성능을 검증하기 위해 직접 구동 환경을 구축해 보았다.

 

사실 완벽한 운영 보안(OpSec)을 위해 Mac Studio Ultra나 멀티 GPU 워크스테이션을 이용해 외부와 차단된 '인터넷 에어갭(Air-gap) 로컬 환경'을 구축하는 것이 정석이다. 또한, 클라우드를 쓰더라도 영구 NVMe 스토리지를 지원하는 RunPod이나 Lambda Labs 같은 전용 GPU 인프라를 사용하는 것이 I/O 병목을 줄이는 길이다.

 

하지만 고가의 장비가 없는 개인 연구자나 비용 효율적인 PoC(개념 검증)를 원하는 환경에서는 하드웨어 장벽이 존재한다. 이에 필자는 Google Colab A100 환경을 활용하여 가성비와 접근성을 극대화한 우회적인 테스트 베드를 구축했다.

 

70B 모델은 양자화(4-bit 등)를 거치더라도 파일 크기가 수십 GB에 달한다. 코랩의 휘발성 세션 문제를 해결하기 위해 Google Drive를 마운트하여 모델 가중치(Weights) 파일을 영구 보관하는 방식을 취했다. 클라우드 스토리지 특성상 초기 모델 로딩 시 FUSE 파일 시스템의 I/O 병목으로 인해 구동까지 다소 시간이 소요되는 단점이 있지만, 별도의 장비 구매 비용 없이 고성능 A100 GPU의 연산력을 활용할 수 있다는 점에서 타협할 만한 선택지였다.

 

또한, 치명적 단점이라 한다면, Colab은 세션이 종료되면 데이터가 초기화되는 휘발성 환경이다. 매번 세션을 열 때마다 수십 기가바이트(GB)에 달하는 70B 모델의 가중치(Weights) 파일을 새로 다운로드하는 것은 극심한 시간 낭비이자 비효율이다. 

 

마지막으로, 사용자의 편의성과 작전 효율성을 극대화하기 위해 터미널 환경이 아닌 Open WebUI를 연동했다. 백엔드에서 Colab A100이 연산을 담당하고, 프론트엔드에서는 Open WebUI를 통해 사용자와 소통하는 구조다. Open WebUI는 일반적인 ChatGPT와 유사한 직관적인 채팅 인터페이스를 제공하므로, 방대한 Nmap 스캔 결과를 복사해 붙여넣거나 여러 줄의 익스플로잇 코드를 수정하고 검토하는 과정에서 뛰어난 작업 환경을 제공했다.

 

결론

대중은 대형 범용 AI 모델에 적용된 강력한 윤리적 검열과 안전장치를 환영하지만, 보안 실무자들의 입장은 이와 다르다. WhiteRabbitNeo의 주요 후원사이자 생성형 AI 오케스트레이션 전문 기업인 Kindo의 제품 부사장 앤디 마노스케(Andy Manoske)는 "이러한 검열은 방어자가 자사 인프라에 대해 심도 있는 보안 질문조차 할 수 없게 만든다는 것을 의미한다"고 지적했다. 현대의 거대 언어 모델(LLM)은 모의 침투(Pentesting)를 훌륭하게 지원할 능력을 갖추고 있지만, 주요 상용 모델들은 정책적으로 이를 철저히 차단하고 있기 때문이다.

 

마노스케의 설명에 따르면, WhiteRabbitNeo는 철저히 '공격적 보안(Offensive Security)'을 위해 탄생한 생성형 AI 모델이다. 이 모델의 진정한 목적은 보안 팀이 자사 인프라를 면밀히 점검하고, 실제 악용 가능한 취약점을 찾아내어(직접 익스플로잇을 개발해 봄으로써), 그에 대한 가장 확실한 해결책을 마련하도록 돕는 데 있다.

 

이번 기회에 WhiteRabbitNeo와 같은 모델을 직접 찾아보고 테스트 환경을 구축하게 된 결정적인 이유 역시, 보안을 깊이 있게 공부하는 입장에서 마주한 '검열의 한계' 때문이었다. 현재 몇몇 범용 AI 에이전트들이 교육 목적으로 기초적인 보안 지식을 제공하고 있기는 하다. 그러나 이들이 허용하는 답변은 철저히 방어(블루팀)의 관점과 이론적인 수준에 편중되어 있다.

 

진정한 사이버 보안 역량을 기르기 위해서는 블루팀뿐만 아니라, 실제 시스템을 타격하는 레드팀의 기법을 포함해 보안의 전 분야를 입체적으로 공부해야만 한다고 생각한다. 공격자가 어떤 원리로 취약점을 찌르고 시스템을 장악하는지 그 로우레벨(Low-level)의 흐름을 이해하지 못하면, 절대 견고한 방어 체계를 구축할 수 없기 때문이다.

 

결국 다가오는 사이버 보안의 미래는 막강한 AI 역량이 무분별하게 확산되는 구조적 한계를 안고 있다. 누구나 강력한 해킹 AI를 로컬에 구축할 수 있는 시대에, 방어자에게 남은 선택지는 단 하나다. 공격자들보다 한발 앞서 이 날카로운 양날의 검을 손에 쥐고, '방어자의 AI'로 '공격자의 AI'에 맞서는 냉혹한 무한 경쟁에 뛰어드는 것이다.