생성형 AI 서비스가 빠르게 확산되면서 이를 악성코드 유포의 미끼로 삼는 공격도 늘고 있다. 공식 홈페이지를 그대로 옮겨 놓은 듯한 가짜 다운로드 사이트를 만들거나, 깃허브(GitHub)에 정상 프로젝트처럼 꾸민 저장소를 개설해 악성 파일을 내려받도록 유도하는 식이다. 또는 아예 검색 결과 상단에 가짜 사이트를 노출하거나 무료 데스크톱 앱으로 사용자를 유인하는 방법까지 등장했다. 생성형 AI의 인기에 편승한 사칭 공격이 사용자를 속이는 방식과 피해를 예방하기 위해 확인해야 할 것들을 짚어보자.

인기 AI 서비스가 악성코드의 새로운 미끼로
생성형 AI 서비스의 이름을 앞세운 악성코드 유포는 이제 특정 서비스에 국한된 사례가 아니다. 글로벌 보안업체 카스퍼스키(Kaspersky)에 따르면, 2026년 1월부터 5월 초까지 전 세계에서 인기 AI 서비스나 AI 에이전트로 위장한 악성코드 및 잠재적으로 원치 않는 애플리케이션(PUA) 관련 공격이 9만 2천 건 이상 탐지됐다. 이 가운데 챗GPT를 사칭한 공격이 49%로 가장 많았고 클로드와 제미나이(Gemini)가 각각 18%를 차지했다.

공격자 입장에서 AI 서비스는 사용자의 관심을 끌기 좋은 미끼다. 새로운 모델이나 기능, 데스크톱 앱과 개발 도구가 잇따라 등장하면서 사용자가 처음 접하는 프로그램을 직접 검색해 설치하는 경우도 많기 때문이다. 어떤 주소가 공식 사이트인지 익숙하지 않은 상태에서 ‘AI 서비스명 + download’, ‘desktop’, ‘app’ 같은 키워드로 검색하면 가짜 다운로드 사이트나 비공식 배포 페이지를 정상 서비스로 오인할 수 있다.

공격자는 바로 이 틈을 노린다. 실제 AI 서비스와 비슷한 로고와 화면을 사용하거나 다운로드 버튼을 배치해 정상 페이지처럼 꾸미고, 사용자가 원하는 프로그램을 제공하는 것처럼 속여 악성코드를 실행하도록 한다. 하나의 AI 서비스에 대한 관심이 줄어들더라도 미끼가 되는 브랜드만 다른 인기 서비스로 바꾸면 기존 유포 인프라를 다시 활용할 수도 있다.

검색 상단에 등장하는 가짜 AI 다운로드 사이트

AI 서비스 사칭 공격의 대표적인 유입 경로는 검색이다. 실제 서비스를 찾는 사용자가 검색 결과나 광고를 통해 가짜 페이지에 접속하도록 만드는 방식이다.

챗GPT(ChatGPT)를 사칭한 openew[.]app은 OpenAI의 실제 다운로드 페이지와 유사한 디자인과 브랜딩을 사용하고 윈도우와 맥OS용 다운로드 버튼까지 제공했다. 사용자가 운영체제에 맞는 버튼을 선택하면 정상 챗GPT 앱이 아니라 각각 다른 악성 파일이 다운로드됐다. 윈도우에서는 정보 탈취를 위한 악성코드 로더가, 맥OS에서는 정보 탈취형 악성코드 Odyssey Stealer가 전달됐다.

클로드(Claude)를 사칭한 공격에서는 검색 광고까지 이용됐다. ‘claude app’, ‘claude desktop’ 등의 키워드로 검색했을 때 피싱 사이트가 검색 결과 최상단에 노출됐고, 해당 페이지 역시 클로드 공식 홈페이지를 정교하게 모방했다.

앞서 챗GPT 사칭 사이트에서는 다운로드 버튼을 누르면 악성 파일이 직접 다운로드됐다. 반면 클로드 사칭 페이지는 사용자가 직접 악성 명령을 실행하도록 유도하는 방식을 사용했다. 다운로드 버튼을 누르면 설치 파일 대신 특정 명령어를 복사해 PC에서 실행하도록 안내하는 팝업이 나타났고, 사용자가 이를 그대로 실행하면 악성코드가 설치됐다. 이처럼 정상적인 설치나 문제 해결 절차처럼 꾸며 사용자가 직접 악성 명령을 실행하게 만드는 방식을 ‘클릭픽스(ClickFix)’라고 한다.

깃허브도 안전한 다운로드 경로는 아니다

공격은 가짜 홈페이지에만 머무르지 않는다. 개발자들이 소프트웨어와 개발 도구를 찾는 깃허브 역시 AI 서비스 사칭 악성코드의 유포 경로로 악용되고 있다.

지난 7월에는 제미나이, 클로드 코드(Claude Code), 코덱스(Codex), 그록 CLI(Grok CLI) 등 AI 개발 도구 및 보조 툴을 사칭한 악성 ZIP 파일이 깃허브 저장소와 깃허브 페이지(GitHub Pages)를 통해 유포되는 사례가 확인됐다. 공격자는 실제 사용자가 검색할 법한 도구명으로 저장소와 소개 페이지를 미리 만들어 정상 프로젝트처럼 꾸민 뒤 다운로드 링크를 악성 ZIP 파일로 연결했다.

사용자는 깃허브 내부 검색뿐만 아니라 검색 엔진이나 SNS, 커뮤니티에서 공유된 링크를 통해서도 이런 저장소에 접근할 수 있다. 프로젝트 소개와 설치 방법 등을 담은 안내 페이지(README)가 정상 프로젝트처럼 꾸며져 있더라도, 안전한 프로그램이라고 판단해서는 안 된다.

최근에는 ‘Claude Opus 5 Free Desktop’을 내세운 깃허브 저장소를 통해 윈도우 정보 탈취형 악성코드 ‘RevStealer’가 유포된 사례도 확인됐다. 약 101MB 크기의 압축 파일에는 정상 데스크톱 프로그램에서 흔히 활용되는 Electron 기반 애플리케이션이 포함돼 있었지만, 실행하면 사용자에게 별도의 화면을 보여주지 않은 채 백그라운드에서 악성 페이로드가 동작했다. RevStealer는 클로드를 미끼로 사용하기 전에도 게임 치트 프로그램으로 위장해 깃허브 저장소와 웹사이트에서 유포된 바 있다.

가짜 AI 앱, 비밀번호와 지갑까지 노린다

AI 서비스를 사칭해 전달되는 악성코드는 단순히 가짜 프로그램을 설치하는 데서 끝나지 않는다. 실제 목적은 피해 기기에 저장된 자격증명과 각종 민감 정보를 확보하는 데 있다.

클로드 무료 데스크톱 앱으로 위장한 RevStealer는 브라우저 데이터와 세션 쿠키, 윈도우 자격 증명 관리자(Windows Credential Manager), 비밀번호 관리자, 암호화폐 지갑뿐 아니라 VPN 및 원격 접속 자격증명, 메시징 애플리케이션 데이터와 사용자 문서 등을 수집할 수 있다. 탈취한 정보는 디스크에 대용량 압축 파일을 만들어 보관하기보다 메모리에서 처리해 공격자 서버로 전송함으로써 흔적을 줄인다.

가짜 챗GPT 사이트를 통해 맥OS 사용자에게 전달된 Odyssey Stealer 역시 브라우저 비밀번호와 쿠키, 텔레그램(Telegram) 세션, 암호화폐 지갑 및 민감 파일 등을 노렸다. 특히 정상 Ledger와 Trezor 지갑 애플리케이션을 공격자가 만든 버전으로 교체하려는 기능까지 포함하고 있었다.

AI 개발 도구로 위장한 악성 ZIP 파일을 실행하면 시스템 정보를 수집하고 추가 악성 파일을 내려받거나 외부 명령을 실행할 수 있으며, 재부팅 이후에도 동작할 수 있도록 설정하는 행위도 수행될 수 있다.

결국 공격자가 노리는 것은 생성형 AI 자체가 아니다. 사용자가 유명 AI 브랜드를 신뢰해 프로그램을 설치하거나 명령을 실행하도록 만든 뒤, 그 행동을 악성코드 감염의 시작점으로 이용하는 것이다.

1. 1. 공식 홈페이지와 공식 배포처에서만 다운로드
   챗GPT, 클로드, 제미나이 등 AI 서비스와 관련된 프로그램은 서비스 제공업체의 공식 홈페이지나 공식 앱스토어에서만 내려받는 것이 안전하다. 개발 도구 역시 검색으로 발견한 임의의 깃허브 저장소가 아니라 개발사가 안내하는 공식 프로젝트와 배포 경로를 이용해야 한다.
2. 2. 검색 결과 상단 사이트 주소 점검
   가짜 AI 서비스 사이트가 검색 광고 등을 이용해 결과 상단에 노출된 사례도 확인됐다. 검색 순위나 익숙한 로고만 믿지 말고, 접속한 사이트의 도메인이 실제 공식 주소와 일치하는지 확인해야 한다.
3. 3. 무료 버전 또는 비공식 설치 파일 주의
   유료 모델이나 기능을 무료로 제공한다며 별도의 프로그램이나 ZIP 파일 설치를 요구한다면 주의해야 한다. 특히 공식 서비스와 무관한 깃허브 저장소나 웹사이트에서 배포하는 데스크톱 앱은 실행 전 출처를 반드시 확인할 필요가 있다.
4. 4. 명령어 복사·붙여넣기를 요구하면 한 번 더 확인
   프로그램 설치나 오류 해결을 이유로 파워셸(PowerShell) 등 시스템 도구를 열고 특정 명령어를 복사해 실행하도록 안내한다면 그대로 따라서는 안 된다. 정상 설치 과정처럼 보이더라도 사용자의 악성 명령 실행을 유도하는 클릭픽스 공격일 수 있다.
5. 5. 감염이 의심되면 계정 정보까지 함께 점검
   출처가 불분명한 AI 프로그램을 실행했다면 해당 파일을 삭제하는 데 그치지 말아야 한다. 감염되지 않은 기기에서 주요 계정의 로그인 세션을 종료하고 비밀번호를 변경하며, 노출 가능성이 있는 API 키나 SSH 키 등 인증 정보도 교체해야 한다. 업무용 PC라면 즉시 조직의 IT 및 보안 담당자에게 알려야 한다.

[출처 : 안랩(www.ahnlab.com)]