[비즈니스포스트] 사이버 공격자들이 인공지능(AI)을 활용해 사람의 개입 없이 보안 취약점을 찾아내고, 공격 코드를 개발하는 단계에 진입했다는 분석이 나왔다.
구글 위협 인텔리전스 그룹(GTIG)은 17일 최신 ‘AI 위협 추적 보고서’를 통해 사이버 공격자들이 자율형 AI 에이전트와 자동화된 취약점 공격 도구를 활용하는 사례가 확산하고 있다고 밝혔다.
보고서는 GTIG와 구글 클라우드 보안 기업 맨디언트가 최근 분기 동안 관찰한 사이버 범죄와 첩보 활동, 정보작전 등에서 AI가 악용되는 양상을 분석한 것이다.
보고서에 따르면 사이버 공격자들은 기존 대규모 언어모델(LLM)에 명령어를 입력해 공격을 보조받는 방식에서 벗어나 여러 AI 에이전트를 활용해 복잡한 침투 과정을 자동화하고 있다.
대표적으로 아르텍스, 케언, 사이버스트라이크AI 등 자율형 AI 공격 도구들이 활용되고 있다. 미국 항공우주 산업을 겨냥한 침투 과정에서 케언이 사용된 사례도 확인됐다.
GTIG는 사람이 개입하지 않고 보안 취약점을 찾아 공격 코드를 개발하는 사례를 처음으로 확인했다고 밝혔다. 러시아어 기반 도구로 구성된 '익스플로잇 에이전트'는 보안 패치 적용 전후의 코드를 비교해 취약점을 찾아내고 공격 코드를 자동으로 개발했다.
북한 연계 해킹조직이 AI를 악용해 가상자산 기업을 공격한 정황도 포착됐다.
북한 연계 공격자들은 AI로 생성한 가상 인물을 활용해 가상자산 기업을 표적으로 삼았다. 이들이 생성한 일부 가상 인물에서는 구글의 AI 생성 콘텐츠 식별 워터마크인 신스ID가 확인됐다.
AI 기반 코딩 도구의 설정을 조작해 악성 프로그램을 설치하는 방식의 소프트웨어 공급망 공격 시도도 확인됐다.
AI를 활용한 여론 조작과 수익화 수법도 고도화하고 있다. 구글은 공격자들이 제미나이 응용프로그램 인터페이스(API)를 활용해 10만 개 이상의 가짜 계정을 관리하는 플랫폼을 구축한 사례를 확인했다고 밝혔다.
공격자들이 기업의 AI 모델 이용 권한과 클라우드 자원을 탈취한 뒤, 이를 지하 프록시 서비스를 통해 재판매하는 'LLM 재킹'도 지속되고 있는 것으로 나타났다.
구글은 조사 결과를 바탕으로 제미나이 서비스 악용을 탐지·차단하고 관련 계정을 비활성화하고 보안 안전장치를 강화했다고 밝혔다. 조승리 기자
구글 위협 인텔리전스 그룹(GTIG)은 17일 최신 ‘AI 위협 추적 보고서’를 통해 사이버 공격자들이 자율형 AI 에이전트와 자동화된 취약점 공격 도구를 활용하는 사례가 확산하고 있다고 밝혔다.
▲ 인공지능을 활용한 사이버 공격이 사람의 개입 없이 취약점 탐색부터 공격 코드 개발까지 수행하는 자율화 단계에 진입했다는 분석이 나왔다. <위키백과>
보고서는 GTIG와 구글 클라우드 보안 기업 맨디언트가 최근 분기 동안 관찰한 사이버 범죄와 첩보 활동, 정보작전 등에서 AI가 악용되는 양상을 분석한 것이다.
보고서에 따르면 사이버 공격자들은 기존 대규모 언어모델(LLM)에 명령어를 입력해 공격을 보조받는 방식에서 벗어나 여러 AI 에이전트를 활용해 복잡한 침투 과정을 자동화하고 있다.
대표적으로 아르텍스, 케언, 사이버스트라이크AI 등 자율형 AI 공격 도구들이 활용되고 있다. 미국 항공우주 산업을 겨냥한 침투 과정에서 케언이 사용된 사례도 확인됐다.
GTIG는 사람이 개입하지 않고 보안 취약점을 찾아 공격 코드를 개발하는 사례를 처음으로 확인했다고 밝혔다. 러시아어 기반 도구로 구성된 '익스플로잇 에이전트'는 보안 패치 적용 전후의 코드를 비교해 취약점을 찾아내고 공격 코드를 자동으로 개발했다.
북한 연계 해킹조직이 AI를 악용해 가상자산 기업을 공격한 정황도 포착됐다.
북한 연계 공격자들은 AI로 생성한 가상 인물을 활용해 가상자산 기업을 표적으로 삼았다. 이들이 생성한 일부 가상 인물에서는 구글의 AI 생성 콘텐츠 식별 워터마크인 신스ID가 확인됐다.
AI 기반 코딩 도구의 설정을 조작해 악성 프로그램을 설치하는 방식의 소프트웨어 공급망 공격 시도도 확인됐다.
AI를 활용한 여론 조작과 수익화 수법도 고도화하고 있다. 구글은 공격자들이 제미나이 응용프로그램 인터페이스(API)를 활용해 10만 개 이상의 가짜 계정을 관리하는 플랫폼을 구축한 사례를 확인했다고 밝혔다.
공격자들이 기업의 AI 모델 이용 권한과 클라우드 자원을 탈취한 뒤, 이를 지하 프록시 서비스를 통해 재판매하는 'LLM 재킹'도 지속되고 있는 것으로 나타났다.
구글은 조사 결과를 바탕으로 제미나이 서비스 악용을 탐지·차단하고 관련 계정을 비활성화하고 보안 안전장치를 강화했다고 밝혔다. 조승리 기자




![[단독] 하이브 CSO에 김정윤 야놀자 출신 전략 전문가 영입, 방시혁 글로벌 사업 '질적 전환' 속도](https://www.businesspost.co.kr/news/photo/202611/20261116105953_52543.jpg)
![[16일 오!정말] 이재명 "살아야 한다, 조금만 더 견뎌 달라"](https://www.businesspost.co.kr/news/photo/202611/20261116174044_104097.jpg)




