[현장] KAIST 윤인수 교수
[현장] KAIST 윤인수 교수 "AI 공격 AI로 막아야 하는 시대, 사람과 AI 협업이 가장 강력"
인공지능(AI)이 인간을 뛰어넘는 속도로 취약점을 찾아내는 'AI 해킹' 시대가 본격화하면서 사이버 보안 체계도 AI 중심으로 전환해야 한다는 목소리가 나왔다.윤인수 한국과학기술원(KAIST) 전기 및 전자공학부 교수는 24일 서울 코엑스에서 열린 해킹방어대회 '코드게이트 2026' 현장에서 진행된 인터뷰에서 "결국 AI가 공격해 들어오면 AI로 막아야 되는 그런 시대가 된 것 같다"며 "AI가 해킹하는 시대에 들어갔기 때문에 과거에 보안을 바라보는 눈으로는 부족한 것들이 있다"고 말했다.윤 교수 연구팀은 코드게이트 2026에서 인간 해커들과 경쟁하는 AI 해커 시스템을 선보였다. 연구팀은 앤트로픽과 오픈AI, xAI 등 세 회사의 대규모언어모델(LLM)을 결합해 여러 AI 에이전트가 문제를 나눠 해결하도록 시스템을 설계했다.이번 프로젝트는 AI의 해킹 능력이 어느 수준까지 발전했는지, AI와 사람이 협업했을 때 어떤 시너지가 나타나는지를 확인하기 위해 추진됐다.대회에서 AI는 경기 초반 인간이 따라가기 어려울 정도의 속도로 문제를 해결했다. 다만 난도가 높아지고 인간의 직관과 경험이 필요한 문제가 남자, 순수 AI보다 인간 전문가와 AI가 협업한 팀이 더 좋은 성과를 냈다.윤 교수는 "초반에 AI가 엄청나게 빠른 속도로 문제를 풀었다"며 "인간의 속도로 AI 속도를 따라잡기에는 무리가 있다는 것을 보여준 것 같다"고 말했다.이어 "후반으로 갈수록 AI 단독으로는 풀 수 없는 문제들이 남아 있었고, 인간의 인사이트나 지식이 도움이 되는 문제들이 있었다"며 "순수 AI는 풀지 못하지만 AI와 전문가는 풀 수 있는 문제들이 있었다"고 설명했다.그는 "결국 전문가와 AI가 만났을 때의 시너지가 순수 AI만 사용했을 때보다 더 좋다는 결론에 이를 수 있었던 것 같다"고 덧붙였다.AI는 코드나 프로그램 전체가 제공되는 문제에서는 뛰어난 분석 능력을 보인 반면, 이미지나 사용자환경(UI)이 포함되거나 제한된 정보만으로 추론해야 하는 문제에서는 상대적으로 어려움을 겪었다.윤 교수는 "이미지나 이용자인터페이스(UI)가 들어가는 것은 확실히 AI가 힘들어한다"며 "코드가 주어지거나 바이너리 전체 정보가 주어져 이를 분석해 풀어내야 하는 문제는 AI가 정말 잘하는 것 같다"고 말했다.그러면서 "반대로 부분적 정보가 주어지는 블랙박스 문제에서는 어려움을 보였다"고 설명했다.AI가 문제 해결 과정에서 잘못된 방향으로 들어서면 스스로 오류를 바로잡지 못하고 오랜 시간 헤매는 한계도 확인됐다.윤 교수는 "사람은 문제를 풀어본 경험을 바탕으로 '이거 아니면 말이 안 된다'고 판단하는 부분이 있는데, AI에는 그런 것이 없는 것 같다"며 "잘 가다가 막히면 갑자기 이상한 방향으로 가서 헤매는 경우가 있어 사람이 이를 조정해 주는 것이 더 중요하다"고 말했다.그는 AI 시대에도 인간 보안 전문가의 역할은 여전히 중요하다고 봤다.윤 교수는 "AI가 공격해 들어오면 AI로 막아야 되는 시대가 된 것 같다"면서도 "그럼에도 인간의 인사이트와 지식이 여전히 중요하다는 것을 경기 후반에 보여준 것 같다"고 말했다.이어 "사람이 지식과 인사이트를 가지고 시스템을 디자인하고 보안 문제를 어떤 방향으로 해결할지 고민해야 할 것 같다"며 "결국 최종 결정에서는 사람이 들어가야 하지 않나 생각한다"고 덧붙였다.윤 교수는 AI가 찾아낸 취약점도 최종적으로는 전문가의 검증이 필요하다고 설명했다. AI가 잘못된 결과를 제시할 가능성을 완전히 배제할 수 없는 만큼 사람의 판단이 마지막 단계에서 필요하다는 것이다.그는 기업과 정부가 기존의 보안 기준을 AI 해킹 시대에 맞게 전면적으로 다시 살펴봐야 한다고 강조했다. 과거에는 공격에 많은 인력과 비용이 필요해 사실상 안전하다고 여겨졌던 시스템도 AI가 공격 비용과 시간을 크게 낮추면 더 이상 안전하지 않을 수 있다는 것이다.윤 교수는 "이전에는 해킹당하지 않았기 때문에 안전한 것처럼 여겨졌던 시스템들이 있었다"며 "사람이 해킹하기에는 품이 많이 들고 비용이 많이 들어 안전해 보였던 시스템들이 AI가 해킹하는 시대에는 더 이상 안전하지 않다"고 말했다.이어 "보안 전반을 새로운 시대의 눈으로 바라볼 필요가 있다"며 "지금은 단기적으로나 장기적으로 우리나라에 많은 정책과 변화가 필요한 시기라고 생각한다"고 덧붙였다.AI 활용을 무조건 제한하는 접근에도 신중해야 한다고 봤다. 사이버 보안 기술은 공격에 악용될 수 있지만, 기업과 기관이 자체 시스템의 취약점을 먼저 찾아내는 방어 수단으로도 활용할 수 있기 때문이다.윤 교수는 "사이버 보안은 양면적 성격이 있다"며 "사이버 보안 도구를 이용해 내 시스템의 취약점을 먼저 찾아내면 보안에 도움이 되지만, 해커가 이를 통해 공격에 활용할 수 있다"고 말했다.이어 AI 활용을 일률적으로 막기보다 검증된 기관이나 인력에게 제한적으로 활용을 허용하는 방안도 검토할 필요가 있다는 의견을 내놨다.또 AI 활용 능력 자체가 국가와 기업의 보안 경쟁력을 좌우할 가능성도 제기했다.윤 교수는 "중국이나 어떤 회사들이 자체 인프라에서 가드레일이 없는 모델로 공격해 들어오는데, 우리가 그런 모델이 없는 상태에서 방어해야 한다면 더 어려워질 수 있다"며 "양날의 검과 같은 면이 있어 쉽지 않은 문제인 것 같다"고 말했다.그는 정부와 기업이 보안 업무 전반에 AI를 활용하는 '초자동화'를 추진해야 한다고 강조했다.윤 교수는 "우리가 할 수 있는 모든 분야에서 AI를 통한 초자동화를 열어야 한다고 생각한다"며 "시스템을 개발하거나 문제를 풀고 공부하는 분야 등 모든 분야에서 AI를 활용할 필요가 있다고 생각한다"고 말했다.윤인수 한국과학기술원(KAIST) 전기 및 전자공학부 교수는 24일 서울 코엑스에서 열린 해킹방어대회 '코드게이트 2026' 현장에서 인터뷰를 진행하고 있다. <비즈니스포스트>다만 AI가 보안 인재를 완전히 대체할 것이라는 전망에는 선을 그었다. 이번 대회에서 AI와 전문가가 결합했을 때 가장 높은 효과를 보인 만큼, 보안 전문가를 장기간 육성하는 정책이 필요하다고 강조했다.윤 교수는 "AI가 워낙 잘하면서 '사람이 필요 없는 것 아니냐', '인재 양성이 필요 없는 것 아니냐'는 이야기도 나오지만 오늘의 결과가 그런 것들을 반증하는 결과를 보여줬다고 생각한다"며 "전문가는 여전히 필요하고 하루아침에 태어나는 것이 아니다"고 말했다.이어 "주니어 때부터 길러져야 전문가가 탄생한다"며 "우리나라에서도 전 주기적인 인재 양성을 위한 지원이 필요하다고 생각한다"고 덧붙였다.윤 교수 연구팀은 앞으로 AI 해커를 실제 프로그램의 취약점 분석에 적용하는 연구와 함께 사람과 AI가 가장 효과적으로 협업할 수 있는 방식을 찾는 연구를 이어갈 계획이다.윤 교수는 "이번 대회를 하면서 느낀 것은 사람과 AI 해커가 어떻게 협업하는 것이 가장 좋은 방식인가 하는 문제"라며 "AI와 사람이 같이할 때 가장 좋은 시너지를 낸다면 어떤 형태의 협업이 가장 효과적일지 고민하고 있다"고 말했다.이어 "AI가 너무 잘하는데, 이를 방어의 관점에서 어떻게 막을 것인지도 고민하고 있다"며 "AI 공격 시대에 맞는 방어 체계를 어떻게 만들어 갈지가 앞으로 중요한 연구 과제"라고 말했다. 조승리 기자

인기기사

BP 채용 공고
시높시스코리아 채용 시 마감
High Speed IP PHY Applications Principal Engineer / Manager
정규직/10년 이상/학사 이상
쿠팡 주식회사 채용 시 마감
Staff Backend Engineer
10년 이상
크래프톤 채용 시 마감
Brand Planning Manager
5년 이상
Samsung Electronics America D-160
Sr Manager, B2C Communications
정규직/10년 이상
한화엔진 D-38
서비스 코디네이터
정규직/5년 이상