[창간 5주년 특집] 서상덕 S2W 대표 “AI로 정교해진 범죄, AI 수사대가 지킨다”

인공지능(AI)은 양날의 검이다. 우리 삶을 편리하게 만드는 동시에, 범죄자들에게는 강력한 무기가 되고 있다. 챗GPT가 업무 효율을 높여주는 만큼, 사기꾼들에게는 완벽한 피싱 메일 제작 도구가 된다. 음성 합성 기술이 발달할수록 가족 목소리를 흉내 낸 보이스피싱도 정교해진다. 기술의 진보가 곧 범죄의 진화로 이어지는 역설적 상황이다.

예전에는 어설픈 번역투, 서툰 문장 구성만 봐도 피싱 메일을 알아차릴 수 있었다. 하지만 지금은 다르다. 생성형 AI 등장하면서 상황이 완전히 달라졌다. AI는 이제 누군가의 관심사, 직업, 대출 이력까지 학습한 뒤 그 사람만을 노리는 사기 메시지를 정교하게 만든다. 천 명이면 천 명 모두에게, 다른 내용을 담은 맞춤형 이메일을 보낸다. 비용은 거의 들지 않는다. 피해는 상상 이상으로 확산될 수밖에 없다.

이처럼 AI는 기술의 진보일 뿐 아니라, 범죄의 진화 도구가 되기도 한다. 마약 거래, 보이스피싱, 가상자산을 이용한 자금 세탁 등 디지털 범죄는 점점 더 지능화되고 있다. 그 흐름의 중심에는 다크웹과 암호화 메신저가 활약하고 있다.

이 위협에 가장 먼저 맞서고 있는 기업이 있다. S2W다. KAIST의 한 연구실에서 시작된 사이드 프로젝트가 기업으로 성장했고, 지금은 다크웹과 텔레그램 등 기존 검색으로 접근이 어려운 영역의 데이터를 수집·분석해 국내외 보안 기관과 수사기관에 솔루션을 제공하고 있다. 단순한 보안 기술을 넘어, 국가 안보와 사이버 범죄 대응의 최전선을 담당하고 있는 셈이다.

서상덕 S2W 대표는 “GPT와 같은 생성형 AI의 등장은 범죄 양상을 완전히 바꿔놓았다”며 “AI가 만들어낸 위협을 막기 위해선, 이제 AI 자체를 방패로 삼아야 한다”고 말한다. 실제로 S2W는 다크웹 기반 마약 유통 경로 추적, 조직 범죄 패턴 탐지, 텔레그램상 드롭 정보 연계 분석 등에서 수사기관의 실질적인 기술 파트너 역할을 하고 있다.

하지만 이들은 단순히 보안 솔루션 기업에 머무르지 않는다. 방위 산업, 산업 AI, 글로벌 시장 진출 등 S2

W는 자사의 보안 DNA를 기반으로 다양한 영역으로 기술을 확장하며, 안보형 AI 애플리케이션이라는 새로운 카테고리를 열고 있다.

그렇다면, 지금 S2W는 AI가 바꾸고 있는 범죄에 어떻게 대응하고 있을까? 서상덕 대표와 자세한 얘기를 나눠봤다.

- S2W는 다크웹 분석 사업을 토대로 사업을 7년째 이어왔다. 이러한 안보 쪽 사업을 하게 된 이유가 궁금하다.

“처음 시작은 KAIST의 NSSL(네트워크 시스템 시큐리티) 연구실에서 일종의 사이드 프로젝트로 다크웹과 가상자산을 수집하고 교차 분석하는 일들을 했었다. 미국 방위고등연구계획국(DARPA)이 다크웹까지 추적하는 메멕스(Memex) 프로젝트를 진행한다는 것을 알고 한국에서도 비슷한 시도를 해봤으면 좋겠다는 취지에서 시작했다. DARPA MEMEX 프로젝트는 인터넷상 정보들을 대거 수집하고 관계성을 분석하는 것을 기본으로 하는데, 특히 일반적인 검색으로 잘 닿지 않는 곳의 정보들까지 포함해서 미국의 안보나 사회 안전에 도움이 되는 데이터들을 모으겠다는 취지가 강했다. 그 당시 막 증가하고 있던 다크웹이 대표적인 기술 난제 중 하나였고, 1~2년 지나니까 모아진 데이터의 양과 분석 스케일이 학교에서 할 수 있는 수준을 넘게 되어 회사를 설립하게 됐다.”

- 한국에서 다크웹 관련 범죄는 N번방 사건이 유명하다. 이러한 사건에도 S2W 기술이 도움이 됐나.

“N번방 사건 당시에도 수사 협조를 일부 했고, 연루된 가상자산에 대한 분석 자료 등을 경찰에 제공했다. 다만 그것이 실제 수사 증거나 검거에 직접 활용됐는지는 공유받은 바가 없어 직접 도움이 됐는지는 알 수 없다. 현재는 마약 수사를 담당하는 기관들이 저희 솔루션을 사용하고 있다. 마약은 텔레그램을 통해서 많이 배포되고 있고, 다크웹에서도 마약 원료 거래가 이뤄지고 있다. 우리 솔루션은 텔레그램을 통한 마약 유통이나 글로벌 다크웹 공급망 추적 등에 활용된다.”

- 구체적으로 어떤 방식으로 수사기관을 지원하고 있나.

“우리는 텔레그램 수집과 분석을 빠르게 시작해 많은 데이터를 보유하고 있다. 수사기관 요청에 따라 마약, 사기 관련 채널들을 추가하고 있기도 하다. 예를 들어, 특정 위치에 마약이 유통됐다는 정보가 올라오면 이를 빠르게 찾고, 일반 인터넷상의 정보와 연계되는 지점을 분석해 제공한다. 또한 조직적인 활동을 탐지하는 것들도 하고 있다. 범죄자들이 추적을 피하려고 계속 새로운 계정을 만들어서 글을 올리거나, 글을 올렸다가 금방 삭제하거나, 아이디를 자꾸 바꿔가면서 활동하는 경우가 많은데, 이런 여러 개의 계정들이 사실은 같은 사람이나 같은 조직에서 운영하는 건지를 분석한다. 이 계정들이 모두 같은 시간대에만 활동하거나 특정 지역명을 자주 언급하는 패턴을 찾아내는 것이다. 이런 통계 분석을 통해 일선 수사기관들이 개별 사건만 보다가 놓칠 수 있는 큰 그림, 즉 전국 단위로 벌어지는 조직적 범죄의 연결고리나 중심부가 어디에 있는지에 대한 분석을 제공하고 있다.”

- AI 기술이 날로 정교해지고 있다. 이를 악용한 범죄 역시 늘어날 것 같은데.

“AI가 범죄에 도입되면 피싱 사기가 훨씬 정교해질 것이다. 지금 우리가 GPT에게 ‘이메일 좀 써줘’라고 하면 상황에 맞게 정중하거나 친근하게 써주는 것처럼, 범죄자들도 AI를 활용해서 완벽한 사기 메일을 만들 수 있게 된다. 예전에는 범죄자들이 직접 메일을 써야 했기 때문에 어색한 표현이나 번역투 문장으로 티가 났는데, 이제는 AI가 여러 언어로 자연스럽고 정교한 메일을 자동으로 써준다. 더 무서운 건 개인화된 공격이다. 범죄자가 누군가의 개인정보를 조금이라도 확보하면, AI가 그 사람의 관심사, 직업, 생활 패턴에 딱 맞는 사기 메일을 만들어낸다. ‘이 사람은 주식에 관심이 많으니까 투자 사기로’, ‘이 사람은 최근에 대출을 받았으니까 금리 인하 사기로’ 이런 식으로 각자에게 맞춤형 함정을 만드는 거다. 비용도 거의 안 들기 때문에 천 명이면 천 명 모두에게 각각 다른 내용의 정교한 사기 메일을 보낼 수 있게 돼서, 앞으로 이런 피해가 폭증할 것으로 예상된다.”

- 구체적이고 개인화되는 AI 악용 범죄에 어떻게 대응해야 할까.

“보이스피싱을 예로 들면 지금까지는 사람들에게 ‘검찰청에서 전화 안 한다, 돈 요구하지 않는다’는 식으로 개인들에게 조심하라고 알려주는 것만으로도 어느 정도 효과가 있었다. 하지만 AI가 만든 개인 맞춤형 사기 메일이 쏟아지기 시작하면, 아무리 조심해도 속을 수밖에 없을 정도로 정교해질 것이다. 이제는 개인의 주의력에만 의존할 게 아니라, 아예 시스템 차원에서 막아야 한다. 사기범들은 보통 해외에서 여러 개의 가짜 휴대폰이나 대포 통장을 이용해서 범죄를 저지르는데, 이런 수상한 루트 자체를 원천 차단해야 한다는 뜻이다. 예를 들어 스마트폰 회사, 통신사, 인터넷 회선 업체들이 모두 협력해서 ‘지금 당신 폰으로 온 이 전화가 어디서 출발했는지’ 추적하는 것이다. 만약 해외 → 해외 → 해외를 여러 번 거쳐서 온 수상한 전화라면 아예 차단해버리는 것도 방법이다. 한마디로 사기범들이 쓰는 ‘범죄 인프라’ 자체를 무력화시켜서, 사기를 치려면 엄청난 비용과 노력이 들도록 만들어야 한다. 이건 보안회사 혼자서는 불가능하고, 통신·IT 업계 전체가 힘을 합쳐야만 가능한 일이다.”

- AI 악용 범죄의 대표 예시는 ‘프롬프트 인젝션’이다. 생성형 AI에 마약 제조법 등을 알려달라는 식으로 범죄가 이용된다. AI 공격을 방어할 방법은 무엇일까.

“새로운 AI 모델이 나올 때마다 완벽하게 모든 공격을 다 막을 수는 없다. 하지만 AI 보안은 마치 백신 프로그램처럼 작동한다. 연구자들이 논문을 발표하거나 해커들이 새로운 공격 방법을 찾아내면, 보안 업계에서 그걸 분석해서 대응책을 만들어낸다. 핵심은 이렇게 알려진 모든 취약점을 제대로 반영했느냐 하는 것이다. 우리는 원래 보안 전문 회사다 보니까 AI 취약점을 찾아내고 막는 일에 특히 관심이 많다. 논문으로 발표되든 보안 업계에서 공개되든 상관없이, 알려진 모든 공격 방법을 다 연구해서 저희 AI에는 그런 구멍들이 없도록 만들고 있다. 또 다른 방어책도 있다. 악의적인 사용자가 ‘이상한 질문’을 던져서 AI 시스템을 마비시키려고 할 수 있다. 일례로 엄청나게 긴 질문을 던지거나 컴퓨터 자원을 과도하게 사용하게 만드는 질문을 하면 아예 차단해 버린다. 이런 식으로 해킹이나 디도스 공격까지 미리 대비해서 AI 시스템을 설계하고 있다.”

- S2W 기술을 방산 등에 응용하면 안보 체계가 강화될 것 같다. 이러한 협력도 진행하나.

“방산 기업과도 협력을 논의하고 있다. 국방 분야에서는 두 종류의 정보가 필요하다. 하나는 ‘우리 미사일을 어디로 쏠지, 적의 목표물이 어디 있는지‘와 같은 군사 기밀 정보고, 다른 하나는 ’지형 정보, 위성 사진, 날씨, 국제 정세‘ 같은 공개된 외부 정보다. 이 두 가지를 합쳐야 제대로 된 판단을 할 수 있다. 지금까지 저희는 외부 정보만 가지고 일해왔다. 인터넷에서 수집한 정보들을 정리해서 군이나 기업이 쓸 수 있게 만드는 일 등이다. 하지만 진짜 효과를 내려면 이런 외부 정보와 내부 기밀 정보를 함께 분석해야 한다. 문제는 보안 때문에 군이나 금융권에서는 내부 정보를 완전히 차단하고 있다는 것이다. 하지만 다른 나라들은 이미 이런 정보들을 결합해서 더 빠르게 발전하고 있는데, 우리만 보안을 핑계로 문을 꽁꽁 닫아놓고 있으면 뒤처질 수밖에 없다. 그래서 앞으로는 정책적으로 변화가 있을 거라고 본다. 물론 보안은 중요하지만, 적절한 수준에서 정보를 활용할 수 있는 방법을 찾아야 한다는 뜻이다.”

- 앞으로 새로운 사이버 문제들에 대응하기 위한 기술 발전 전략이 있나.

“앞으로 더 많은 데이터를 수집해야 한다. 특히 한국 주변국인 중국, 북한과 관련된 사이버 사건들이 계속 늘어나고 있는데, 이들이 사용하는 통신 채널이 자꾸 바뀌고 있다. 예전에는 텔레그램만 주로 썼는데, 이제는 중국의 위챗이나 게이머들이 쓰는 디스코드 같은 새로운 메신저들로도 범죄 활동이 확산히고 있다. 그래서 저희도 이런 새로운 플랫폼들까지 모니터링 범위를 넓혀가고 있다. 또 다른 목표는 AI 자동화다. 지금은 데이터를 수집한 다음에 사람이 일일이 분석하고 보고서를 작성해야 하는데, 이 과정을 AI가 대신하도록 만들고 있다. 그러면 수집된 정보를 AI가 먼저 1차 분석하고 요약 보고서까지 자동으로 만들어줘서, 분석가들은 더 중요한 판단에 집중할 수 있게 된다.”

- S2W는 보안과 안보 사업도 하지만 기업의 AI 활용도 돕고 있다. 이러한 산업 분야에서의 경쟁력은.

“우리는 처음부터 보안에서 출발했고 보안 중에서도 다크웹이나 텔레그램 같은 굉장히 양도 많고 비정형 데이터를 많이 다뤄왔다. 이 때문에 우리가 만든 AI 시스템은 보안과 안전성 측면에서 상당히 앞선다는 자부심이 있다. 기업 내부에서 사용하는 AI는 성능만큼이나 안전이 중요하다. 생성형 AI가 잘못된 대답을 하면 안 되고 정보도 유출돼선 안 된다. 외부 해킹에서도 기업 정보를 보호해야 하고, 프롬프트 인젝션과 같은 시도에도 정보를 발설해도 안 된다. 우리는 이런 분야에서 신뢰성과 기술적 노하우가 있다. 기술력도 있다. 기업에서 쓰는 문서들은 글자, 숫자, 표, 그래프가 뒤섞여 있어서 복잡한데, 우리는 시중에서 가장 복잡하다는 다크웹 데이터를 분석했다. 그만큼 높은 성능을 자부한다. 실제 PoC나 테스트를 하면 이런 역량이 증명된다.”

- 한국이 AI 경쟁에서 조금이라도 더 우위를 점하려면 어떤 전략이 필요할까.

“한국이 AI 강국이 되기에는 솔직히 기본 조건이 부족하다. AI 개발에는 엄청난 돈과 데이터가 필요한데, 우리는 둘 다 애매한 수준이다. 유럽은 개인정보 보호 규제가 너무 까다로워서 데이터 활용이 어렵고, 반대로 중국은 국가 차원에서 모든 데이터를 쓸 수 있게 열어주고 있다. 자율주행차 실험 구역을 만들거나 국민 데이터를 AI 학습에 마음대로 쓸 수 있게 하는 등 정말 파워풀하다. 이런 중국과 정면 승부하기는 어렵다. 하지만 다른 전략이 있다. 미국과 중국이 서로 견제하면서 각자 독자적인 AI를 만들고 있는 동안, 우리는 이미 공개된 오픈소스 AI들을 가져다가 특화된 용도로 빠르게 개조할 수 있다. 오픈된 AI를 활용해 안보나 산업 분야에 딱 맞는 전문 AI를 만드는 것이다. 한국은 원래 새로운 기술을 빨리 받아들이고 응용하는 데 뛰어나니까, 이런 ’빠른 적용‘ 전략으로 승부하는 게 현실적이라고 본다.”

- 글로벌 진출에 대한 앞으로의 방향이나 목표는.

“한국에서는 외국 회사들과 경쟁할 때 홈그라운드 이점이 있어서 어느 정도 유리하다. 하지만 해외에 나가면 오히려 불리한 입장이 된다. 그런데 해외에서는 우리만의 독특한 강점이 있다. 한국이라는 지리적 위치 때문에 러시아, 중국, 북한 관련 정보를 다른 나라보다 훨씬 많이 그리고 빠르게 수집할 수 있다는 점이다. 이런 정보들이 필요한 나라들, 특히 아시아 우방국들에게는 저희가 제공할 수 있는 가치가 크다. 해외 진출 전략은 단계적이다. 먼저 정부 기관 대상 사업(B2G)부터 안정적으로 자리잡은 다음, 그 신뢰를 바탕으로 기업 고객(B2B)으로 확장할 계획이다. 아시아와 중동에서 충분히 입지를 다진 후에는 더 큰 시장인 미국이나 유럽으로 진출하려고 한다.”

- 단기적인 계획이나 장기적인 계획이 있다면.

“올해 가장 중요한 목표는 두 가지다. 첫째는 성공적인 상장이고, 둘째는 매출 150억 달성이다. 작년에 100억을 기록했으니까 50% 성장이 목표다. 장기적으로는 매출 1000억을 노리고 있다. 흔히 얘기하기를 매출 1억에서 100억까지, 또 100억에서 1000억까지 거릴는 시간이 비슷하다고 한다. 우리는 이미 100억 원을 달성했으니 이제 1000억 원까지 빠르게 가야 한다. 1000억 규모가 되면 사업 구조도 많이 바뀔 것 같다. 지금은 안보 쪽이 주력이지만, 그때는 안보와 산업 AI가 반반씩 될 것으로 예상한다. 국내보다는 해외 매출이 압도적으로 많아질 것이다. 상장이 해외 진출에도 큰 도움이 될 것 같다. 해외 고객들은 ’이 회사가 한국 증시에 상장된 검증받은 회사인가?‘를 많이 본다. 그래서 올해 IPO가 성공하면 해외 사업을 더 빠르게 확장할 수 있을 거라고 본다.”