“인공지능(AI)을 통제하고 감독하는 직업이 앞으로 ‘신(新)의 일자리’가 될 것입니다. AI 신뢰성의 본질을 이해하는 인력을 키워야 합니다.”
박지환 씽크포비엘 대표가 THE AI와 진행된 서면 인터뷰에서 인공지능(AI) 산업의 미래에 대해 이같이 전망했다. 그는 “최근 기하급수적으로 AI 기술이 발전하자 오히려 엔지니어가 조직에서 해고되는 일이 생겼다”며 “AI 신뢰성 구축에 대한 인력 확보가 중요함에도 기업들은 성능 경쟁에만 집중하느라 정작 AI를 통제하고 감독하는 새로운 직업에는 관심이 없다”고 지적했다. 이어 “미래 경쟁력은 AI 신뢰성”이라며 “산업 기반·제도적 지원이 필요하다”고 강조했다.
씽크포비엘은 AI 신뢰성 분야 전문기업이다. 교육·컨설팅·데이터 분석·스마트 축산 등 다양한 영역에서 안전하고 책임 있는 AI 활용을 지원하고 있다. 자체 개발한 데이터 편향 분석 클라우드 서비스와 AI 신뢰도를 보장하는 개발 도구 ‘리인(RE:IN)’를 보유하고 있다. 리인은 데이터의 중복률과 편향을 분석해 AI 모델의 신뢰성을 지원한다. AI 신뢰성 컨설팅과 교육도 제공한다.
박 대표는 과학기술정보통신부의 신뢰할 수 있는 AI 개발 가이드 6대 산업분야 제작에도 참여했다. 최근에는 신뢰할 수 있는 인공지능 국제 연대(TRAIN)를 창설했다. 아울러 지난해 AI 신뢰성을 평가하는 ‘Good AI Awards’를 수상한 바 있다. 그는 수상 배경에 대해 “AI 신뢰성 전 분야를 체계적으로 연구하고 실제 산업에 적용해 온 기업”이라며 “영향분석, 위험관리, 거버넌스 구축, 투명성 확보, 데이터 편향 분석, 모델 견고성 평가 등 AI 신뢰성의 전체 스펙트럼을 종합적으로 연구하는 곳은 국내에서 유일에 가깝다”고 설명했다.
그는 “지난 10년간 중소벤처기업의 한계 속에서도 지속적 투자를 멈추지 않았고, AI 신뢰성이라는 누구도 잘 다루지 않던 영역을 꾸준히 개척해 왔다”며 “국내에서 전문 인력을 확보하기 어려운 상황을 극복하기 위해 20여 개국 출신의 글로벌 연구진을 구성해 국제 수준의 기술 개발을 이어왔다”고 강조했다.
박 대표가 생각하는 ‘Good AI’는 단순히 빠르거나 정확한 AI가 아니다. 그는 “때로는 높은 성능이 오히려 위험을 키우기도 하며 나쁜 짓을 더 정확하게 한다”며 “우리의 가치와 안전하게 공존할 수 있는 AI'를 만드는 것이 진정한 Good AI”라고 말했다. 이어 “어떻게 하면 인간과 사회의 규범 속에서 안전하게 동작하는지가 훨씬 중요한 시대가 됐다”고 강조했다.
◇ AI 신뢰성에 대한 시장 요구 본격화
그에 따르면 올해 AI 신뢰성에 대한 시장 요구가 본격화했다. AI 신뢰도 보장 도구의 수요가 급증한 것이다. 그는 “올해 하반기 도입한 AI가 실제 현장에서 제대로 동작하는지에 대한 객관적 검증 요구가 급증했다”며 “피지컬 AI를 포함해 AI가 실세계로 확장되면서 기업이나 기관에서 기존의 단순 성능시험만으로는 안전성과 신뢰성을 담보할 수 없다는 사실을 체감하기 시작한 것”이라고 설명했다.
AI 인증 시장의 혼란도 커지고 있다. 그는 “최근 국내에 다양한 AI 인증이 생겨나면서 '신뢰성'이라는 용어가 보안, 안전, 단순 테스트, 레드팀 평가 등 서로 다른 의미로 남용되는 일이 빈번해지고 있다”며 “이는 소비자와 기업 모두에게 큰 혼란을 주는 상황”이라고 지적했다.
일부 공인시험기관은 ISO/IEC 4213 기반의 단순 성능 평가를 ‘신뢰성 인증’으로 포장하는 문제도 지적했다. 박 대표는 “4213은 어디까지나 주어진 데이터 안에서 얼마나 정확하게 분류했는지를 보는 평가”라며 “시험문제(데이터)가 실제 환경을 얼마나 충실히 반영했는지, 엣지 케이스나 극한 상황까지 포괄하는지를 검증하지 않는다”고 설명했다. 안전성 검증이라기보다는 평균 성능치라는 것이다.
◇ “韓 AI 신뢰성, 선언적 구호에 불과”
박 대표는 국내 AI 신뢰성 산업 생태계에 대해 날카롭게 지적했다. 국내 기업들이 AI 신뢰성 확보나 위험으로부터 실제 대비할 수 있는 기반 마련과 정책적 지원이 부재한다는 것이다. 반면 해외에서는 이미 신뢰성 전문인력 양성에 국가적 투자를 아끼지 않고 있다. 그는 “해외에서는 석·박사 과정 확대, 인턴십 필수화, 정부 조달 가점 등 체계적 제도가 빠르게 구축되고 있다”며 “한국에는 AI 신뢰성을 전문적으로 교육할 고등교육기관도, 공식적인 커리큘럼도, 교재도 전혀 없는 상황”이라고 지적했다.
이어 그는 “현재 거론되는 ‘검인증’도 기업 지원이라고 볼 수 없고 산업 정착 정도로 봐야 한다”며 “토플 제도를 만든다고 학생들의 영어 실력이 저절로 향상되지 않는 것과 같은 이치”라고 지적했다.
그는 현재 대부분의 기업을 AI 신뢰성 해법이 부재한 상황 일종의 ‘불치병’ 상태에 높여있다고 진단했다. 그는 “신뢰성 인력 양성, 기업 내부 정착, 기술적 개선 능력 축적이라는 구조적 생태계가 만들어지지 않는 한 AI 신뢰성은 선어적 구호에 불과하다”고 강조했다. 즉 AI 신뢰성 분야 시장이 없다는 얘기다.
이러한 국내 상황에서 씽크포비엘은 신뢰성을 중시하는 해외 시장에 기술을 제공하면서 국내 민간 차원의 인식 전환에 집중하고 있다. 그는 “지난 한 해 동안 공공기관 실무자 대상 순회 세미나, 전국 단위 투어 세미나 등 대상으로 교육하면서 AI 신뢰성 인식 전환을 위해 노력해 왔다”고 언급했다.
◇ 교육·평가·데이터… 내년 로드맵 공개
아울러 그는 ‘교육-평가-데이터’ 등 3대 축을 중심으로 내년 사업 로드맵도 공개했다.
먼저 AI 통제자 인력 양성 부분이다. 그는 “내년에도 전국 대학, 공공기관, 국가인재개발원 등을 대상으로 AI 신뢰성·안전·리스크 관리 교육을 지속적으로 확대할 계획”이라며 “태국, 우즈베키스탄, 베트남, 인도네시아 등 여러 국가에서도 교육 제도 도입에 관심을 보이고 있다”고 말했다. 이어 “AI를 '통제할 수 있는 인력'을 양성하는 것은 아직 초기 단계지만, 기술과 커리큘럼을 아낌없이 개방하고 공유할 생각”이라고 덧붙였다. 씽크포비엘이 주최하는 신뢰성 대회인 트라이톤(TRAITHON)도 내년에는 국제 규모로 발전시킬 계획이다.
해외 진출도 집중한다. 그는 “AI 안전 평가에서 RE:IN의 활용 범위를 더욱 확장할 계획”이라며 “국내 기업들이 데이터 충실도 검증을 공식 적용하려는 의지를 보이고 있다”고 설명했다.
공공데이터 충실도 진단도 목표한다. 그는 “현재 공공데이터는 중복이 많고, 의미적 다양성이 부족하며 용량만 커지고 에너지와 비용을 낭비하는 경우가 많다”며 “이를 체계적으로 진단해 데이터 활용 가치를 높이고, 불필요한 인프라와 전력 소모도 줄여야 한다”고 말했다. 이어 “죽기 전에 꼭 이뤄어야 할 목표”라고 말했다.
하지만 공공데이터 진단은 쉽지 않다. 공공기관들의 태도가 보수적이기 때문이다. 그는 “데이터가 보석인지 아닌지 모르고 무지성으로 축적만 하는 상황으로는 AI 강국에 한 발자국도 나아갈 수 없다”며 “공공데이터 충실도 진단은 국가 산업에도 활력을 불어넣을 수 있는 사업”이라고 강조했다.
한편 박지환 씽크포비엘 대표 내달 2~3일, 인공지능 전문매체 THE AI가 여의도 FKI타워에서 개최하는 ‘THE AI SHOW(TAS) 2025’ AX 컨퍼런스의 연사로 나선다. ‘대한민국 AX 리포트: AI 기술부터 각 산업 전환까지, AX 생태계 완전 분석’을 주제로 개최하는 행사에서 박 대표는 AI 신뢰성 국제연대인 ‘TRAIN(Trustworthy AI International Network)’에 대해 소개할 예정이다. 아울러 3일 부대행사로 개최되는 ‘GOOD AI 어워즈 2025’에도 참여한다. 사전등록은 AX 컨퍼런스 신청 사이트(링크)에서 가능하다.