[편집자 주] 한 주간 주요 인공지능(AI) 동향을 THE AI가 정리해 드립니다. [AI 주간브리핑]을 보시며 주요 AI 이슈를 만나보세요. 본문 내 제목을 클릭하면 자세한 기사 내용을 보실 수 있습니다.
미국 트럼프 대통령이 취임했습니다. 취임과 동시에 인공지능(AI) 진흥에 속도를 내기 시작했는데요. 마치 AI 발전을 위한 불도저 같은 행보를 보이고 있습니다. 하지만 일각에서는 AI 안전을 확보하지 않은 채 진흥에만 몰두하는 것은 위험하다고 보고 있는데요. THE AI는 이번 주 트럼프의 행보와 더불어 AI 안전에 관한 이야기를 집중적으로 보도했습니다.
AI 진흥에 무게 싣는 트럼프, 안전은?
트럼프, AI 행정명령 폐기... “기존 정책, AI 혁신 저해”
도널드 트럼프 미국 대통령이 취임 첫날 바이든 행정부의 AI 정책 기조를 전면 철회했습니다. 취임과 동시에 바이든 전 대통령이 지난 2023년 도입한 AI 행정명령을 공식적으로 폐기한 것이죠. 이번에 트럼프가 폐기한 행정명령은 AI가 소비자와 노동자, 국가 안보 등에 초래할 위험을 줄이기 위해 마련됐었습니다. 해당 명령은 AI 모델의 결함 및 편향성 점검을 위한 지침 마련과 상용화 전 안전성 테스트 결과를 정부에 의무적으로 보고하도록 했죠. 또한 AI 기술의 화학, 생물학, 방사선, 핵, 사이버 보안 위험을 평가하는 기준을 마련하도록 각 기관에 지시하는 내용을 포함했습니다.
모습 드러낸 美 AGI 연합체 ‘스타게이트’, 韓 경쟁력은?
트럼프 대통령이 취임 후 ‘스타게이트’ 프로젝트가 본격 가동됐습니다. 오픈AI와 오라클, 일본 소프트뱅크가 5000억 달러 (약 718조 원) 규모의 합작회사 스타게이트를 설립한다고 밝혔죠. 오픈AI는 SNS X(구 트위터)를 통해 “스타게이트는 오픈AI을 위한 새로운 AI 인프라를 구축할 계획인 신생 기업”이라며 “이 인프라는 AI 분야에서 미국의 리더십을 확보하고 수십만 개의 미국 일자리를 창출하며 전 세계에 막대한 경제적 이익을 창출할 것”이라고 했습니다.
AI 안전 고삐 푸는 트럼프, 오픈AI 챗GPT 현상금은 여전
트럼프 대통령은 AI 진흥에 무게를 많이 두고 있습니다. AI 안전보단 산업 진흥에 힘을 실어주는 분위기죠. 이러한 행보에 우려 섞인 목소리도 나옵니다. 안전이 확보되지 않은 채 속도를 낸다면 큰 사고로 이어질 수 있기 때문이죠. 우리가 흔히 아는 챗GPT 사례에서도 볼 수 있는데요. 오픈AI가 약 3개월만 운영하려고 했던 버그 현상금을 다시 알아보았는데요. 여전히 챗GPT 오류가 있다는 것을 알게 됐습니다. 그만큼 AI 안전은 확보가 되지 않았다는 것을 증명한 사례입니다.
AI 안전 학점 보니… 오픈AI ‘D+’, 메타 ‘F’
AI 안전이 아직 확보되지 않았다는 것을 보여준 사례는 또 있습니다. 미국 비영리단체 FLI(Future of Life)가 최근 발표한 ‘FLI AI Safety Index 2024’ 보고서에는 오픈AI와 메타를 포함한 글로벌 AI 대표 기업들의 안전 지표는 기준 이하인 것으로 나타났는데요. 특히 라마3.1 등 AI 모델을 오픈소스로 공개하며 AI 활성화를 이끈 메타는 F 학점을, 챗GPT 개발사인 오픈AI는 D+라는 낮은 점수를 기록했습니다.
“AI가 사람 능가할 때 우리는 무엇을 할 것인가”… 앤트로픽 CEO의 경고
안전이라는 것은 비단 AI만 얘기하진 않습니다. AI 기술이 발전했을 때 사람의 역할과 지위에 대한 안전도 확보돼야 하죠. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 세계경제포럼(WEF)에서 윌스트리트저널과 진행한 인터뷰에서 이 같은 우려를 밝혔는데요. “AI 모델이 2~3년 내 거의 모든 분야에서 인간의 능력을 능가할 것”이라면서 “AI가 더 나은 로봇을 만들 수 있게 되면, 인간이 어떻게 경제적 가치를 창출할 것인지에 대한 새로운 대화가 필요하다”고 말했습니다. AI가 인간의 능력을 초월했을 때 사람이 경제적 가치를 찾아내고 복지를 누릴 방법을 고민하고, 이에 맞춰 기술을 발전시켜야 한다는 뜻으로 해석됩니다.
김명주 AI안전연구소장 “우리는 기업을 정상까지 안내하는 셰르파”
김명주 AI안전연구소장은 한국의 AI 안전 확보를 위해 꾸준히 노력하겠단 뜻을 밝혔습니다. 규제로 오해받을 수 있지만, 이는 정말 오해라고 했죠. 오히려 AI 기업이 정상까지 올라갈 수 있게 돕는 것이 AI안전연구소의 역할이라고 밝혔습니다.
글로벌 AI 소식
오픈AI, PC용 AI 에이전트 ‘오퍼레이트’ 출시… 앤트로픽과 유사
오픈AI가 사람처럼 컴퓨터를 다룰 수 있는 PC용 AI 에이전트 ‘오퍼레이트’를 일부 구독자에게 제공하기로 했습니다. 오픈AI 대항마라 불리는 앤트로픽이 지난해 10월 공개한 ‘컴퓨터 유즈’와 비슷한 기능입니다. AI 에이전트 시장에서도 두 회사를 비롯한 AI 기업들의 경쟁이 커질 것으로 전망됩니다.
오픈AI가 인간 수명 연장 사업에 나섰습니다. 생명 연장 연구에 특화한 GPT AI 모델을 만들었다고 전해졌는데요. 단백질 재프로그래밍에 특화된 AI인 ‘GPT-4b 마이크로’입니다.
베일 벗은 갤럭시 S25, 삼성 “AI는 무겁게 무게는 가볍게”
삼성전자는 22일(현지시간) 미국 캘리포니아 새너제이에 위치한 SAP센터에서 열린 삼성전자 갤럭시 S25 스마트폰의 언팩 행사를 열고 갤럭시 S25 시리즈를 공개했습니다. 이날 노태문 삼성전자 MX사업부장(사장)이 발표한 내용에 따르면, 갤럭시 S25 시리즈는 지난해 최초로 출시한 AI폰인 갤럭시 S24 시리즈들보다 AI 기능이 대폭 강화됐습니다.
美 타임지 선정 이교구 교수 “챗봇, 이제 음성으로 실시간 상호작용 한다”
앞으로 스마트폰에서의 AI 기술 발전은 더 커질 것으로 보입니다. 텍스트를 입력하지 않아도 음성만으로 상호작용할 수 있도록 기술이 발전될 것으로 전망되기 떄문입니다. AI 오디오 전문기업 수퍼톤의 공동 창업자인 이교구 서울대 교수는 앞으로 음성의 역할이 커질 것으로 보았는데요. 대표로 미국 시사주간지 타임(TIME)이 선정한 ‘2024 AI 분야 가장 영향력 있는 100인에 AI의 세이퍼(Shapers) 부문에 선정된 사람이기도 하죠. 그는 “음성을 위한 생성형 AI 기술이 챗봇 등 소통에서 가장 중요한 기술이 될 것”이라고 전망했습니다.
AI 발목 잡는 컴퓨팅, 해결책은?
‘국가 AI컴퓨팅 센터’ 구축 본격화… 2조원 투입·2027년 개소
과학기술정보통신부는 22일 열린 국정현안관계장관회의 겸 경제관계장관회의에서 관계부처 합동으로 국가 AI컴퓨팅 센터 구축(SPC 설립) 실행계획안을 발표했습니다. 1엑사플롭스(EF·1초에 100경 번의 연산 처리) 그래픽처리장치(GPU) 규모 구축, 2027년까지 센터 개소 목표에 대한 추진 방안이 담겼습니다.
그렇다면 우리는 AI 하드웨어를 잘 쓰고 있을까요? 아시아 국가 중 가장 선도적으로 GPU 등 컴퓨팅을 유치한 국가로 불리는 한국은 AI 하드웨어를 잘 쓰고 있을까요? 해당 내용을 조사해보았습니다.
AI 한계 해결사 ‘양자컴퓨팅’, 클라우드와 통합이 필요한 이유
AI 발전에 따른 컴퓨팅 혁신은 지속 이뤄져야 할 겁니다. 혁신의 대표 주자는 양자컴퓨팅이죠. 아마존웹서비스(AWS)는 AI 컴퓨팅 혁신을 위해선 양자컴퓨팅과 클라우드 통합이 필요하다고 밝혔습니다. 시모네 세베리니(Simone Severini) AWS 양자컴퓨팅 디렉터는 “클라우드로 양자컴퓨팅을 구축하면 대규모 자본 지출을 피할 수 있고 빠른 학습과 기술적 종속도 피할 수 있다”면서 “운영 부담도 줄어들고 IT 리소스와의 통합도 유리하다”고 말했습니다.
“AI 교과서 무엇이 문제인가”… ‘THE AI SCHOOL’ 토론회 개최
AI 디지털교과서를 교과서로 사용할지 교육자료로 격하할지에 대한 논쟁이 계속되고 있는 가운데 THE AI는 해당 안건을 논의하기 위해 긴급 웨비나를 개최했습니다. 교육 전문가와 검정 발행사가 모여 AI 교과서의 문제가 무엇인지 논의했습니다. 이번 웨비나는 김봉제 서울교대 교수 겸 AI 가치판단디자인센터장을 비롯해 이재환 이화여대 교수 겸 2024년 교과용 도서 검정위원, 김재원 엘리스그룹 대표, 최영우 아이헤이트플라잉버그스 공교육부문장이 참여했습니다.