/AI Chasm Catalyst

인공지능(AI)의 급속한 확산과 함께 안전성과 신뢰성을 담보하는 국제 기준 마련이 전 세계적 과제로 부상하는 가운데, 한국전자통신연구원(ETRI)이 관련 핵심 표준 개발을 주도하며 주목받고 있다.

◆ AI 위험 사전 점검하는 ‘레드팀 테스팅’ 국제표준 추진

ETRI는 AI 시스템의 취약성을 사전에 탐색하는 ‘레드팀 테스팅’ 국제표준(ISO/IEC 42119-7) 개발에 착수했다. 해당 표준은 의료, 금융, 국방 등 분야별 공통 시험 절차를 규정하는 것을 목표로 하며, ETRI가 에디터 역할을 맡았다. 레드팀 테스팅은 생성형 AI의 허위정보 생성이나 보안 장치 회피 가능성을 모의 공격을 통해 점검하는 방식으로, 미국 NIST와 유럽연합도 이와 유사한 테스트 지침을 각국 규제 프레임워크에 반영하고 있다.

◆ ‘신뢰성 라벨’로 소비자 체감 높인다

또 다른 핵심 작업은 ‘신뢰성 사실 라벨(Trustworthiness Fact Label, TFL)’ 표준화다. 식품의 영양성분표처럼 AI 신뢰도를 직관적으로 표현하는 제도다. 기업 자율 제공 또는 제3자 인증 방식으로 운영될 수 있으며, 향후 ESG 요소까지 반영하는 방안이 검토된다. 이는 지난해 제정된 ‘AI 경영시스템 국제표준(ISO/IEC 42001)’과 연계돼 AI 활용 조직의 신뢰성을 국제적으로 증명할 근거로 활용될 전망이다.

◆ 국내 첫 AI 의료기기 레드팀 챌린지 개최

ETRI는 식품의약품안전처와 함께 9월 4~5일 노보텔 동대문에서 ‘첨단 AI 디지털의료제품 레드팀 챌린지 및 워크숍’을 연다. 이번 행사는 아시아권 최초로 시도되는 AI 의료기기 분야 레드팀 테스트로, 의료인과 보안 전문가뿐 아니라 일반 시민도 참여한다. 서울아산병원과 협력해 의료기기 전용 레드팀 평가 방법론을 개발 중이며, 네이버·업스테이지·LG AI연구원 등과 협의체를 구성해 국제표준화 협력도 확대하고 있다.

◆ 글로벌 경쟁 속 한국의 선도적 위상

전문가들은 이번 성과가 ‘빠른 추격자(Fast Follower)’를 넘어 ‘규칙 제정 선도국(First Mover)’으로 도약하는 계기가 될 것이라 평가한다. 정보통신기획평가원 관계자는 “AI 안전성 확보는 대중의 신뢰를 확보하는 전제조건”이라며 “국제표준 선도는 한국이 글로벌 AI 규범을 설계하는 주도국으로 자리매김하는 분기점”이라고 말했다.

◆ 소버린 AI 전략과 직결

ETRI의 이번 행보는 정부가 추진 중인 ‘소버린 AI’ 및 ‘AI G3 도약’ 전략과도 맞물린다. 단순한 기술 개발을 넘어 글로벌 규범 경쟁에 기여하는 사례로, 미국 NIST가 국가 AI 전략을 국제표준화로 뒷받침하는 것과 유사한 접근이다. 이승윤 ETRI 표준연구본부장은 “AI 레드팀 테스팅과 신뢰성 라벨은 미국·EU 규제 정책에도 포함된 핵심 요소”라며 “ETRI는 앞으로도 국제표준화를 주도해 대한민국이 ‘소버린 AI 안전 기술’까지 선도하도록 만들겠다”고 강조했다.

◆ 향후 전망

국제적으로는 AI 안전성 평가와 신뢰성 표시가 규제 준수의 필수 요소로 자리잡아가고 있다. 전문가들은 이번 표준이 정착될 경우, 국내 기업들의 해외 시장 진출에도 긍정적 영향을 줄 것으로 내다본다. 특히 ESG와 맞물린 ‘AI 탄소발자국’ 표시까지 확대되면, 글로벌 산업계 전반에 새로운 경쟁 기준으로 작용할 가능성이 크다.

0 0