중소벤처기업연구원은 31일 '설명 가능한 AI의 부상, 중소기업 정책 방향'에 관한 보고서를 발간했다고 밝혔다.
중소벤처기업연구원 김기만 부연구위원은 이번 보고서를 통해 설명 가능한 AI(XAI)를 중소기업의 유망한 기술, 비즈니스 분야로 인식하고 XAI 이행 기반 강화와 전문기업을 육성하는 것이 필요하다고 제언했다.
보고서는 국내외에서 AI 활용에 따른 안전성, 책임성을 확보하기 위한 주요 원칙 중 하나로 설명 가능성이 강조되고 있는 상황에 주목할 필요가 있다고 설명했다.
XAI는 AI 시스템의 투명성을 높이기 위해 패러다임을 전환하려는 노력이며, 사용자가 AI 시스템의 의사결정 과정을 이해할 수 있도록 하는 기술 및 방법이다.
XAI에 대한 세계시장 규모는 빠르게 성장할 것으로 전망되고 있으며, 2034년까지 약 65조원 규모에 이를 것으로 예측되기도 한다.
보고서는 XAI에 대한 지속적 발전이 이뤄지고 있고 세계시장 규모의 빠른 확대가 전망되는 상황에서 ▲이행 기반 강화 ▲전문기업 육성 ▲중소기업 위기관리모형 고도화 ▲신규 정책의 잠재적 영향 진단 툴 확보 등의 정책 방향이 필요하다고 제언했다.
특히 중소기업의 AI 기반 비즈니스 또는 공공부문 의사결정 시 XAI 적용을 절차적으로 포함하는 것이 바람직하다고 강조했다.
제조 등 다양한 분야에서 XAI 서비스 개발, 보급 전문기업 육성도 필요하다.
중소기업 생태계 변화에 대한 사전 예측 및 진단 시스템을 확보하기 위한 노력도 요구된다.
김기만 부연구위원은 "XAI를 적용해 신규 정책 설계에 대한 잠재적 영향을 가늠할 수 있는 진단 도구를 확보하는 것이 필요하다"고 설명하며 "이를 통해 이해관계자에게 정책 수립에 대한 신뢰할 수 있는 과학적 근거를 제공할 수 있다"고 강조했다.
김철현 기자 kch@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제 무단전재 배포금지>
