 |
| ▲ AI 규제 [ AI 이미지 생성] |
[매일안전신문=이상훈 기자]
정부가 첨단 인공지능(AI) 위험에 대응하기 위한 국가 차원의 AI 안전 종합계획을 올해 12월까지 마련한다.
과학기술정보통신부는 ‘국가 AI 안전 생태계 조성 마스터플랜’ 수립을 위한 민관 실무협의체를 구성하고 10월부터 본격 운영한다고 30일 밝혔다. 협의체는 정부와 유관기관, 국내외 AI 기업·협회, 기술 및 법·제도 전문가 등 25명 안팎으로 구성된다.
마스터플랜은 AI 혁신을 추진하는 과정에서 안전과 신뢰 기반을 함께 강화하기 위한 정부 차원의 종합계획이다. 과기정통부는 최근 첨단 AI 기술과 산업 환경이 빠르게 변화하면서 기존 정책을 점검하고 산업계와 전문가 의견을 반영할 필요성이 커졌다고 설명했다.
정부가 검토 중인 마스터플랜은 크게 세 가지 전략을 중심으로 구성된다. 국가 AI 안전 관리체계 구축, 첨단 AI 안전 대응역량 강화, 국민 일상의 AI 안전 환경 조성이 기본 방향이다. 실무협의체는 이들 전략과 핵심과제를 점검하고 해외 AI 안전정책과 산업·기술 동향을 반영한 신규 과제와 보완 과제를 발굴할 예정이다.
협의체에는 과기정통부와 국가인공지능전략위원회를 비롯해 인공지능안전연구소, 한국지능정보사회진흥원, 정보통신정책연구원, 한국정보통신기술협회 등이 참여한다. 산업계에서는 국내 주요 AI 기업과 글로벌 AI 기업, 중소·스타트업, 한국인공지능·소프트웨어산업협회, 코리아스타트업포럼 등이 참여한다.
기업들은 AI 개발·활용 과정에서 축적한 현장 경험과 의견을 제시하고, 유관기관과 전문가들은 기술·정책·법제 등 분야별 관점에서 안전정책 과제를 논의할 예정이다. 과기정통부는 협의체 논의 결과를 검토한 뒤 관계부처 협의를 거쳐 올해 12월까지 마스터플랜을 수립할 계획이다.
이번 계획은 올해 시행된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’에 따른 AI 안전·신뢰 정책과도 연결된다. 인공지능기본법은 2026년 1월 22일부터 시행됐으며, 국가와 지방자치단체가 안전한 AI 이용환경을 조성하도록 노력해야 한다는 원칙을 두고 있다.
법 제29조는 정부가 안전하고 신뢰할 수 있는 AI 이용환경 조성, AI 안전·신뢰 확보를 위한 안전기술과 인증기술 개발·확산, AI 사업자의 자율규약 제정·시행 지원 등의 정책을 마련하도록 규정하고 있다. 이번 마스터플랜은 이러한 법정 정책 방향을 국가 차원의 안전관리 체계와 구체적 대응과제로 연결하는 형태로 추진된다.
일정 수준 이상의 대규모 AI 시스템에는 별도의 안전성 확보 의무도 적용된다. 인공지능기본법 제32조에 따르면 대통령령으로 정한 누적 연산량 기준 이상인 AI 시스템을 운영하는 사업자는 AI 수명주기 전반의 위험을 식별·평가·완화하고, 안전사고를 모니터링·대응하는 위험관리체계를 구축해야 한다. 관련 이행 결과는 과기정통부 장관에게 제출하도록 규정돼 있다.
고영향 AI에 대해서는 기본권 영향을 고려한 별도 규정도 마련돼 있다. 인공지능기본법은 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI를 고영향 인공지능으로 규정하고 있으며, 관련 제품이나 서비스를 제공하는 사업자는 사전에 기본권에 미치는 영향을 평가하도록 노력해야 한다고 정하고 있다.
이진수 과기정통부 인공지능정책기획관은 “그간 인공지능기본법 시행 등 AI 혁신과 안전의 균형을 위한 기반을 조성해 왔으나, 첨단 AI 위험에 대한 국가적 대응역량 강화가 필요한 시점”이라며 “현장의 수용성과 글로벌 AI 안전 정책·기술 동향을 반영하여 실효성 있는 국가 AI 안전 생태계 조성 방안을 마련하겠다”고 말했다.
[ⓒ 매일안전신문. 무단전재-재배포 금지]
