 |
| ▲ Open Ai [ 연합뉴스 제공 ] |
과학기술정보통신부는 AI안전연구소와 오픈AI가 고위험 분야 AI 안전 협력 강화를 위한 업무협약을 체결했다고 17일 밝혔다.
이번 협약은 최첨단 AI 모델의 안전성 확보를 위해 양 기관이 고위험 분야별 평가 방법론과 벤치마크 관련 지식, 모범사례를 공유하는 내용을 담고 있다. 협약식은 한국전자통신연구원 서울사무소에서 진행됐다.
과기정통부는 지난해 10월 오픈AI와 체결한 업무협약을 통해 마련한 AI 협력 기반을 AI 안전 분야로 확대하기 위해 이번 협약을 추진했다고 설명했다. 올해 과기정통부 제2차관과 오픈AI 고위관계자 간 두 차례 면담에서도 AI 안전 협력 방안이 논의됐다.
AI안전연구소와 오픈AI는 이번 협약에 따라 고위험 분야에서 최첨단 AI 모델의 안전성을 평가하기 위한 방법론과 벤치마크 관련 정보를 공유하기로 했다. 또 한국어와 한국의 사회적·문화적 맥락을 반영한 평가체계를 개발하기 위해 기술 정보를 교환하기로 했다.
양 기관은 국제적으로 적용 가능한 AI 안전 평가체계 마련을 위해서도 협력할 계획이다. 협력 범위에는 고성능 AI 모델, 자율형 에이전트 AI 등 빠르게 발전하는 AI 기술의 위험 요소를 검토하고, 평가 기준을 고도화하는 내용이 포함된다.
오픈AI가 각국 AI안전연구소와 업무협약을 체결한 것은 미국, 영국, 일본에 이어 이번이 네 번째다. 과기정통부는 이번 협약을 통해 한국이 최첨단 AI의 위험 검증과 평가 기준 마련을 위한 국제 협력 네트워크에서 역할을 강화할 수 있게 됐다고 밝혔다.
AI안전연구소는 AI 안전성 평가와 연구, 주요국 AI안전연구소와의 협력을 담당하는 조직이다. 연구소는 AI안전정책 및 대외협력, AI안전평가, AI안전연구 기능을 중심으로 안전한 AI 개발과 활용을 지원하고 있다.
이번 협약은 인공지능 제도 기반이 정비되는 흐름과도 맞물려 있다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 사항을 규정하기 위해 제정됐으며, 올해 1월부터 시행되고 있다. 과기정통부는 이번 보도자료에서 관련 국정과제로 국민의 안전과 보편적 삶의 질 제고를 위한 ‘AI기본사회’ 실현을 제시했다.
협약 체결 이후 양 기관은 실무협의를 거쳐 구체적인 협력 과제와 일정을 확정할 예정이다. 후속 협의에서는 고위험 분야의 평가 대상, 한국어 기반 평가체계 개발 범위, 국제 협력 체계와의 연계 방식 등이 논의될 것으로 보인다.
이진수 과기정통부 인공지능정책기획관은 “고성능 AI, 자율형 에이전트 AI 등 최첨단 AI 모델의 안전성 확보를 위해 글로벌 선도기업과의 협력을 강화하고 AI 안전성 평가 체계를 고도화해 나갈 시점”이라며 “이번 협약을 계기로 양 기관이 급변하는 글로벌 AI 기술과 이용 환경에 대응하여 최첨단 AI의 안전 확보에 적극 협력하길 기대한다”고 밝혔다.
김명주 AI안전연구소장은 “AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 엄밀한 안전 평가는 선택이 아닌 필수가 되고 있다”며 “이번 협약을 통해 오픈AI와 함께 최첨단 AI의 위험을 과학적으로 검증하고, 국제적으로 통용되는 평가 체계를 만드는 데 기여하겠다”고 말했다.
이상현 오픈AI 아시아태평양 지역 정책 총괄은 “한국은 AI기술의 활용과 혁신이 빠르게 이루어지고 있는 중요한 나라”라며 “이번 협력을 통해 고위험 분야 AI 안전성 평가에 대한 지식과 모범 사례를 공유하고, 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 함께 기여하게 되어 뜻깊게 생각한다”고 말했다.
[ⓒ 매일안전신문. 무단전재-재배포 금지]
