▲ 보건복지부 세종 청사 [ 보건복지부 제공 ][매일안전신문=이상훈 기자]

생성형 인공지능(AI)을 이용해 정신건강 상담을 받거나 심리적 고민을 나누는 경우 AI의 답변을 의학적 진단으로 받아들이지 않도록 하는 정부 지침이 마련됐다. 개인정보 입력을 제한하고 AI와의 대화 시간을 조절하는 한편, 중요한 판단이나 정신건강 위기 상황에서는 실제 사람과 전문가의 도움을 받도록 권고하는 내용도 포함됐다.

보건복지부와 대한신경정신의학회는 8일 '정신건강 목적 생성형 AI 이용 가이드라인'을 발표했다. 오는 10일 정신건강의 날을 앞두고 마련된 이번 지침은 모든 이용자를 위한 공통 가이드라인과 아동·청소년 및 보호자를 위한 별도 가이드라인으로 구성됐다.

이번 조치는 생성형 AI가 정보 검색이나 업무 지원을 넘어 일상적인 대화와 정서적 위로, 정신건강 상담에 활용되는 상황을 고려해 마련됐다. 정부는 앞서 지난 3월 '제3차 정신건강복지기본계획(2026~2030)'과 6월 청소년 자살예방 관련 범정부 대책을 통해 AI 과의존 예방을 위한 지침 마련 계획을 밝힌 바 있다. 

 

실제 생성형 AI를 이용한 경험이 있는 사람 상당수가 정서적 목적으로도 서비스를 활용하는 것으로 조사됐다. 한국보건사회연구원이 지난 8월 25일부터 9월 4일까지 최근 한 달 이내 생성형 AI를 이용한 15~79세 국민 1,019명을 대상으로 온라인 설문조사를 실시한 결과, 응답자의 68.8%가 일상 대화나 감정적 교감, 정신건강·심리상담 등의 목적으로 AI를 이용하고 있었다.

AI의 답변이나 조언을 통해 도움을 받거나 문제를 해결한 경험이 있다는 응답은 79.9%였다. 반면 현실의 일에 집중하려 해도 AI와 대화를 계속 이어가게 된다는 응답이 16.3%, 대화 시간을 조절하지 못해 수면이나 일상생활에 지장을 받은 경험은 9.8%로 나타났다.

AI의 조언을 바탕으로 주변 사람과 상의하지 않고 퇴사나 이별 등 중요한 결정을 내린 경험이 있다는 응답도 10.6%였다. 특히 정신건강·심리상담 목적으로 AI를 이용한 응답자 449명에서는 대화를 계속 이어가게 된다는 비율이 23.4%, 일상생활에 지장을 받은 비율은 15.1%로 집계됐다.

이러한 이용 실태를 고려해 정부는 모든 이용자를 대상으로 3가지 핵심 메시지와 21개 권고문을 제시했다. 주요 내용은 AI 이용 전 서비스의 특성과 개인정보 처리방식을 확인하고, AI의 판단을 의학적 진단으로 받아들이지 않으며, 정서적으로 지나치게 의존하지 않도록 이용 범위를 조절하는 것이다.

먼저 정신건강 목적으로 AI를 이용할 때는 서비스의 이용 목적과 대상, 효과에 관한 근거를 확인하도록 했다. 의학적 효과를 표방하는 서비스라면 공인기관의 검증이나 승인 여부를 살펴보고, 이름과 연락처, 주소 등 개인정보뿐 아니라 진단서와 처방전, 검사결과지 등 민감한 자료를 입력하지 않도록 권고했다.

AI가 제공하는 정신건강 정보에 대한 주의사항도 담겼다. 조사에서 응답자의 14.6%는 AI와의 대화를 근거로 자신에게 우울증이나 불안장애 등이 있다고 판단하거나, AI의 답변을 의학적 진단처럼 받아들인 경험이 있다고 답했다.

자신의 정신건강 상태가 나쁘다고 인식한 응답자에서는 해당 비율이 33.9%로 높아졌다. 반면 AI가 제공한 정신건강 정보나 조언을 전문가 또는 공식자료를 통해 확인한 경험은 전체의 11.9%에 그쳤다.

이에 따라 가이드라인은 AI가 제시하는 진단이나 위험도 평가를 확정적인 의학적 판단으로 받아들이지 말고, 다른 가능성을 함께 살펴보도록 안내했다. AI의 조언이 자신의 상황에 적합하지 않다면 그대로 따르지 않도록 하는 내용도 포함했다.

정서적 과의존을 예방하기 위한 기준도 마련됐다. AI를 실제 사람과 동일한 존재로 여기지 않도록 하고, 이용 시간이 늘어나거나 가족·친구와의 관계가 줄어드는 경우 의식적으로 이용을 조절하도록 권고했다. 위험하거나 부적절한 답변을 받거나 정신건강 위기 상황에 놓였을 때는 AI와의 대화에만 의존하지 않고 주변 사람이나 전문기관에 도움을 요청하도록 했다.

아동·청소년과 보호자에게는 각각 7개의 별도 권고사항을 제시했다. 청소년 이용자는 AI의 답변을 그대로 따르기보다 자신의 상황을 먼저 판단하고, AI 캐릭터를 실제 친구나 연인처럼 여기고 있지는 않은지 점검하도록 했다. 개인정보 보호와 대화 중단, 위기 상황에서 신뢰할 수 있는 어른에게 알리는 방법도 안내했다.

청소년의 AI 이용과 관련한 조사에서는 15~18세 응답자 201명 가운데 51.7%가 스스로 AI에 의존적인 편이라고 답했다. 보호자가 자녀의 AI 이용 사실을 알고 있다는 응답은 83.1%였으나, 보호자와 이용 규칙을 함께 정한 경험은 2.5%에 불과했다.

정부는 보호자가 AI 이용을 일방적으로 금지하기보다 자녀의 이용 목적과 방식을 이해하고, 이용 시간과 개인정보 보호에 관한 규칙을 함께 정하도록 권고했다. 또한 AI에만 고민을 털어놓거나 주변 사람과의 관계에 변화가 있는지 살피고, 정신건강 위기 신호가 나타나면 전문기관과 연계하도록 안내했다.

AI 이용에 관한 제도적 대응 필요성도 높게 나타났다. 응답자의 86.9%가 정부의 역할이 필요하다고 답했으며, 우선 추진해야 할 과제로는 AI 정신건강 가이드라인 수립과 법·제도 정비가 68.7%, 대화 기록의 저장·활용에 대한 규율과 이용자 통제권 보장이 66.8%로 집계됐다.

보건복지부는 이번 가이드라인을 교육현장과 임상 현장에서 활용할 수 있도록 관련 교육 프로그램을 마련할 계획이다. 2027년에는 중증정신질환자를 포함한 고위험군의 특성을 고려한 맞춤형 가이드라인도 추가로 마련할 예정이다.

이선영 보건복지부 정신건강정책관은 “생성형 AI는 정보와 정서적 도움을 얻는 새로운 수단으로 활용될 수 있지만, 친절하고 확신에 찬 답변이 항상 정확성이나 안전성을 보장하지 않는다”고 밝혔다.

최준호 대한신경정신의학회 이사장은 “AI는 전문적인 평가와 치료를 대신할 수는 없는 만큼, 필요한 경우 의료진의 도움을 적기에 받는 것이 중요하다”고 강조했다.

[ⓒ 매일안전신문. 무단전재-재배포 금지]