고영향 인공지능 해당 여부는 AI 기본법상 의무가 시작되는 첫 단계입니다. 자사 서비스가 고영향 인공지능으로 분류되면 단순한 기술 설명을 넘어 사전 검토, 안전성·신뢰성 확보 조치, 이용자 보호, 문서화, 기본권 영향평가 준비까지 함께 보아야 합니다.
AI 기본법상 고영향 인공지능은 사람의 생명·신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템을 말합니다. 법은 10개 구체 영역을 열거하고, 그 밖에 사람의 생명·신체 안전 및 기본권 보호에 중대한 영향을 미치는 영역을 대통령령으로 정할 수 있도록 두고 있습니다. 법제처 국가법령정보센터는 현행 AI 기본법을 2026. 1. 22. 시행 법률로 표시하고 있습니다.
고영향 인공지능은 분야명만으로 판단하지 않습니다
모든 AI 서비스가 고영향 인공지능이 되는 것은 아닙니다. 단순 추천, 문서 요약, 내부 업무 자동화 도구는 사용 방식에 따라 일반 AI에 머물 수 있습니다. 반면 같은 추천 알고리즘이라도 채용 후보자 순위, 대출 승인 가능성, 공공서비스 수급 자격, 학생 평가 결과처럼 개인의 권리·의무나 기본권에 직접 영향을 주면 고영향 검토가 필요합니다.
따라서 먼저 볼 질문은 "AI가 쓰였는가"가 아닙니다. "이 AI가 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미치는 판단에 관여하는가"입니다. 의료 분야 AI라고 모두 고영향인 것도 아니고, 채용 분야 AI라고 모두 고영향인 것도 아닙니다. 서비스 목적, 기능, 이용 방식, 결과가 사람에게 미치는 영향을 같이 보아야 합니다.
10개 구체 영역과 대통령령 위임 영역
현행 법령상 고영향 인공지능 검토가 필요한 구체 영역은 다음과 같이 정리할 수 있습니다.
1. 에너지 공급: 전력·가스 등 공급 운영에 영향을 주는지 확인합니다.
2. 먹는물 생산 공정: 수질·생산·공정 안정성에 영향을 주는지 확인합니다.
3. 보건의료 제공·이용체계: 진단·치료·환자 관리 등 보건의료 체계에 영향을 주는지 확인합니다.
4. 의료기기·디지털의료기기: 의료기기 또는 디지털의료기기 개발·이용에 해당하는지 확인합니다.
5. 원자력: 핵물질·원자력시설 안전 관리에 관여하는지 확인합니다.
6. 범죄수사·체포 생체인식: 얼굴·지문·홍채 등 생체인식정보를 수사·체포 업무에 활용하는지 확인합니다.
7. 채용·대출 등 권리관계 평가: 채용, 대출심사 등 개인의 권리·의무 관계에 중대한 영향을 주는 판단인지 확인합니다.
8. 교통: 교통수단·교통시설·교통체계의 주요 작동·운영에 관여하는지 확인합니다.
9. 공공서비스: 자격 확인, 결정, 비용징수 등 국가기관 등의 의사결정에 영향을 주는지 확인합니다.
10. 교육: 유아교육·초등교육·중등교육에서 학생 평가에 쓰이는지 확인합니다.
위 목록은 단순한 업종 분류가 아닙니다. 같은 이미지 분석 AI라도 쇼핑몰 상품 분류에 쓰이면 일반 서비스일 수 있지만, 의료 영상 판독 보조나 범죄수사 목적 생체인식에 쓰이면 고영향 검토 대상이 될 수 있습니다.
사람 개입이 있으면 무조건 제외되는 것은 아닙니다
과학기술정보통신부 보도자료는 고영향 판단에서 법이 정한 영역에 해당하는지, 위험의 중대성이 있는지 등을 고려하면서 최종 의사결정 과정에 사람이 개입하는 경우에는 통제 가능한 것으로 보아 고영향 인공지능 대상에서 제외된다고 설명합니다.
그러나 "사람이 최종 승인 버튼을 누른다"는 사정만으로 충분하다고 보기는 어렵습니다. 담당자가 AI 점수를 그대로 승인하는 방식이라면 실질적인 통제라고 보기 어렵습니다. 반대로 사람이 AI 결과를 참고자료로만 사용하고, 별도 기준에 따라 판단하며, 필요할 때 결과를 수정·배제할 수 있다면 고영향 판단에서 중요한 차이가 생깁니다.
실무에서는 AI 결과가 최종 결정인지 보조 자료인지, 사람이 판단을 바꿀 권한이 있는지, 변경·거부 사례가 기록되는지, 이용자에게 문의나 이의제기 경로가 있는지를 함께 확인해야 합니다.
고영향으로 보이면 확인 요청과 책무 이행을 준비해야 합니다
고영향 가능성이 있으면 사업자는 먼저 자가 검토를 해야 합니다. AI 기본법 제33조는 인공지능사업자가 AI 또는 AI 이용 제품·서비스를 제공하는 경우 고영향 인공지능 해당 여부를 사전에 검토하도록 하고, 필요한 경우 과학기술정보통신부장관에게 확인을 요청할 수 있도록 정합니다.
고영향으로 분류되면 제34조의 안전성·신뢰성 확보 조치가 뒤따릅니다. 위험관리방안, 설명 방안, 이용자 보호 방안, 사람의 관리·감독, 문서 작성·보관이 이 단계에서 문제 됩니다. 제35조 영향평가도 함께 검토해야 합니다. 다만 제35조는 "평가하기 위하여 노력하여야 한다"는 문언이므로, 강행적 결과 의무처럼 쓰기보다는 노력의무로 설명하는 편이 안전합니다.
결국 고영향 인공지능 검토는 "우리 서비스가 규제 대상인가"를 묻는 절차에 그치지 않습니다. 제품 설계, 운영 문서, 이용자 고지, 위험관리, 외주 개발 계약, 공공기관 납품 전략까지 이어지는 컴플라이언스의 첫 단계입니다.
자주 묻는 질문
의료 AI는 모두 고영향 인공지능인가요?
아닙니다. 의료 영역은 고영향 검토 대상 영역이지만, 실제 기능과 활용 방식, 환자의 생명·신체 안전에 미치는 영향까지 함께 보아야 합니다.
채용 AI는 모두 고영향인가요?
단순 공고 추천이나 일정 관리 도구라면 다르게 볼 수 있습니다. 그러나 지원자 평가, 순위 산정, 탈락·합격 판단에 실질적으로 관여하면 고영향 검토가 필요합니다.
대출심사 챗봇도 고영향 AI가 될 수 있나요?
챗봇이 단순 안내만 하면 일반 상담 도구에 가까울 수 있습니다. 반면 상환능력 평가, 승인 가능성 산정, 한도 판단에 영향을 주면 고영향 검토가 필요합니다.
사람이 최종 승인하면 고영향에서 무조건 제외되나요?
무조건은 아닙니다. 사람이 실질적으로 통제하고 결과를 바꿀 수 있는지, 그 과정이 기록되는지가 중요합니다.
고영향 여부가 애매하면 어떻게 해야 하나요?
자가 검토 결과가 불명확하면 서비스 개요, 활용 방식, 의사결정 흐름, 위험관리 방안을 정리해 확인 요청을 검토하는 것이 안전합니다.
작성: 조국환 변호사팀 | AUCTORITAS LAB