Test Logo

스타트업이 개발한 서비스에 AI가 탑재되는 일은 이제 낯설지 않다. 채용 플랫폼이 지원자의 이력서를 AI로 필터링하고, 핀테크 서비스가 AI로 대출 가능 여부를 판단한다.

그런데 이러한 서비스를 운영할 때, 그 결과로 영향을 받는 자에게는 AI 판단의 근거와 과정에 대한 설명을 요구할 법적 권리가 이미 부여되어 있다는 점을 많은 스타트업이 아직 충분히 인식하지 못하고 있는 것 같다.

이 글에서는 개인정보 보호법이 정보주체에게 부여한 자동화된 결정에 대한 설명·검토 요구권과, '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI기본법)이 인공지능으로 영향받는 자에게 보장하고자 하는 설명 제공 원칙을 함께 살펴보고, 특히 인간의 의사결정을 자동화하는 AI 서비스를 운영하는 스타트업에게 두 법령이 어떤 의무를 지울 수 있는지를 짚어보고자 한다.

(중략)

그러나 AI가 개인에 관한 데이터를 처리하여 중요한 결정을 내리는 부분에서는 두 법령이 동시에 적용될 수 있다. 개인정보 보호법은 자동화된 결정의 기준과 절차를 공개하도록 요구한다. 정보주체가 설명이나 재검토를 요구하는 경우 이에 대응할 의무도 부과한다. AI기본법은 고영향 인공지능 사업자에게 설명 체계 자체를 사전에 구축·운영하도록 요구한다.

이처럼 접근 방식은 다르지만, 결국 두 법령 모두 AI 의사결정에 대한 설명가능성과 책임성을 요구한다. AI 서비스를 운영하는 스타트업은 이제 두 법령을 함께 고려하여 서비스 구조와 내부 절차를 설계할 필요가 있다.

AI를 활용한 서비스를 운영하거나 준비 중인 스타트업이라면 자신의 서비스가 영향을 받는 자의 권리나 의무에 중대한 영향을 미치는지, AI가 도출한 점수나 등급을 담당자가 실질적 개입 없이 형식적으로만 확인하는 구조를 취하고 있지는 않은지, 그리고 설명이나 검토 요구에 실제로 응할 수 있는 내부 절차가 갖춰져 있는지를 점검할 필요가 있다.

AI를 도입하는 속도만큼, 그 의사결정을 설명하고 통제할 수 있는 내부 체계를 갖추는 일 역시 이제 스타트업의 중요한 컴플라이언스 과제가 되고 있다.