[특집1: 과학기술과 인권, 그리고 민주주의]

인공지능이 인권과 민주주의에 미치는 영향과 인공지능법안의 쟁점 / 유승익

<국문초록>

인공지능은 인권과 민주주의의 관점에서 긍정적 측면과 부정적 측면을 모두 갖는다. 인공지능은 정치적･경제적･사회적 구조를 획기적으로 전환할 뿐만 아니라, 새로운 헌법적･법률적 문제를 제기하고 있다. 이 글은 정치적･법적 문제의식에 한정하여 인공지능이 인권과 민주주의에 미치는 영향을 살펴보고, 최근 국회에서 논의되고 있는 인공지능 법안의 쟁점을 짚어본다.

인공지능 시스템은 거의 모든 인권과 기본권에 부정적 영향을 미칠 수 있다. 특히 표현의 자유와 개인정보자기결정권에 대한 영향은 민주적 의사형성과정에 중대한 장애를 초래할 수 있다. 특히 ‘콘텐츠 관리’와 ‘사용자 프로파일링’은 인공지능 시스템이 기본권과 민주주의에 미치는 위험성을 예시하는 대표적 사례이다. 같은 맥락에서 온라인상의 허위 정보에 대한 규제와 관리 문제가 제기된다. 통제되지 않는 인공지능 시스템은 개인의 인권을 취약하게 할 뿐만 아니라 정치적 공동체의 운명을 민간기업의 처분에 맡기게 되는 위험도 안고 있다. 또한 감시사회가 고도화되고 분화되어 전통적 감시 권력이 빅데이터 감시 권력으로 진화하면서, 감시권력을 인권 주체의 대립적 객체가 아닌 사회적 인프라 구조처럼 자리매김하고, 감시 자본주의하에 개인은 데이터 조각으로 비인격화, 분할, 무화된다. 자유는 ‘동의’에 의한 의사 결정의 위임과 인공지능 시스템에 의한 정보원의 독과점의 방식으로 포획되고, 개인과 집단의 정체성은 알고리즘에 의해 유도되면서 집단양극화된다. 자유는 외재적으로 제약되는 것이 아니라 내재적으로 왜곡된다. 인공지능사회는 빅테크, 디지털 플랫폼 등 사적 행위자가 국가나 정부의 역할을 초월하면서 사적 권력을 행사한다. 기업 권력은 정치 권력과 병존하면서 헌법 전통에 도전하고 있다.

세계 여러 나라는 인공지능 기술의 잠재적 위험에 대처하기 위한 입법을 준비하고 있다. 우리 국회에서도 인공지능법안에 대한 입법절차를 진행 중이다. 하지만 이 법안이 채택한 “우선허용･사후규제 원칙”은 인공지능 기술에 잠재한 위험에 대처하기에 부적합하며, 산업육성에 반드시 유리한 방식도 아니다. 고위험 영역 인공지능에 관한 분류는 유럽연합 등의 세분화된 분류방식과 대조적으로 금지되는 인공지능을 규정하지도 않으며, 생명･안전･기본권에 미치는 중대한 위험성이 예상되는 영역을 별다른 근거 없이 제외하고 있다. 또한 인공지능 정책의 주관 기관을 기술관료 중심의 과기정통부로 설정함으로써 산업편향적인 인공지능 정책 거버넌스에 치중하고 있다. 따라서 현재 계류 중인 법안은 전면적으로 재검토되어야 한다.

인공지능의 잠재적 위험성에 대비하고 인권과 민주주의가 기술결정론으로 대체되는 것을 방지하기 위해서는 인공지능 시스템의 한계와 오용 가능성을 직시하고 빅테크 기업에 대한 규제 거버넌스를 구축하여야 한다.

주제어: 인공지능, 알고리즘, 데이터, 인권, 민주주의