장애우권익문제연구소 등 12일 ‘장애와 인공지능’ 토론회
장애인 AI 접근성과 권리 보호 논의 필요
위험성 줄이기 위해 다차원적 해결 방안 모색돼야

인공지능(AI) 시대에 장애인은 차별받지 않고 새로운 기술을 삶에 적용할 수 있을까? 장애인과 AI의 관계를 논의하기 위해 장애계, 법조계, 학계, 기업, 정부가 한자리에 모였다.

12일 서울 이룸센터에서는 장애우권익문제연구소, 한국장애포럼, 법무법인 디엘지 등의 주최로 ‘장애와 인공지능: 기회와 위기를 논하다’ 토론회가 열렸다.

이날 토론회는 주최 단체들이 장애인의 권리 관점에서 인공지능을 연구한 보고서를 처음 공개하는 자리로, 발제는 연구의 주요 결과를 공유하는 방식으로 진행됐다.

첫 발제를 맡은 최한별 한국장애포럼 사무국장은 “(AI가) 사회 인프라와 제도를 구동하는 근본적 운영체제로서의 지위까지 확보해나가고 있다”고 강조했다.

최 국장은 “AI가 소수성(minority)을 오답이나 노이즈로 처리해 버리는 문제가 발생하면 기존의 구조적인 차별들이 재생산될 수밖에 없다”며 “AI로 인한 차별을 유형화하고 어떻게 개입해야 될지 정리가 필요할 것 같아 연구가 시작되었다”고 밝혔다.

최 국장은 국제적으로 장애인의 AI 접근성과 권리 보호가 화두라며 “2025년 유엔장애인권리협약 당사국회의에서도 AI 모니터링, AI 활용, AI 접근 강화를 본격적으로 이야기해 나가겠다고 시사했다”고 전했다.

AI, 장애인에게 장벽 허무는 도구이자 위험

이어 김영연 장애우권익문제연구소 함께걸음미디어센터장은 4명의 장애 당사자 인터뷰를 통해 AI가 장애인에게 기회이자 위험이 될 수 있다고 평했다.

김 센터장은 인터뷰 참여자 모두 “장애인의 자립과 사회 참여의 확장을 위한 (AI의) 잠재력이 충분히 있다고 이야기했다”고 전했다.

구체적으로 김 센터장은 AI를 통해 음성을 문자로 전환해주는 소프트웨어 ‘소보로’나 대화로 인터넷 쇼핑을 가능하게 하는 AI브라우저 등 정보 접근성 개선 사례를 제시했다. 또한 AI 기능을 이용해 직업 활동에 필요한 경험을 대리 취득하거나 기획을 함께하는 당사자도 있었다. 정신장애인의 경우 AI를 통해 심리상담 등 정서적 지원을 받기도 했다.

하지만 김 센터장은 장애 특성과 인권감수성을 고려하지 않은 AI는 오히려 격차를 심화시킬 수 있다고도 지적했다. 대표적인 예로 “(정신장애인이) ‘환청이 들리는 것 같아’라고 이야기했을 때 (AI는) ‘약을 빨리 먹어야 될 것 같아’, ‘병원에 빨리 가봐’와 같이 의료화된 관점으로 이야기를 한다”며 이 밖에도 구어나 표정이 없는 수어 아바타, 청각장애인에 대한 미흡한 음성 인식, 도전행동 예측을 위한 인공지능 CCTV 도입 등을 함께 설명했다.

홍가연 법무법인 디엘지 변호사는 이에 더해 장애인에 대한 AI의 위험성을 ‘데이터 수집의 편향’, ‘개발 과정에서의 소외’, ‘자기결정권 침해’, ‘범죄에의 취약성’, ‘프라이버시의 침해’, ‘불투명성’ 6가지로 구분했다.

한 마디로 비장애인 중심의 데이터로 AI가 작동 및 개발되는데 장애인 당사자는 의견을 표할 때 기계의 판단에 의존할 가능성이 높아진다는 것이다. 장애인이 허위 정보·딥페이크 등의 범죄에 노출될 위험도 커지고 장애인 특성상 더 민감한 정보를 AI와 공유하기도 한다. 하지만 AI는 기술이기 때문에 사생활 침해, 범죄, 혐오 등이 발생해도 책임질 주체나 개입 지점이 분명치 않다는 것이다.

홍 변호사는 “(AI가) 데이터 수집자, 개발자, 서비스 운영자 등 다중주체의 관여로 책임 소재가 불명확하다”며 “그 책임의 주체를 명확히 하는 법제와 거버넌스가 필요하다”고 강조했다.

학계·기업 “AI 필요해”, 정부 “어렵지 않은 문제”

이날 토론회에 참여한 학계와 기업 쪽 패널들은 그럼에도 AI가 장애인의 삶을 개선할 것이라며 다시 한번 적극적인 AI의 활용 필요성을 강조했다.

이수화 서울대학교 빅데이터 혁신융합대학사업단 교수는 “인공지능이 탑재된 자율주행차 혹은 공용로봇택시는 수요의 분산, 제한된 운행시간, 높은 비용이라는 장애인 이동권 문제를 해결할 열쇠가 될 것”이라고 밝혔다.

박민준 뤼튼테크놀로지스 AX 대표 역시 “과거에는 제약으로 인해서 업무 수행이 어려웠던 일들이 AI도구를 통해서 비장애인과 아무런 차이 없이 기존의 업무 프로세스 안에 온전히 녹아들게 할 수 있다”고 AI의 가능성에 기대를 표했다.

이어 정부 측 토론자로 참석한 권오민 과학기술정보통신부 디지털포용정책팀장은 “오늘 제안해 주신 문제들도 공론화를 거쳐서 제안이 된다면 굉장히 어렵지 않게 해결될 수 있는 문제”라며 ‘디지털 포용 영향 평가’나 기술이나 제품 서비스 사업 계획에 대한 사전 검토로 대응하겠다고 답했다.

이후 토론회에서는 장애 특성 및 인권에 기반한 데이터 양적 확대 방안, 장애인의 AI 접근을 위한 경제적 지원 등의 질문이 이어졌으나 ‘필요하다’ 정도의 공감대만 확인한 후 마무리됐다.