AI must benefit people with intellectual disabilities

인공지능이라는 이름을 처음 들었을 때, 한 엄마로서 가장 먼저 떠올린 사람은 지적장애가 있는 내 아이였습니다. 인간의 지능을 돕기 위해 만든 기술이라면, 이해하고 배우고 판단하는 데 더 많은 지원이 필요한 사람에게 먼저 도움이 되어야 하지 않을까 생각했습니다.

가장 똑똑한 사람을 더욱 앞서가게 하는 것보다, 지금까지 기술의 혜택에서 밀려났던 사람의 이해와 선택을 넓히는 일. 나는 그것이 인공지능이 가장 먼저 해야 할 일이라고 믿습니다.

엄마의 질문

나는 아이의 이름이나 구체적인 삶을 이 글의 근거로 내놓지 않으려 합니다. 한 사람의 사생활을 공개하지 않아도 질문은 분명하기 때문입니다.

인공지능은 누구에게 먼저 유용해야 합니까?

오늘의 AI는 글을 요약하고, 질문에 답하고, 그림과 영상을 만들며, 복잡한 일을 빠르게 처리합니다. 이미 많은 정보를 다룰 수 있는 사람에게는 더 큰 속도와 편의를 제공합니다. 그 발전은 놀랍습니다. 그러나 기술의 성취를 가장 잘 활용할 수 있는 사람만 계속 더 앞서간다면, 우리는 그것을 모두를 위한 진보라고 부를 수 있을까요?

지적장애는 학습, 추론, 문제 해결과 같은 지적 기능뿐 아니라 언어와 문해, 돈과 시간, 자기 결정, 일정과 안전 등 일상에서 사용하는 적응행동에 상당한 제한이 있는 상태입니다.4 그렇다고 지적장애인이 선택할 수 없는 사람이라는 뜻은 아닙니다. 필요한 것은 선택을 없애는 일이 아니라, 이해하고 표현하고 판단할 수 있도록 각 사람에게 맞는 지원을 제공하는 일입니다.

도서출판 날자의 선언

AI must benefit people with intellectual disabilities.
AI는 지적장애인의 이해와 선택, 참여를 넓혀야 합니다.

이 문장은 기술이 언젠가 좋은 일을 해 주기를 바라는 막연한 기대가 아닙니다. 도서출판 날자가 AI와 교육 자료를 바라보고 판단하는 기준입니다.

유엔 장애인권리협약은 장애인의 존엄과 자율성, 자신의 선택을 할 자유, 사회에 완전하고 효과적으로 참여할 권리를 기본 원칙으로 둡니다. 또한 정보와 정보통신기술에 대한 접근, 접근 가능한 형식의 정보 제공, 의사소통과 법적 능력 행사를 위한 지원을 요구합니다.1 이 권리는 AI가 등장하기 전부터 존재했습니다. AI는 권리를 새로 허락하는 기술이 아니라, 이미 보장되어야 할 권리를 실제 생활에서 더 잘 행사하도록 도울 수 있는 기술이어야 합니다.

실질적인 혜택은 무엇일까?

여기서 benefit, 즉 혜택은 보호자나 기관의 업무가 빨라지는 것만을 뜻하지 않습니다. 지적장애인 당사자에게 직접 다음과 같은 변화가 생겨야 합니다.

필요한 정보를 자신에게 맞는 방식으로 이해할 수 있어야 합니다.
자신의 질문, 감정과 의사를 표현할 수 있어야 합니다.
가능한 선택지와 그 결과를 살펴보고 선택할 수 있어야 합니다.
교육, 일상생활과 사회에 참여할 기회가 넓어져야 합니다.

AI는 긴 안내문을 핵심 중심의 쉬운 문장으로 바꾸는 일을 도울 수 있습니다. 말이나 글로 질문을 정리하기 어려운 사람이 하고 싶은 말을 찾도록 보조할 수 있습니다. 여러 선택지의 같은 점과 다른 점, 예상되는 결과를 한 단계씩 비교해 줄 수도 있습니다. 한 번의 설명으로 이해하기 어려울 때 다른 표현과 예시로 반복해서 설명하고, 일정·이동·돈·안전에 관한 정보를 확인하는 데 쓰일 가능성도 있습니다.

정보를 쉽게 읽고 이해할 수 있게 만드는 일은 내용을 무조건 짧게 줄이는 것과 다릅니다. Inclusion Europe의 쉬운 정보 기준은 정보를 사용하는 사람이 이해할 수 있는 낱말, 문장, 구조와 표현을 선택하도록 안내합니다.3 AI가 쉬운 정보를 만드는 데 사용된다면, 그 결과 역시 지적장애인 당사자와 함께 확인해야 합니다. 문장이 간단해 보여도 뜻이 틀리거나 중요한 조건이 빠질 수 있기 때문입니다.

이 사례들은 AI가 지원할 수 있는 방향이지, 현재의 모든 AI 제품이 모든 지적장애인에게 안정적으로 효과를 낸다는 증거가 아닙니다. 사람마다 언어, 경험, 관심, 감각 환경과 필요한 지원이 다릅니다. AAIDD도 개인의 제한과 강점을 함께 보고, 적절하고 개별화된 지원을 지속적으로 제공해야 한다고 강조합니다.4

도움과 대리결정은 다릅니다

선택지를 이해하기 쉬운 말로 설명하는 것은 결정을 돕는 일입니다. 그러나 AI나 보호자, 기관이 편의를 이유로 그 사람 대신 선택하는 것은 결정을 빼앗는 일입니다.

예를 들어 AI가 두 교육 프로그램의 일정과 차이를 쉽게 설명하고, 당사자가 중요하게 생각하는 조건을 질문하도록 돕는 것은 유용할 수 있습니다. 반대로 과거 기록만으로 “이 사람에게는 이 선택이 맞다”고 결론을 내리고 다른 선택을 보이지 않는다면, 지원이 아니라 통제가 될 수 있습니다.

유엔 장애인권리협약은 장애인이 다른 사람과 동등하게 법적 능력을 누리며, 그 능력을 행사하는 데 필요한 지원에 접근할 수 있어야 한다고 밝힙니다.1 핵심은 결정권을 대신 가져가는 것이 아니라 결정할 수 있도록 지원하는 것입니다.

AI의 답변은 자연스럽고 자신 있게 들려도 사실이 아닐 수 있습니다. 중요한 정보가 빠지거나 특정한 사람과 상황을 잘못 해석할 수도 있습니다. 교육, 복지, 건강과 법률처럼 삶에 큰 영향을 주는 결정에는 확인 가능한 출처와 책임 있는 사람의 검토가 필요합니다. AI가 설명을 도울 수는 있어도 책임까지 맡을 수는 없습니다.

AI가 혜택이 되기 위한 다섯 원칙

1. 당사자와 함께 만듭니다

지적장애인은 기술을 완성한 뒤 사용법을 시험해 보는 마지막 사용자가 되어서는 안 됩니다. 어떤 문제가 중요한지 정하는 단계부터, 표현과 화면을 설계하고 실제 사용 결과를 평가하는 단계까지 참여해야 합니다. 당사자 없이 추측한 편리함은 당사자에게 불편이나 위험이 될 수 있습니다.

2. 쉽게 이해하고 조작할 수 있어야 합니다

쉬운 문장, 한눈에 구분되는 화면, 충분한 시간과 명확한 되돌리기 기능이 필요합니다. 말하기, 글쓰기, 그림, 읽어 주기처럼 여러 입력과 출력 방법도 제공해야 합니다. 접근성은 별도의 부가 기능이 아니라 처음부터 제품의 기본 구조여야 합니다.

3. 한 사람에게 맞게 조정할 수 있어야 합니다

같은 지적장애라는 이름 아래에서도 이해하는 방식과 필요한 지원은 서로 다릅니다. 설명의 길이, 낱말, 예시, 반복 횟수와 정보량을 개인에게 맞게 조정할 수 있어야 합니다. 다만 개인화라는 명목으로 그 사람의 가능성을 낮게 예측하거나 새로운 경험을 차단해서는 안 됩니다.

4. 개인정보와 존엄을 지켜야 합니다

장애 정보, 대화 기록과 생활 습관은 매우 민감한 정보입니다. 서비스에 꼭 필요하지 않은 정보는 수집하지 않고, 무엇을 왜 사용하는지 이해할 수 있게 설명해야 합니다. 보호와 안전을 이유로 일상을 계속 감시하거나, 동의 없이 다른 목적으로 데이터를 사용해서는 안 됩니다.

5. 사람의 선택과 책임을 남겨야 합니다

AI가 어떤 정보를 바탕으로 답했는지 확인하고, 틀린 내용을 수정하며, 사용을 거부하거나 사람에게 도움을 요청할 길이 있어야 합니다. 중요한 결정의 책임은 AI가 아니라 서비스를 만들고 사용하는 사람과 기관에 남아야 합니다.

UNESCO의 AI 윤리 권고는 인권과 인간의 존엄, 다양성과 포용, 공정성과 비차별, 개인정보 보호, 인간의 감독과 책임을 AI 전 과정에서 지켜야 할 원칙으로 제시합니다.2 이 권고가 도서출판 날자의 문장을 직접 지지한다는 뜻은 아닙니다. 다만 AI의 혜택을 말하려면 권리와 위험을 함께 다뤄야 한다는 국제적 기준과 우리의 선언은 같은 질문을 향합니다.

가능성과 위험을 함께 봅니다

나는 AI가 지적장애인에게 새로운 가능성을 열 수 있다고 믿습니다. 이해하기 어려웠던 정보를 다른 방식으로 설명하고, 말하고 싶었던 내용을 정리하고, 한 사람의 속도에 맞춰 다시 연습하는 도구가 될 수 있습니다. 지금까지 충분한 자료와 지원을 받지 못했던 사람에게 더 많은 학습과 참여의 기회를 줄 수도 있습니다.

그러나 가능성을 믿는 것과 위험을 외면하는 것은 다릅니다. 우리는 다음 문제를 함께 보아야 합니다.

AI가 틀린 정보를 확신 있게 말할 수 있습니다.
학습 데이터와 평가 과정에 지적장애인의 언어와 경험이 충분히 반영되지 않을 수 있습니다.
보호와 효율을 명분으로 당사자를 감시하고 행동을 통제할 수 있습니다.
장애 정보와 사적인 대화가 수집되거나 유출될 수 있습니다.
당사자의 필요보다 보호자와 기관의 편의를 우선할 수 있습니다.
충분한 인간 지원을 제공하지 않기 위한 값싼 대체 수단으로 사용될 수 있습니다.

혜택은 가능성과 위험을 저울 양쪽에 놓고 좋은 점이 조금 더 많으면 얻어지는 결과가 아닙니다. 중대한 위험을 줄이고, 당사자가 이해하고 거부하고 수정할 수 있으며, 자신의 삶에 대한 주도권을 유지할 때 비로소 혜택이라고 부를 수 있습니다.

도서출판 날자의 약속

도서출판 날자는 지적장애인을 기술이 완성된 뒤 추가로 고려하는 사용자로 보지 않겠습니다. AI가 우선적으로 혜택을 제공해야 할 사람으로 바라보겠습니다.

앞으로 AI와 관련된 콘텐츠와 교육 자료, 제품을 판단할 때 우리는 다음 질문을 반복하겠습니다.

이 기술은 지적장애인이 더 잘 이해하도록 돕는가?
자신의 의사를 표현하고 선택할 여지를 넓히는가?
당사자의 존엄, 개인정보와 주도권을 지키는가?
가족과 교사, 지원자의 일을 줄이는 데서 멈추지 않고 당사자에게 직접적인 이익을 주는가?

엄마로서 나는 새로운 기술이 내 아이의 삶을 대신 결정하기를 바라지 않습니다. 아이가 자신의 삶을 더 잘 이해하고, 표현하고, 선택할 수 있도록 돕기를 바랍니다. 도서출판 날자 대표로서도 같은 기준을 지키겠습니다.