‘장애와 인공지능 체크리스트’ 국회 토론회: 체크리스트를 현장의 테스트로

13일 국회의원회관 제2소회의실에서 열린 「장애와 인공지능 체크리스트」 발표 및 활용방안 국회 토론회에서 발제자와 토론자들이 체크리스트 활용방안을 논의하고 있다. (사진: 장애우권익문제연구소 함께걸음미디어센터)
13일 국회의원회관 제2소회의실에서 열린 「장애와 인공지능 체크리스트」 발표 및 활용방안 국회 토론회에서 발제자와 토론자들이 체크리스트 활용방안을 논의하고 있다. (사진: 장애우권익문제연구소 함께걸음미디어센터)

AIWORKX(에이아이웍스)는 2026년 11월 13일(금) 국회의원회관 제2소회의실에서 열린 「장애와 인공지능 체크리스트」 발표 및 활용방안 국회 토론회에 지정 토론자로 참여했습니다. 최보윤 국회의원과 (사)장애우권익문제연구소, 법무법인 디엘지가 공동주최하고 보건복지부가 후원한 이 자리에서, 연구소와 디엘지가 만든 ‘장애 포용적 AI를 위한 기업 자율 점검 체크리스트’가 처음 공개됐습니다.

김정원 AI 신뢰성 기술총괄은 이 체크리스트가 권고에 머물지 않고 개발 현장에서 실제로 돌아가려면 무엇이 필요한지를 소프트웨어 테스트 관점에서 제안했습니다. 핵심은 문항을 개발자가 실행하고 결과를 확인할 수 있는 테스트로 바꾸는 것, 그리고 그 테스트를 장애 당사자와 함께 만드는 것입니다.

33개 문항, 같은 방식으로는 시험할 수 없다

체크리스트는 데이터 입력 및 개발, 결과 산출 및 운영·활용, AI 리터러시 교육, 인공지능기본법의 4개 영역 33개 문항으로, 각 문항을 ‘충족’, ‘미충족’, ‘해당없음’으로 점검하도록 돼 있습니다.

김 기술총괄은 먼저 웹 접근성이 개발 현장에 자리 잡은 과정을 짚었습니다. 1999년 지침 수준의 국제 체크리스트가 나온 뒤 2008년 테스트 가능한 기준이, 2010년대에 자동화 도구가 만들어졌고, 판정 규칙이 표준화되기까지는 십수 년이 걸렸습니다. 이날 공개된 체크리스트는 그 길의 첫 번째 단계라는 설명입니다.

AI는 웹보다 점검이 더 어렵습니다. 같은 지표로 같은 질문을 반복해도 AI는 매번 다른 결론을 낼 수 있기 때문입니다. 그래서 33개 문항을 한 가지 방식으로 시험할 수 없고, 기술적 접근성, AI 행동의 차별·편향, 설명과 권리구제, 위험관리, 거버넌스·참여·데이터 보호, 교육·리터러시처럼 유형별로 검증 방법과 이행 주체를 따로 정해야 한다고 제안했습니다.

김정원 에이아이웍스 AI 신뢰성 기술총괄(가운데)이 ‘체크리스트를 현장의 테스트로’를 주제로 발언하고 있다. (사진: 장애우권익문제연구소 함께걸음미디어센터)
김정원 에이아이웍스 AI 신뢰성 기술총괄(가운데)이 ‘체크리스트를 현장의 테스트로’를 주제로 발언하고 있다. (사진: 장애우권익문제연구소 함께걸음미디어센터)

문항을 실행 가능한 테스트로

‘차별을 방지했는가’라는 질문만으로는 개발자가 무엇을 시험해야 할지 알 수 없습니다. 김 기술총괄은 ‘대체 이용수단’ 문항을 예로 들었습니다. AI 음성인증에서 언어장애인의 음성이 인식되지 않는 상황을 반복해서 재현하고, 인증에 실패한 뒤 다른 수단으로 실제 업무를 끝까지 마칠 수 있는지 확인하는 방식입니다. 추상적인 질문을 재현 가능한 절차로 바꿔야 문제를 발견하고, 고친 뒤 다시 확인하는 데까지 이어집니다.

판정 방식도 바꾸자고 했습니다. 지금의 세 가지 판정으로는 개발 현장에서 쓰기 어렵다며 ‘미검증’과 ‘부분 충족’을 더하고, 문항마다 이행 주체를 정하고, 서비스 성격에 따라 반드시 통과해야 하는 핵심 문항을 두자는 것입니다. 가상의 복지급여 심사 지원 AI라면, 나머지 32개 문항을 충족했더라도 장애인에게 부당한 결과가 나왔을 때 그 AI는 실패로 봐야 한다는 설명입니다.

장애 당사자와 함께 만드는 ‘장애 포용 AI 테스트 커먼즈’

김 기술총괄은 “웹 접근성 표준이 만든 것은 완벽한 웹이 아니라 문제를 발견하고 고치는 산업적 역량”이라며, 장애 포용적 AI에 필요한 것도 바로 이 역량이라고 강조했습니다.

이를 위해 장애인 단체와 연구기관, AI 기업, 공공기관이 함께 테스트 사례와 평가 기준을 만들고 나눠 쓰는 ‘장애 포용 AI 테스트 커먼즈(Inclusive AI Testing Commons)’를 제안했습니다. 핵심은 도구가 아니라 당사자와 함께 만들고 검증한 테스트 사례와 평가 기준입니다. 반복 실행은 자동 평가 도구가 맡고, 무엇을 평가할지와 발견된 문제가 얼마나 심각한지는 당사자와 전문가가 정합니다.

당사자의 역할은 무료로 참여하는 사용자 테스트가 아니라, 테스트 설계와 평가, 품질 검증을 맡는 유급 전문 역할이어야 한다고 했습니다. 이를 위한 장치로 ‘장애인 AI 검증 전문가’ 자격을 제안했습니다.

이 제안이 나온 곳, 10년 넘게 이어 온 포용 테스트 현장

테스트 커먼즈와 장애인 AI 검증 전문가 제안은 AIWORKX가 일해 온 방식에서 나왔습니다. AIWORKX는 2015년 발달장애인 고용을 목표로 한 소프트웨어 테스트 회사 테스트웍스로 출발했고(2017년 고용노동부 인증 사회적기업, 2025년 AIWORKX로 사명 변경), 2016년부터 발달장애인을 소프트웨어 테스터로 양성해 왔습니다. 지금도 발달장애·청각장애 구성원이 소프트웨어 테스트와 AI 데이터 구축·검수를 맡고 있습니다.

당사자가 만든 데이터가 쓰이는 사례도 있습니다. 한국수어 영상 데이터셋은 농인이 수어 촬영과 핵심 라벨링을 직접 맡았고, 2026년 2월 기준 AI 허브에서 1만 103건 내려받아졌습니다. 기술적 시험은 답이 틀렸다는 것을 알려 줄 수 있지만, 그 오류가 당사자에게 얼마나 심각한지는 영향을 받는 사람들이 가장 잘 압니다. 장애인이 테스트의 대상이 아니라 설계자이자 판정자가 돼야 한다는 제안은 이 경험에서 나왔습니다.

현장 경험만으로 나온 제안은 아닙니다. AIWORKX는 2022년부터 KOLAS 인정 소프트웨어 시험기관으로 제3자 시험을 해 왔고, AI 에이전트가 업무 시나리오에서 제대로 판단하는지 평가하는 기술도 직접 만들고 있습니다. 당사자가 기준을 세우고, 시험의 방법으로 재현하고, 평가 도구가 반복하는 것. 이번에 제안한 테스트 커먼즈의 세 요소를 AIWORKX는 각각의 현장에서 다뤄 왔습니다.

자율평가에서 제도 연계까지, 3단계 모델과 시범사업

김 기술총괄은 새 제도를 따로 만들기보다 이미 운영 중인 접근성 제도와 AI 신뢰성 인증, 공공조달에 장애 포용성 검증을 더하자며, 기업 자율평가에서 제3자 독립 검증을 거쳐 제도 연계로 이어지는 3단계 발전 모델을 제시했습니다. 우선 추진할 시범사업으로는 세 가지를 제안했습니다.

  • 장애인 단체·연구기관·기업이 함께 참여하는 체크리스트 실무화 작업
  • 테스트 시나리오 최대 100개 규모의 공개형 공동 테스트 사례 저장소
  • AI 개발사 2~3곳 적용 실증

이날 다른 토론자들도 체크리스트를 쓰기 쉽게 다듬고, 투자·조달처럼 기업이 반드시 거치는 관문이나 정부 평가와 연결해야 확산된다는 의견을 냈습니다. 체크리스트를 선언에서 실행으로 옮기는 일에 기업과 공공, 당사자의 역할이 모두 필요하다는 데 뜻이 모였습니다.

“장애 포용성 검증이 별도의 윤리 캠페인뿐만 아니라 소프트웨어 품질과 안전을 검증하는 일상적인 개발 과정에 포함되어야 합니다. 웹 접근성이 20년에 걸쳐 만든 길을 AI에서는 처음부터 당사자와 함께 만들어 갈 수 있기를 바랍니다.” — 김정원 AI 신뢰성 기술총괄

「장애와 인공지능 체크리스트」 국회 토론회 발제자와 토론자, 주최 측 관계자들이 기념 촬영을 하고 있다. (사진: 장애우권익문제연구소 함께걸음미디어센터)
「장애와 인공지능 체크리스트」 국회 토론회 발제자와 토론자, 주최 측 관계자들이 기념 촬영을 하고 있다. (사진: 장애우권익문제연구소 함께걸음미디어센터)

장애 포용 AI 테스트에 관심이 있다면

AIWORKX는 이번 토론을 계기로 장애인 단체·연구기관과 체크리스트를 실제 테스트로 옮기는 논의에 참여하고, 장애 인재와 함께 쌓아 온 소프트웨어·AI 검증 경험을 장애 포용적 AI 평가로 넓혀 갈 계획입니다.

장애 포용 AI 테스트에 관심 있는 단체, 기관, 기업은 아래 문의 폼으로 연락 주세요.

에이아이웍스(AIWORKX)는 소프트웨어 테스트 사회적기업에서 출발한 AI 테스트·솔루션 전문기업입니다.