해누리 SONG

이 노래는 AI로 제작되었습니다.

복지관 소식

복지정보

디지털 포용 ‘장애와 인공지능 체크리스트’ 실효성 확보 제언 쏟아져

페이지 정보

작성자 최고관리자
댓글 0건 조회 1회 작성일 26-11-16 09:42

본문

‘장애 포용적 AI 위한 기업 자율 점검 체크리스트’ 33문항 발표


【에이블뉴스 백민 기자】 장애인의 디지털 포용을 위해 발표 된 장애와 인공지능 체크리스트가 기업·개발 현장에서 실효성 있게 사용되기 위해 전문가와 기업가들의 제언이 쏟아졌다.

기업 자율 점검 체크리스트가 선언적 기준에 머물지 않으려면 문항별 검증 방법과 이행 주체를 정하고 난이도별 문항과 실제 구현 사례를 제시해야 하며, 투자·조달 과정에서 기업에 체크리스트 항목을 질문하고 인증과 공공지원으로 기업의 자발적인 이행을 뒷받침해야 한다는 것이다.

장애우권익문제연구소(이하 연구소)와 국민의힘 최보윤 의원, 법무법인 디엘지는 13일 오후 2시 서울 여의도 국회의원회관에서 ‘장애와 인공지능 체크리스트 발표 및 활용방안 국회 토론회’를 개최했다.

'장애 포용적 AI 위한 기업 자율 점검 체크리스트' 발표

연구소 인권센터 김아람 팀장은 장애 포용적 AI를 위한 기업 자율 점검 체크리스트를 발표했다. 체크리스트는 ▲데이터 입력 및 개발 ▲결과 산출 및 운영·활용 ▲AI 리터러시 교육 ▲인공지능기본법 4개 영역 33개 문항으로 구성됐다.

데이터 입력 및 개발 영역에는 '학습·검증 데이터셋에 장애 관련 데이터가 포함돼 있는가', '장애인의 의견을 직접 반영하거나 이를 대변할 수 있는 참여구조가 마련돼 있는가', '개발 과정에서 장애에 대한 편견이나 고정관념이 기술 설계에 반영되지 않도록 점검하고 있는가' 등 내용이 담겼다.

결과 산출 및 운영·활용에는 'AI에 의한 결과가 장애인에게 불리하게 작용하는 편향 여부를 점검하였는가', '장애 특성으로 AI 서비스 이용이 차단되거나 반복 실패할 경우 즉시 전환 가능한 대체 이용수단이 마련돼 있는가', '장애인 이용자가 산출물의 도출 근거를 확인할 수 있는가, '주체별 책임이 명확하며 피해 발생 시 책임 주체를 알 수 있는가' 등이 포함됐다.

AI 리터러시 교육 문항은 '장애인을 대상으로 한 AI 리터러시 교육이 제공되고 있는가', '교육에 참여할 수 있는 기회가 물리적·경제적·환경적 제약 없이 보장되고 있는가', '교육 내용과 콘텐츠가 장애 유형 및 이해 수준을 반영하고 장애인이 실제로 이해하고 이용할 수 있는 형태로 제공되는가' 등을 질문하고 있다.

인공지능기본법 영역에는 'AI가 복지·의료 등 고영향 영역에 과도하게 개입하지 않도록 제한돼 있는가', '고영향 AI 사전 검토 과정에서 장애 유형과 그에 따른 위험·차별 가능성을 최대한 고려했는가' 등 내용이 포함됐다.

첫 발 뗀 ‘장애와 인공지능 체크리스트’ 개발 도구 등 다음 단계로 나아가야

에이아이웍스 AI신뢰성팀 김정원 기술총괄은 “웹 접근성이 기업과 개발 현장에 도입된 것을 생각해보면 1999년 지침 수준의 국제적인 체크리스트가 나왔다. 이후 2008년 테스트 가능한 기준이, 2010년대 자동화 툴이 개발됐다. 그리고 2025년과 2026년까지 십 수 년간의 기간을 거쳐 판정 규칙 표준화가 이뤄졌다. 오늘 발표된 장애와 인공지능 체크리스트는 첫 번째 단계로 앞으로의 단계들을 거쳐야 한다”고 설명했다.

이어 “웹 접근성은 이처럼 자동화 툴과 판정 규칙 표준화가 만들어졌지만, 100% 완벽하지 않다. 웹 접근성 표준이 만든 것은 완벽한 웹이 아니라 문제를 발견하고 고치는 산업적 역량이다. 장애 포용적 AI에 필요한 것도 바로 이 발견하고 고치는 역량이다”라고 덧붙였다.

아울러 “특히 AI는 웹 접근성보다 체크리스트 검사가 더 어렵다. 테스트 단계에서 동일한 지표에 대해 지속적으로 똑같은 질문을 해도 AI 모델링으로 인해 다른 결론과 답변이 나올 수 있기 때문이다”라고 밝혔다.

김정원 기술총괄은 “특히 33개의 항목은 같은 방식으로 테스트할 수 없다. 체크리스트 유형을 기술적 접근성, AI 행동의 차별·편향, 설명 및 권리구제, 위험관리, 거버넌스·참여·데이터 보호, 교육·리터러시 등 항목별로 검증 방법과 이행 주체를 정해야 한다”고 제안했다.

마지막으로 “AI 개발자와 기업에서는 체크리스트 도입이 AI 산업 발목을 잡는 다는 의견이 많을 수 있다. 할 수 있는 것은 기업과 장애인 당사자 간의 간격을 줄이며 솔루션 찾는 것이 중요하다”면서 “특히 공동 인프라는 어느 한 주체가 만들 수 없다. 장애인 당사자·단체, 대학·연구기관, AI 테스트 전문기업, AI 개발·서비스 기업, 정부·공공기관이 각자의 위치에서 역할을 해주어야 한다”고 강조했다.

‘체크리스트 자체·질문 던지는 주체·자발성 지지하는 사회적 설계’ 병행 필요

MYSC 김정태 대표이사는 “체크리스트의 힘은 아는 것을 매번 하는 것으로 바꾸는데 있다. ‘디지털 포용을 위한 AI 자체 점검 체크리스트’ 33문항은 장애 포용을 위한 기업의 착한 선택이 아니라 AI를 잘 만드는 기업의 기본 업무 습관을 바꿀 수 있는 도구다”라고 전했다.

이어 “다만 체크리스트가 선언적 기준에 머물지 않으려면 체크리스트 자체의 설계, 질문을 던지는 주체의 설계, 자발성을 지지하는 사회적 설계 등 세 가지의 설계가 병행돼야 한다”고 제시했다.

아울러 “33개 문항을 한 번에 쓰게 하기 보다 기본, 중급, 고급 같은 난이도 구분과 문향별 실제 구현 사례를 함께 제시하면 현장에서 쓰기 훨씬 쉬워진다. 또한 체크리스트는 누가 묻느냐에 따라 힘이 달라진다. 투자자·조달기관·플랫폼처럼 기업이 반드시 거치는 관문에서 질문이 나올 때 가장 빨리 확산된다”고 설명했다.

마지막으로 “처벌보다 인정, 통과·불통과보다 성숙도 단계로 설계된 가칭 ‘포용적 AI 실천 기업 인증’과 중소기업이 혼자 감당하기 어려운 인프라에 대한 공공지원이 필요하다”고 덧붙였다.

과기정통부, “AI 발전 영향을 모든 국민이 누릴 수 있도록 노력하겠다”

과학기술정보통신부 인공지능안전신뢰지원과 장은영 과장은 “발표해 주신 체크리스트의 가치적인 측면을 담는 부분이나 기업들의 수범가능성 등에 대해서는 현재 상황에서 과기정통부가 추진하고자하는 정책 방향성과 같다. 체크리스트가 기업 스스로 문제 발견하고 개선할 수 있도록 안내하는 것에 의미가 있다고 생각한다”고 밝혔다.

이어 “올해 7월 시행된 AI 기본법은 최근 개정을 통 AI 정책 수립과정에서 장애인 등 디지털 취약계층의 참여와 의견을 반영하는 규정이 명시됐다. 또한 AI 국가 기본계획에 디지털 취약계층의 이용보장에 관한 내용 무조건 포함하도록 했다. 고영향 AI에 장애인 등을 특성 반영해 장애유형과 이용환경 차이를 고려하도록 하는 조문도 들어갔다. 장애인 관점에서 특성을 반영하는 제도적 기반은 마련됐다”고 말했다.

마지막으로 “기본법 27조 근거해 일종의 나침반 역할을 하는 ‘대한민국 AI 윤리원칙’을 만들었다. 공정성과 포용성, 책임성과 투명성 등을 7대 원칙으로 하고 있다. 대원칙은 정해졌고 향후 해설서와 가이드라인이 나올 것이며 앞으로도 계속 업데이트 될 것이다. AI 발전이 사회발전으로 이어지고 모든 국민이 그 영향을 누릴 수 있도록 오늘 의견들을 정책에 잘 반영할 수 있도록 노력하겠다”고 전했다.

-장애인 곁을 든든하게 지켜주는 대안언론 에이블뉴스(ablenews.co.kr)-

-에이블뉴스 기사 제보 및 보도자료 발송 ablenews@ablenews.co.kr-

출처 : 에이블뉴스(https://www.ablenews.co.kr)


댓글목록

등록된 댓글이 없습니다.