전 사회적으로 인공지능(AI) 활용이 확대됨에 따라 AI 활용의 윤리적 문제에 대한 사회적 관심이 높아지는 가운데, 방송대 KAI 사업본부 산하 교육·행정AX혁신센터(센터장 조경훈)가 ‘AI 활용 윤리 원칙과 행동 원칙’을 제시했다.
방송대 ‘AI 활용 윤리 원칙과 행동 원칙’은 방송대 모든 구성원이 교육, 연구, 학습 및 행정 전반에서 AI를 책임감 있고 윤리적으로 활용하기 위한 기본 원칙을 권고하기 위해 마련했다. 이번 윤리 원칙 선정 과정을 주도적으로 이끈 김명진 원격교육혁신연구원 AI디지털교육혁신부장은 “과기정통부의「인공지능 윤리원칙」과 교육부·한국대학교육협의회의「대학 AI 활용 윤리 가이드라인」, 국내 대학 및 공공 기관의 AI 활용 및 윤리 가이드라인을 준용해, 10가지 윤리 원칙과 5가지 핵심 행동 원칙을 선정했다”라고 설명했다.
첫 번째 윤리 원칙은 ‘책임성’으로, AI가 생성하거나 지원한 결과에 대한 최종 책임은 사용자에게 있고, 중요한 의사 결정과 학문적 판단은 사람이 수행해야 한다. 두 번째는 ‘정확성’으로, AI가 생성한 정보와 결과는 충분한 검토와 검증을 거쳐 활용하며, 오류 가능성을 인지하고 사실 관계를 비판적으로 검토한다. 세 번째는 ‘진실성’으로, 학문적 정직성을 훼손하는 방식으로 AI를 활용해서는 안 되며, 필요한 경우 AI 활용 사실을 투명하게 공개한다. 네 번째는 ‘정보보호’로, AI 활용 과정에서 개인·기밀정보를 안전하게 보호하고 연구·행정자료도 안전하게 관리한다. 다섯 번째는 ‘공정성’으로, AI 활용 과정에서 특정 개인이나 집단이 차별이나 불이익을 받지 않도록 하고, AI 결과가 성별·출신·장애 등을 이유로 특정 집단에 불이익을 주지 않는지 검토한다.
여섯 번째는 ‘투명성’으로, AI 활용은 필요한 범위 내에서 명확하고 투명하게 이뤄져야 하고, AI가 생성한 결과와 인간이 작성한 내용을 구분할 수 있도록 한다. 일곱 번째는 ‘저작권’으로, AI를 활용하는 과정에서 저작권과 지식재산권을 존중하며, AI 생성물의 이용 조건과 라이선스를 확인한다. 여덟 번째는 ‘인간중심’으로, AI는 인간의 역량을 대체하기보다는 지원하는 도구로 활용하고, 교육·연구·학습·행정의 핵심 판단은 사람이 수행한다. 아홉 번째는 ‘지속학습’으로, AI 기술과 윤리기준, 관련 법과 제도의 변화를 지속적으로 학습하고, AI 활용 역량과 디지털 리터러시를 향상시킨다. 마지막은 ‘사회책임’으로, AI는 대학의 공공성과 사회적 책임을 실현하는 지속가능한 방향으로 활용돼야 한다.
AI를 활용할 때 준수해야 할 5개 핵심 행동 원칙 중 첫 번째는 ‘확인한다’로, AI가 생성한 정보와 결과를 반드시 검증한다. 두 번째는 ‘보호한다’로, 개인정보, 기밀정보, 지식재산을 안전하게 보호한다. 세 번째는 ‘존중한다’로, 학문적 진실성, 저작권 및 타인의 정보를 존중한다. 네 번째는 ‘공정하게 활용한다’로, 편향과 차별을 방지하고 포용성을 실천한다. 마지막 다섯 번째는 ‘책임진다’로, AI 활용 결과에 대한 최종 책임은 사용자에게 있음을 인식한다.
이번 윤리 원칙과 행동 원칙 선언에 이어 교육·행정AX혁신센터는 2학기 중에 교수 및 학생을 대상으로 한 구체적인 활용 윤리 가이드라인을 제시할 예정이다.
조경훈 교육·행정AX혁신센터장은 “AI 활용에 있어 교수자, 학습자, 직원 등 각 구성원 모두에게 중요한 원칙을 제공했다는 점에서 의미가 크다”라고 말했다.
윤상민 기자 cinemonde@knou.ac.kr
이 기사는 유료입니다.
