도움을 받기 위해 자신의 정보를 내놓아야 하는 사람이 그 정보의 쓰임을 알지 못하거나 동의를 거부할 수 없다면, 그것을 온전한 선택이라고 할 수 없다. 사회적 약자를 위한 기술일수록 당사자의 목소리와 결정권이 설계 과정에 반영돼야 한다.
인공지능(AI) 기술은 더 많은 정보를 처리하고, 조기에 위험을 예측하며, 한정된 자원을 효율적으로 배분할 수 있다고 약속한다. 그렇다면 AI가 발전할수록 사회는 더 공정해질까? 서정원 교수(사회복지학과)가 쓴 『AI 나라의 홍콩할머니: 알고리즘이 만든 복지국가 적응기』(지식의날개, 2026)는 이 질문에 더해 또 다른 질문을 던진다. 기술은 누구를 위해 설계됐으며, 그 과정에서 누가 보이지 않는 존재로 남는가?
이 책은 AI를 둘러싼 윤리적·사회적 쟁점을 사회복지의 관점에서 풀어낸다. 알고리즘의 편향과 차별부터 AI 산업을 떠받치는 노동과 환경 문제, 복지서비스의 자동화, 개인정보와 감시, 기술을 바꾸기 위한 시민의 참여까지 폭넓게 다룬다. 다양하고 무거운 주제들은 한 가지 물음으로 귀결된다. 기술과 알고리즘이 지배하는 세상에서도 인간의 존엄과 권리는 온전히 지켜질 수 있을까?
한 사람의 문제는 우리 모두의 문제
책의 이야기는 ‘홍콩할머니’의 일상에서 출발한다. 한때 홍콩에서 살았던 그는 일광욕을 방해하는 이웃과, 온갖 사회적 문제의 원인으로 의심되는 나랏‘놈’에게 욕을 퍼붓곤 한다. 서 교수는 “홍콩할머니는 연구와 일상에서 만난 여러 노인의 특성과 경험을 결합해 재구성한 인물인데, 어떤 면에선 저자인 나의 ‘페르소나’일지도 모르겠다”라고 밝혔다.
할머니는 설렁탕을 먹으러 갔다가 발길을 돌린다. 식당에 새로 들어선 키오스크 조작법을 몰라 망설이다가, 뒤에 늘어선 사람들의 눈치가 보여 그냥 나온 것이다. 집으로 돌아온 할머니는 과자로 허기를 달랬고, 몇 달이 지난 후 저자에게 묻는다. “그 기계 있잖아. 설렁탕집에 있는 거. 그게 나한테 맞게 만들어진 게 아니잖아. 밥 먹으러 갔으면 밥 주면 되는 거 아니야. 어떻게 주문하는지 모른다고 밥을 안 주는 게 말이 되냐?”
식당에서 밥을 먹으려면 기계부터 능숙하게 다룰 줄 알아야 하는 세상이다. 그렇지 못한 사람은 어떻게 해야 할까? 사람을 위해 존재하는 서비스라면, 서비스가 사람에게 맞춰져야 하는 것 아닐까?
이 질문은 사회복지 영역에서 더욱 절실해진다. AI는 기존의 시스템이 발견하지 못한 위기가구를 찾아내고, 한정된 자원을 적절히 배분하는 데 도움을 줄 수 있다. 그러나 시스템이 정해진 기준과 데이터로 사람을 선별한다면, 그 기준에 포착되지 않는 사람은 어떻게 될까? 가장 절실하게 도움이 필요한 이가 오히려 복지의 대상에서 빠질 수도 있다.
저자는 사회복지의 기본 개념인 욕구·자원·전달체계를 통해 이 문제를 다룬다. 인간이 존엄하게 살기 위해 충족돼야 하는 조건이 욕구이고, 그 충족에 필요한 돈과 서비스, 정보와 사람이 자원이다. 전달체계는 욕구와 자원을 연결하는 경로다. 창구 직원이나 복지기관이 맡았던 역할을 이제는 키오스크와 앱, 알고리즘도 수행한다. 전달체계가 바뀌어도 사람의 욕구는 그대로지만, 그 욕구를 충족하는 길은 더 좁아질 수 있다.
객관적인 숫자 뒤에 숨은 선택
AI의 판단은 숫자와 점수로 제시되기에 객관적인 것처럼 보인다. 사람의 감정과 편견을 배제하고 데이터를 분석한다는 점에서 가치중립적이라고 여겨져서다. 하지만 어떤 데이터를 수집하고, 무엇을 위험의 징후로 삼으며, 어떤 결과를 최적화할지는 결국 ‘소수의’ 사람이 결정한다. 사회적 편견이 담긴 데이터로 학습한 알고리즘은 그 편견을 반복하거나 강화할 수 있다.
책은 이러한 위험을 구체적인 사례로 보여준다. 복지 부정수급을 막으려다 수많은 사람에게 잘못된 채무를 청구한 호주의 로보데트 시스템, 저소득 가정의 아동학대 위험을 과잉 예측한 미국의 알레기니 가족 선별 도구가 대표적이다. 첨단 시스템이 오히려 특정한 사람들에게 더 큰 부담을 안긴 것이다.
국내의 복지 사각지대 문제도 같은 맥락에서 읽힌다. 2014년 송파 세 모녀 사건과 2022년 수원 세 모녀 사건은 절박한 상황에 놓인 이들을 시스템이 발견하지 못했을 때 어떤 비극이 발생하는지를 보여준다. AI를 도입한다고 해서 사각지대가 저절로 사라지는 것은 아니다. 누구를 찾아낼 수 있는지만큼이나 누구를 놓치는지도 따져 물어야 한다.
문제 제기의 범위는 알고리즘에만 국한되지 않는다. 저자는 AI가 자동으로 작동하는 듯 보이기까지 얼마나 많은 인간의 노동이 필요한지, 데이터센터를 운영하는 데 얼마나 많은 전력과 자원이 소모되는지도 살핀다. 데이터를 분류하고 AI의 답변을 평가하는 저개발국의 노동자들, 이른바 ‘고스트 워커’는 AI 산업을 떠받치지만 그 기여도는 쉽게 드러나지 않는다. 형이상학적인 공간처럼 느껴지는 ‘클라우드’ 역시 막대한 전력과 냉각수, 거대한 데이터센터를 필요로 한다. 첨단 기술 뒤에는 노동과 환경의 비용이 놓여 있다.
저자는 켄 로치 감독의 영화 「나, 다니엘 블레이크」의 주인공을 또 다른 사례로 제시한다. 목수인 다니엘은 질병으로 일을 그만두고 실직 수당을 신청하려 하지만, 온라인으로만 가능한 신청 절차 앞에서 좌절한다. 시스템 설계자들이 상정한 이용자 범위엔 다니엘 같은 ‘컴맹’은 없었다. 복지서비스의 선별이 누군가에겐 배제가 될 수 있다. 효율적인 시스템만으로는 충분치 않으며, 그것이 누구를 기준으로 설계됐는지도 함께 살펴야 한다.
돌봄이라는 이름의 감시
홍콩할머니는 지자체가 독거노인의 정서 지원을 위해 보급한 AI 돌봄 인형 ‘효돌이’를 무섭다며 소파 한쪽에 세워둔다. 인형은 날씨와 약 먹을 시간을 알려주고 말동무가 돼준다. 움직임 감지 센서는 일정 시간 활동이 감지되지 않으면 담당 기관에 알림을 보낸다. 노인의 안전을 살피고 고독사를 예방하려는 취지다.
하지만 돌봄의 목적이 선하다고 해서 모든 문제가 해결되는 것은 아니다. 기기가 어떤 정보를 수집하고 어디로 전송하는지, 누가 얼마나 오래 보관하며 어떤 목적으로 활용하는지 이용자가 충분히 알고 있을까? 그 정보를 이해하고 거부할 권리도 보장받고 있을까? 돌봄을 위한 기술이 감시의 수단이 될 가능성을 외면해서는 안 된다.
결국 중요한 것은 기술의 유용성만이 아니라 이용자의 권리다. 도움을 받기 위해 자신의 정보를 내놓아야 하는 사람이 그 정보의 쓰임을 알지 못하거나 동의를 거부할 수 없다면, 그것을 온전한 선택이라고 할 수 없다. 사회적 약자를 위한 기술일수록 당사자의 목소리와 결정권이 설계 과정에 반영돼야 한다.
보이지 않는 사람을 세는 일
알고리즘이 놓친 사람들은 어떻게 자신의 존재를 드러낼 수 있을까? 저자는 ‘대항 데이터’에서 하나의 실마리를 찾는다. 공식 통계나 기존 시스템이 기록하지 못한 경험을 당사자와 시민사회가 직접 수집하고 기록하는 것을 뜻한다.
책에는 멕시코의 엔지니어 마리아 살게로가 살인 사건의 여성 피해자들의 정보를 모아 지도에 표시한 사례가 등장한다. 신문 기사와 SNS 등에 흩어진 기록을 모으자 공식 통계가 포착하지 못한 현실이 드러났다. 세지 않았기 때문에 보이지 않았던 사람들이 기록을 통해 사회적 의제로 떠오른 것이다.
서 교수에게도 비슷한 경험이 있다. 그가 공부와 양육을 병행하던 시절, 엄마 대학원생들은 근로자가 아니라는 이유로 모성보호 제도의 바깥에 놓여 있었다. 그는 같은 처지의 엄마 대학원생들을 온라인 공간에 모았고, 이들의 경험을 모으고 알리는 노력은 결국 「고등교육법」 개정으로 이어졌다.
두 사례는 중요한 사실을 일깨운다. 제도가 보지 못한 사람을 보이게 하려면 기존의 분류와 통계가 놓친 현실부터 살펴야 한다. 때로는 당사자들이 직접 경험을 모으고 목소리를 낼 필요도 있다.
인간을 위한 기술, 참여를 위한 연대
『AI 나라의 홍콩할머니』는 AI를 무조건 거부하거나 수용하자고 주장하기보다는, 기술이 작동하는 방식과 그 한계를 이해하고, 인간의 존엄과 권리를 지키는 방향으로 기술을 바꿔야 한다고 강조한다. 특히 저자는 기술의 영향을 받는 이용자가 설계 과정에 참여하는 ‘이용자 중심 AI’를 대안으로 제시한다. 어떤 사람에게 사회적 지원이 필요하다고 판단할 것인지, 어떤 정보를 수집할 것인지, 효율을 위해 무엇을 감수할 것인지는 사회적 선택의 문제이므로, 기술의 영향을 받는 사람들에게도 결정 과정에 참여할 권리가 있다는 것이다.
AI는 사람을 분류하고 선을 긋지만, 그 선 밖으로 밀려난 사람을 다시 보이게 하는 일은 결국 사람의 몫이다. 누락된 경험을 기록하고, 제도에 질문을 던지고, 당사자들이 함께 목소리를 낼 때 기술은 비로소 달라질 수 있다. 기술이 발전할수록 ‘그것이 누구를 위해 만들어졌는가? 그리고 그 과정에서 누구를 놓치고 있는가?’라는 질문은 중요해진다. 『AI 나라의 홍콩할머니』는 그 질문을 멈추지 않는 일이야말로 인간을 위한 기술과 더 나은 복지사회의 출발점이라고 말한다.
이현구 기자 zuibm@knou.ac.kr
이 기사는 유료입니다.
