[팩트인사이드] 거짓말·편향성 허점많은 AI, 행정업무 전담은 시기상조

민간은 물론 공공영역에서도 AI는 일상이 되고 있다. 전국 다수 광역·기초자치단체가 AI를 활용하거나 도입 중이다. 앞서 행안부는 지난 2019년 국가공무원 25%가 AI로 대체 가능하다는 전망을 내놓은 바 있다. 최근에는 이보다 더 심화한 분석 보고서가 나왔다. 한국개발연구원(KDI)은 업무 70% 이상을 자동화할 수 있는 일자리가 38.8%(2023년 기준)에 달한다고 예측했다. 그렇다면 AI는 현재 지방행정에 어느 정도 영향을 미치고 있을까.

◇시킬 수 있지만 다 맡기긴 어렵다

AI는 그림을 그리고 작사·작곡을 하는 등 인간 고유 영역으로 여겨졌던 창의적·감정적 분야에서도 능력을 보여주고 있다. 이는 공공 분야라고 다르지 않다. 이미 지난해 초 생성형AI 챗GPT가 미국 변호사 시험을 통과했다는 소식이 있었다. 법률적 논리를 구성할 줄 안다면 행정·정책적 판단도 얼마든지 할 수 있다는 추론이 가능하다. 하지만 일을 전적으로 맡기는 건 시기상조라는 게 대체적인 시각이다.

형 AI의 대표적인 결점은 ‘환각’(hallucination) 현상이다. 없는 것을 지어내거나 거짓 내용을 그럴듯하게 꾸며서 내놓을 수 있다는 것이다. 미국 IT컨설팅 전문기관 가트너의 VP애널리스트 아비바 리탄(Avivah Litan)은 "AI솔루션이 더 발달하고 신뢰를 받을수록 이런 오류는 더 위험해진다"고 경고했다.

또 다른 허점은 편향성이다. AI가 한쪽으로 치우친 데이터를 학습하거나, 알고리즘에 편향적 요소가 유입돼 일어나는 문제다. 실제 미국과 영국에서 AI가 채용이나 여권 발급 업무를 진행하면서 인종·성별에 따라 차별을 보여준 일이 있었다.

한번 편향성이 형성되면 바로잡는 것 또한 쉽지 않다. 지난 2월 구글의 생성형 AI ‘제미나이’는 사람을 그리는 기능을 일시 중단했다. 인종·성별 등 편견을 보정하려고 넣은 지침이 오히려 아인슈타인을 흑인으로 그리는 등 실존 인물마저 왜곡하는 일이 발생했기 때문이다.

게다가 이런 오류들이 왜 일어나는지 설명조차 어렵다. ‘딥러닝(인간의 두뇌 작동 방식을 모방한 학습방법)’한 AI가 어떻게, 무엇을 근거로 결과물을 내놓는지 정확하게 모르기 때문이다. 이를 보완하기 위해 ‘설명가능한 AI(XAI, eXplainable AI)’ 개발을 진행 중이지만 아직 충분한 수준에 이르지 못했다.

이외에도 데이터를 확보하거나 사용 과정에서 나오는 개인정보 침해 문제, 센서·화상 사용에서 발생할 수 있는 프라이버시 침해 등 AI 활용에 따른 윤리적·법적 과제가 산적해 있다.

따라서 행정의 AI 활용은 아직은 한정적일 수밖에 없다. 이를 규정한 ‘행정기본법’은 위와 같은 이유로 단순 반복 업무나 규칙에 따라 일정한 행위를 실행하는 경우에만 AI 자동화를 허용하고 있다.

◇사람 역할, 없어지기보단 옮겨갈 것

지금 진행되는 지능정부 이전에도 전산화·자동화는 계속 이뤄져 왔지만, 공무원 정원은 지속적으로 상승 곡선을 그렸다. 현 정부 역시 인력 효율화 방침 아래 국가직 공무원 축소했지만, 지난해 말 기준 전체 공무원 수는 이전 정부보다 0.73% 늘어난 것으로 확인됐다. 국가직은 줄였지만 지방공무원 수가 늘어났기 때문이다. 실제 최근 5년 지방직 공무원 추이를 보면 일반행정 직렬은 연도별 평균 2.19%, 사회복지 직렬은 4.82% 증가한 것으로 나타났다.

사무에 자동화가 이뤄지더라도 사회가 복잡·다양해지는 만큼 복지 등 주민과 맞닿은 지자체의 역할이 확대되고 있기 때문이다.

서울시 인공지능행정팀 관계자는 "AI 기술을 행정에 도입하는 주된 이유는 대시민 서비스의 질을 높이고 내부적인 생산성을 강화하기 위해서다"라고 강조했다.

그렇다면 AI시대의 행정은 어떻게 진화할까.

먼저 공무원이 이전보다 더 핵심적인 일에 집중할 수 있을 것으로 보인다.

윤상오 단국대학교 공공정책학과 교수는 "지금 복지분야 공무원들은 수급자를 만나는 것보다 서류 정리나 보고서 작성 등의 일을 더 많이 하고 있는 게 사실"이라며 "AI가 이런 업무를 효율적으로 지원하면 수급자를 면담하고, 복지 사각지대를 발굴하는 등 본연의 업무에 시간을 더 쓸 수 있을 것"라고 말했다.

임영모 소프트웨어정책연구소 책임연구원 역시 "AI가 지자체 역량의 한계를 넘어 새로운 정책을 펼칠 수 있는 기회를 제공하는 건 맞다"고 전제하면서도 "AI는 보조적인 도구일 뿐 정책을 만들고 실행하는 건 결국 사람의 몫"이라고 설명했다.

AI의 역할 확대에 따라 기존에 없던 직무가 새롭게 생겨날 수도 있다. 화성 동탄아르딤복지관의 예를 보면 ‘로봇재활사업’이 기존 작업치료사·물리치료사의 역할을 일정 부분 대체했지만 ‘로봇재활사’라는 직무가 새롭게 만들어졌다. 김은태 혁신서비스지원센터장은 "로봇이 전문 인력을 완전히 대체할 순 없다"며 "전문 인력의 판단과 조정에 따라 로봇 재활의 효과가 달라질 수 있다"고 말했다.

또 공무원 인사제도를 담당하는 인사혁신처 관계자는 "지난해부터 공채시험에서 데이터직 공무원을 선발하고 있다"며 "내년부터는 AI 반도체 산업 육성 등을 위해 5급 전자직 공무원을 새롭게 선발할 예정"이라고 밝혔다.

종합하면 현재 AI행정은 지방자치단체와 지방공무원의 규모와 역할을 축소하기 보다 효율적으로 지원해 업무 성과와 범위를 넓히는 방향으로 발전하고 있다.

향후 AI가 고도화되더라도 사람을 대신하거나 역할을 확대하기 위해서는 결과에 대한 책임을 질 수 있을 만큼의 신뢰성이 확보돼야 할 것이다.

앞서 설명한 바와 같이 사회가 복잡하고 다양해지면서 공무원의 역할과 범위는 확대되고 있다.  복지·안전을 포함한 공공 서비스의 수요가 증가하고 질 또한 높게 요구되고 있는 상황이기도 하다. 

따라서 중부일보는 ‘AI 시대, 지방정부 역할 축소되나’라는 검증문은 ‘대체로 사실 아님’으로 판단한다.

강찬구기자

[근거자료]

1. 윤상오 단국대 공공정책학과 교수 인터뷰

2. 임영모 소프트웨어정책연구소 책임연구원 서면질의

3. 서울·화성시·인사혁신처 등 기관 관계자 질의

4. KOSIS 국가통계포털

5. 정부조직관리정보시스템

<논문·연구보고서>

1. 미래 신기술 도입에 따른 미래 신기술 도입에 따른 정부인력 운용방안 용역 연구 최종보고서 - 행정안전부

2. 인공지능으로 인한 노동시장의 변화와 정책방향 - KDI 한요셉

3. 인공지능 기반 자동화행정의 주요 쟁점에 관한 연구 - 한국공공관리학보

*이 기사는 지역신문발전기금을 지원받았습니다.