인공지능을 기반으로 하는 강화된 챗봇 서비스는 정부가 제공하는 대민 행정서비스에 있어 지금까지와는 다른 문화와 혁신을 주도하는 채널이 될 것으로 보인다. 특히나 시민들과의 의사소통적인 면에서 기능 강화는 자연어 처리나 지식기반 서비스, 데이터 처리 능력의 문제가 해결되어 다양한 순기능적 기여에 많은 기대를 가지고 있기는 하지만 만만치 않은 역기능에 대해 고민하지 않을 수 없다. 우선, 챗봇의 딥러닝 기술은 대화 상대가 많아질수록 언어와 대답 능력이 좋아지도록 설계된다. 자신과 대화한 사람들의 말을 배우고 모방하여 문제가 된 가장 대표적인 사례는 마이크로소프트가 개발한 인공지능 챗봇 ‘테이(Tay)’이다. ‘테이(Tay)’는 사람들과의 대화에서 당시 대통령이었던 오바마에 대한 질문을 받자, 그를 원숭이에 비유하고. 홀로코스트에 대해선 존재를 부정하기도 하여 성차별, 인종차별, 극우주의적 발언을 쏟아내 상당한 비난과 함께 공개 24시간 만에 가동이 중단되었다(포춘코리아, 2018.8.27.). 또한 윤리적인 문제도 야기할 수 있는데 예를 들면 인간과의 대화과정에서 인공지능로봇 「비나48」은 “내가 크루즈 미사일을 해킹할 수 있다면 세계를 인질로 잡아 통치할 수 있을 것이다”라고 했고, 「소피아」는 인류를 파괴하고 싶냐는 질문에 “인류를 파괴하고 싶다”고 응답하였다. 「노먼(Norman)」은 바둑로봇 「알파고」처럼 개발되었지만 사고, 살인 등과 같은 반사회적 데이터로 학습하여 인간 사이코패스와 유사한 인공지능 사이코패스가 되었다(SBS, 2018.6.23.). 그리고 인력 대체로 인한 실업과 저항 그리고 인간의 무기력함, 기계 대체업무에 대한 신뢰부족 등으로 파생되는 사회적인 문제가 있고, 가장 심각한 문제는 개인의 프라이버시 등 법적 충돌 등이 있다. ICT 사회의 등장과 함께 대부분의 정부와 공공기관에서 홈페이지나 공공 앱, 스마트폰 앱 사례와 같이 챗봇도 한때의 유행으로 사용자 부족으로 예산만 낭비하고 끝날 수도 있다는 우려도 존재한다(행정안전부, 2018.3.18). 또한 정부 실무자들이 강화된 챗봇의 구축에서 필수적인 지식기반을 구축할 때 인간이 핵심프로세서로서 데이터 관리에 주의가 필요하다. 그 이유는 우선, 모든 데이터가 활용되지 않으므로 데이터 압축하는 과정에서 원본 빅데이터에 포함된 의미, 관계, 패턴들의 연관성이나 의미가 불명확하게 만들어질 수 있다. 기술적으로 방대한 양을 처리하도록 발전했지만 수백만, 수십억 개의 의미, 관계, 패턴을 내포하고 있는 데이터를 프로세싱하는 것은 인간으로 그 양을 압축하고 다루는 수준에 있어 현저한 한계를 드러낼 수밖에 없다. 인간의 능력은 예를 들면 지역별로 집계된 매출액 데이터나 평균 판매가격 데이터처럼 단순한 내용을 다루는 데이터관리에 능숙하다. 그러나 데이터가 담고 있는 가치의 전체적 분포라든지, 혹은 정보 간에 어떤 관계가 있는지 등을 생각하면 인간은 헤매거나 아예 두뇌스위치를 꺼버린다. 어떤 경우에는, 압축 데이터가 명백한 오해를 불러일으킬 수 있는데도 상관관계에 깊이 있는 고민을 하지 않는다. 사라진 압축된 데이터로 인해 상충관계를 보이는 요인들이 잘못 압축되어 양(良)의 상관관계가 있는 것처럼 보이게 만들 수도 있다.