(3) 법·제도적 측면의 한계
첫째, 개인정보 보호에 관한 현행 법률이 챗봇에 어떻게 적용될 지가 모호하다. 챗봇으로 대화를 하다 보면 이용자가 인지하지 못하는 상황에서 실시간으로 개인정보가 수집되거나 대화 내용이 사후적으로 결합·분석되어 개인정보가 생성될 우려가 있다. 또한 서비스 제공자가 요구하는 수준 이상의 개인정보를 서비스 이용자가 스스로 제공할 가능성도 있다. 이러한 상황에서 정보주체에게 그 사실을 알리고 필요한 동의를 받는 것이 중요하지만 현행 「개인정보 보호법」 및 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」은 챗봇 등장 이전에 마련된 것이기 때문에 관련 규정을 어떻게 챗봇에 적용할 지가 불확실하다.
둘째, 챗봇에 대한 신뢰성 확보 수단이 명확하지 않다. 우선 챗봇 서비스 중에는 대화 상대방이 사람인지 챗봇인지에 대한 표시가 없는 경우가 많은데, 사람인 줄 알고 대화를 하다가 나중에 사람이 아닌 것으로 밝혀질 경우 서비스 제공 주체에 대한 신뢰에 부정적인 영향을 미칠 우려가 있다. 그러나 현행 법률에는 대화 주체가 사람인지 시스템인지를 밝히는 것에 대한 기준이 없다.
다음으로 챗봇이 제공하는 정보 중에는 광고주로부터 대가를 받고 상품을 추천하는 광고가 있을 수 있는데, 이 경우 그 내용이 광고임을 밝히지 않는다면 이용자가 사실과 광고를 오인할 우려가 있고 나아가 서비스 내용에 대한 신뢰 상실로 이어질 수 있다. 그러나 현행 「표시·광고의 공정화에 관한 법률」 및 관련 규정에는 대화형 정보제공 서비스의 광고 표시에 관한 기준이 모호하다.