They also note that their AI, like any AI, has limitations — which is perhaps the overarching lesson of the project. As an example, Heys points to times when a sexist or otherwise pejorative term is reclaimed and used by its intended targets. “It’s very difficult for that to be trained in an AI and kept up to date,” he says. “It’s very difficult to have a neutral broker.”
Ils notent également que leur IA, comme toute IA, a des limites — ce qui est peut-être le principal enseignement du projet. À titre d’exemple, Toby Heys signale des moments où un terme sexiste ou péjoratif est repris et utilisé par les personnes auxquelles il était destiné. « Il est très difficile d’entraîner une IA à ce genre de situation et de la maintenir à jour », explique-t-il. « C’est très difficile d’avoir un intermédiaire neutre. »