Designing an Explainable Predictive Policing Model to Forecast Police Workforce Distribution in Cities

Abstract:Despite extensive research, measurable benefits of predictive policing are scarce. We argue that powerful models might not always help the work of officers. Furthermore, developed models are often unexplainable, leading to trust issues between police intuition and machine-made prediction. We use a joint approach, mixing criminology and data science knowledge, to design an explainable predictive policing model. The proposed model (a set of explainable decision trees) can predict police resource requirement across the city and explain this prediction based on human-understandable cues (i.e., past event information, weather, and socio-demographic information). The explainable decision tree is then compared to a non-explainable model (i.e., a neural network) to compare performance. Analyzing the decision tree behaviour revealed multiple relations with established criminology knowledge. Weather and recent event distribution were found to be the most useful predictors of police workforce resource. Despite wide research showing relationships between socio-demographic information and police activity, socio-demographic information did not contribute much to the model's performance. Though there is a lack of research on measurable effects of predictive policing applications, we argue that combining human instinct with machine prediction reduces risks of human knowledge loss, machine bias, and lack of confidence in the system.Résumé:Malgré la recherche extensive, les bénéfices mesurables du maintien de l'ordre prédictif sont rares. Nous soutenons que les modèles puissants n'aident pas toujours le travail des agents de police. De plus, les modèles développés sont souvent inexplicables, entraînant des problèmes de confiance entre l'intuition policière et les prédictions faites par des machines. Nous utilisons une approche double, mélangeant la criminologie et les connaissances de la science des données, pour concevoir un modèle du maintien de l'ordre prédictif explicable. Le modèle proposé (un groupe d'arbres de décisions explicables) peut prévoir les ressources policières requises partout dans la ville et expliquer cette prédiction selon des facteurs compréhensibles par les humains (p. ex.: des renseignements sur des événements antérieurs, la météo, des renseignements sociodémographiques). L'arbre de décisions explicables est ensuite comparé à un modèle non explicable (c.-à-d. un réseau neuronal) pour comparer les performances. L'analyse du comportement de l'arbre de décision dévoile de multiples relations avec une connaissance établie en criminologie. La météo et la distribution d'événements récents se sont dévoilés comme étant les prédicteurs les plus utiles pour les ressources policières. Malgré de vastes recherches montrant les relations entre les renseignements sociodémographiques et les activités policières, ces renseignements n'ont pas vraiment contribué à la performance du modèle. Bien qu'il y ait un manque de recherche sur les effets mesurables de l'application du maintien de l'ordre prédictif, nous soutenons qu'une combinaison de l'instinct humain et de la prédiction machine réduit le risque de perte de connaissances humaines, de préjugés contre les machines et de perdre confiance dans le système.