Debunking the Myth of "Not My Bad": Sexual Images, Consent, and Online Host Responsibilities in Canada

Abstract:Depuis 2015 au Canada, la distribution d'images intimes sans consentement constitue un crime. Selon les auteures, il est temps de voir en quoi les plateformes, sites d'hébergement et forums publics en ligne permettant aux utilisateurs de publier des images sexuelles alors qu'ils se livrent á des actes criminels ou portent la responsabilité de permettre cette activité illégale. Les méthodes pour rendre les entreprises responsables de promouvoir ou de faciliter chez les utilisateurs ce type d'inconduite devraient varier selon le degré d'engagement et de risque associé aux différents mode'les d'affaires en ligne. Une de ces méthodes concerne les entre-prises qui font le trafic de documents illégaux ; pour ces entreprises de « revanche pornographique », nous devrions imposer la responsabilité directe, comme nous le faisons dans d'autres contextes. Une deuxie'me méthode s'applique lorsque la nature même de l'entreprise risque fortement de favoriser l'activité illégale des consommateurs et quand celle-ci tire profit de telles inconduites, se trouvant ainsi peu encline à dissuader sa cliente'le. C'est dans cette catégorie que se situe généralement l'industrie pornographique amateure en ligne. Dans ces cas, il serait possible d'obliger les entreprises á établir un syste'me de vérification du consentement pour éradiquer le comportement illégal des consommateurs. Une troisie'me méthode concerne tous les sites d'hébergement de contenu généré par les internautes, où il est moins couteux de laisser ceux-ci publier du contenu de fac¸on non réglementée plutôt que de surveiller le contenu et de régler les plaintes, ce qui devient une contre-incitation structurelle á sévir. Ici, on peut délivrer des mandats á la suite de plaintes concernant la porno-graphie non consensuelle. L'article démontre que malgré la liberté d'expression sexuelle, les politiques protégeant l'immunité des intermédiaires et l'anonymat en ligne sont importants et compliquent la mise en œuvre de mesures contre ce trafic lucratif d'images sexuelles, il n'est pas impossible de trouver des solutions éclairées.Abstract:Non-consensual distribution of intimate images has been a crime in Canada since 2015. This article argues that it is time to consider how online platforms, hosts, and fora that allow users to post sexual images either directly engage in criminal acts or incur responsibility to help suppress this illegal activity. Methods for holding businesses responsible for participating in promoting or facilitating this type of wrongdoing by users should vary according to the level of involvement and risk that attaches to a particular online business model. One method applies to businesses that specifically traffic in illegal materials; for these specific "revenge porn" businesses, we should impose direct liability, as we do in other contexts. Another method applies where the nature of the business places it at high risk for facilitating customer illegal activity and where the business profits from that wrongdoing and so faces disincentives to discourage it. The online amateur porn industry more generally falls into this category. In these cases, obligations to assist in rooting out the illegal behaviour of customers via a consent verification system is appropriate. A third method applies to all businesses that host user-generated content where unfettered user activity is less expensive than addressing complaints about content and, thus, constitutes a structural disincentive to respond. Here, mandated response to complaints about non-consensual pornography is appropriate. The article argues that while freedom of sexual expression, policies protecting intermediary immunity, and online anonymity are important and complicate solutions to this lucrative traffic in sexual images, finding principled solutions is not impossible.