Monitoruje se zejména komunikaci osob, na jejichž profilech není na první pohled něco v pořádku, může se jednat třeba o velký věkový rozdíl mezi diskutujícími, nebo o lidi, kteří spolu nekomunikují příliš často. Software se postupem času automaticky učí, jako databáze frází používá historii chatu usvědčených zločinců nebo sexuálních deviantů.
Pokud systém Facebooku objeví závadnou konverzaci, případ nejprve ručně řeší zaměstnanci Facebooku. Teprve oni rozhodnou, zda je potřeba kontaktovat policii. Velká většina kontrolovaných zpráv by se k zaměstnancům Facebooku z důvodu ochrany soukromí dostat neměla, není ale jisté, zda kontrolované konverzace Facebook uchovává, nebo maže.
Nasazení nových mechanismů kontroly zpráv oficiálně potvrdil šéf bezpečnostního týmu Joe Sullivan. Taky řekl, že se už na základě tohoto systému podařilo chytit jednoho pedofila. Facebook tvrdí, že filtry musel vyvinout z donucení s ohledem na zákony Spojených států.
Zdroje: Mashable, The Telegraph
