Darmowe narzędzie Microsoftu wykryje osoby molestujące online dzieci

Microsoft wraz partnerami pracował przez 14 miesięcy nad wynalezieniem techniki do wykrywania "seksualnych drapieżców", którzy za cel wzięli osoby nieletnie.

Kampania, nosząca nazwą Project Artemis, rozpoczęła się w listopadzie 2018 roku podczas Microsoft 360 Cross-Industry Hackathon. Jako główni sponsorzy stanęli za nią nie tylko gigant z Redmond, ale również WePROTECT Global Alliance oraz Child Dignity Alliance. Do współpracy zaś zgłosiły się platformy i usługi, w których dzieci mogą potencjalnie stać się obiektem ataku: The Meet Group, Roblox, Kik i Thorn. Wspólnie opracowano technologię, która analizuje teksty prowadzonych konwersacji, a następnie na tej postawie określa, czy jedna z biorących w rozmowie osób nie dokonuje molestowania. Projekt Artemis wykorzystuje do skutecznego działania mechanizmy SI. Jeśli wykryte zostanie podejrzane zachowanie, wówczas automatycznie przesyłany jest alarm do administratora serwisu. Jeśli zgłoszenie faktycznie ma sens - admin powinien poinformować odpowiednie służby.

Jak wyjaśnia to Microsoft we wpisie na firmowym blogu, każda rozmowa oceniana jest w kilkustopniowej skali. Do stworzenia technologii posłużono się kilkoma opatentowanymi rozwiązaniami Microsoftu, używanymi m.in. w ekosystemie Xbox czy komunikatorze Skype. Producent nie zamierza jednak zachowywać jej wyłącznie dla siebie. Stworzone narzędzia zostaną udostępnione poprzez Thorn wszystkim firmom i producentom oprogramowania, którzy oferują swoim użytkownikom funkcję czatu. Ich wdrożenie w istniejące rozwiązania ma być bardzo proste.