Desarrollada en colaboración con The Meet Group, Roblox, Kik y Thorn, esta técnica se basa en la tecnología patentada de Microsoft y estará disponible de manera gratuita a través de Thorn para compañías calificadas de servicios en línea que ofrezcan una función de chat. Thorn es una organización tecnológica no lucrativa que construye tecnología para defender a los niños del abuso sexual.
El desarrollo de esta nueva técnica comenzó en noviembre de 2018 en un “360 Cross-Industry Hackathon” de Microsoft, que fue patrocinado en conjunto con WePROTECT Global Alliance en conjunto con Child Dignity Alliance. Estos hackathons “360” son multifacéticos, enfocados no sólo en la tecnología y la ingeniería sino también en aspectos legales y de leyes, así como también en operaciones e implementación de políticas.
Basada en la patente de Microsoft, la técnica es aplicada a conversaciones históricas de chat basadas en texto. Evalúa y “califica” las características de la conversación y asigna una calificación general de probabilidad. Esta calificación puede ser usada luego como un determinante, establecido por compañías individuales que implementen la técnica, para cuándo una conversación marcada debería ser enviada a revisión por parte de moderadores humanos. Luego, los moderadores humanos deberían ser capaces de identificar amenazas inminentes para derivarlas a las fuerzas de la ley, así como incidentes de sospecha de explotación sexual infantil al Centro Nacional para Niños Extraviados y Explotados (NCMEC, por sus siglas en inglés). El NCMEC, junto con ECPAT International, INHOPE e Internet Watch Foundation (IWF), brindaron valiosos comentarios durante el proceso colaborativo.
Fuente: Microsoft News Center Latinoamerica
إرسال تعليق