Новая технология Microsoft сканирует онлайн-чаты, чтобы поймать детей-хищников

Новая система обнаруживает потенциальные злоупотребления в Интернете с применением искусственного интеллекта

Хорошие новости детям и родителей: вчера (9 января) Microsoft объявила, что будет выслеживать сексуальных хищников в Интернете, используя искусственный интеллект для сканирования чатов с целью поиска потенциального ухода за детьми.

Уход за детьми. это метод, используемый для привлечения потенциальных жертв. Хищник просто разговаривает с целевым ребенком на протяжении длительного периода времени, чтобы ребенок чувствовал себя в безопасности и чувствовал себя комфортно. Если проход успеха уход приводит к сексуальному насилию в Интернете, что приводит к принуждению фантазеров к отправке сексуальных видеороликов и физической встрече имея его.

Как работает подход Microsoft?

Проект Артемида использует искусственный интеллект для постоянного мониторинга чатов с детьми, чтобы обнаружить беседу, которая может быть интерпретирована как груминг.

Microsoft утверждает, что этот метод «оценивает и оценивает характеристики разговора и присваивает общий рейтинг вероятности.

«Затем этот рейтинг можно использовать в качестве определяющего фактора, устанавливаемого отдельными компаниями, внедряющими эту технику, в отношении того, когда помеченный разговор следует отправлять модераторам-людям для проверки».

Новая технология Microsoft сканирует онлайн-чаты, чтобы поймать детей-хищников

Модераторы-люди могли бы затем оценить содержание и определить «неминуемые угрозы для передачи в правоохранительные органы, а также случаи предполагаемой сексуальной эксплуатации детей в Национальный центр пропавших и эксплуатируемых детей (NCMEC)».

READ  Образцы камеры Redmi K20

По словам Microsoft, «NCMEC вместе с ECPAT International, INHOPE и Internet Watch Foundation (IWF) предоставили ценную обратную связь на протяжении всего процесса сотрудничества».

Проблемы конфиденциальности

Конечно, этот фактор умеренности человека вызывает обеспокоенность в отношении конфиденциальности. Это будет не первый случай, когда инструменты, которые якобы используются для нашей безопасности, используются не по назначению. С другой стороны, такие деликатные вопросы не могут быть оставлены в руках алгоритма ИИ.

Тестирование годами

Microsoft говорит, что новый инструмент под названием Project Artemis, был разработан в течение последних 14 месяцев в сотрудничестве с The Meet Group, Roblox, Kik и Thorn, начиная с ноября 2018 года Microsoft «360 Cross-Industry Hackathon», мероприятие, спонсируемое Глобальным альянсом WePROTECT и Альянсом по достоинству ребенка ,

Программный гигант заявляет, что он успешно использовал базовые технологии Project Artemis в Xbox Live «в течение многих лет». Теперь он хочет включить набор инструментов Project Artemis в свою многоплатформенную систему чата Skype.

Более того, Project Artemis теперь доступен любой компании, которая хочет внедрить свое программное обеспечение. Разработчики, которые заинтересованы в лицензировании этих технологий, могут связаться с Thorn с сегодняшнего дня, 10 января.

READ  Samsung Galaxy S10 новая низкая цена делает этот телефон гораздо доступнее

«Ни в коем случае не панацея»

Microsoft предупредила, что Project Artemis не прекратит жестокое обращение с детьми в Интернете.

«Проект Artemis. это значительный шаг вперед, но это ни в коем случае не панацея». говорится в сообщении компании. «Сексуальная эксплуатация детей и жестокое обращение в Интернете, а также выявление онлайн-ухода за детьми. это серьезные проблемы. Но нас не пугает сложность и запутанность таких вопросов ».

Ранее на этой неделе, Apple объявила на CES 2020 о конфиденциальности круглого стола в том, что он сканирует учетные записи пользователей для известных изображений детской порнографии и жестокого обращения с детьми. Джейн Хорват (Jane Horvath), главный специалист по конфиденциальности Apple, заявила, что если Apple обнаружит подобные изображения, учетные записи пользователей автоматически помечаются, сообщает телеграф (Лондон).

Apple не уточнила, как именно это происходит, но ее собственное описание процесса, похоже, соответствует технологии, разработанной Microsoft и Дартмутским колледжем под названием PhotoDNA, которую, по словам The Telegraph, также используют Google, Facebook и Twitter. (PhotoDNA также используется для отслеживания контента, связанного с терроризмом.)

READ  Reno - это новая серия смартфонов от Oppo, и она собирается предложить флагманские характеристики

PhotoDNA сравнивает новые изображения с базой данных известных изображений жестокого обращения с детьми, которые уже были обнаружены и помечены властями. Это также работает с аудио и видео в определенной степени. Но PhotoDNA не может предотвратить уход за шерстью и будущие злоупотребления, как это было сделано в Project Artemis.