Microsoft хочет обуздать ваш рот с помощью нового фильтра ненормативной лексики

Джоэл Халили, 27 марта 2021 г.

Microsoft предпринимает шаги, чтобы помочь компаниям улучшить коммуникацию

Microsoft работает над новым механизмом фильтрации, который будет определять сообщения с угрозами или нецензурную лексику, отправленные сотрудниками.

А новая запись в дорожной карте продукта компании описывается неизбежное обновление Центра соответствия требованиям Microsoft 365, которое позволит администраторам обучать классификаторы, которые «обнаруживают угрозы, целевые оскорбления и ненормативную лексику».

Эти обучаемые классификаторы смогут обнаруживать злоупотребления на разных языках, включая английский, французский, испанский, немецкий, португальский, итальянский, японский и китайский.

  • Вот наш список лучших программ для повышения производительности прямо сейчас
  • Ознакомьтесь с нашим списком лучшего офисного программного обеспечения на рынке
  • Мы составили список лучших программ для управления проектами.

Технически новая функция все еще находится в стадии разработки, но должна появиться в ближайшие несколько дней.

Токсичная рабочая среда

Хотя использование нецензурной брани в шутку является относительно безобидным недостатком, многие сотрудники пострадали от настоящих злоупотреблений со стороны коллег.

Прибытие из инструменты для совместной работы сделали общение на работе проще, чем когда-либо, но они также создали еще одну возможность (помимо Эл. адрес), с помощью которых сотрудники могут оскорблять друг друга, часто без ведома руководства или коллег по работе.

microsoft, обуздать, помощь, фильтр, ненормативной

Эта проблема, вероятно, только усугубилась ростом удаленная работа, что практически устранило все личное взаимодействие между сотрудниками в пользу виртуальных форм общения.

READ  Все рейтинги Google Play Store будут пересчитаны

Центр соответствия требованиям Microsoft 365 разработан, прежде всего, для того, чтобы помочь предприятиям управлять своими требованиями к соблюдению нормативных требований в отношении управления информацией. Однако с новыми обучаемыми классификаторами Центр соответствия может быть задействован также для выявления и устранения ненадлежащего поведения.

«Классификатор учится определять тип контента, просматривая сотни примеров контента, который вы хотите классифицировать». объясняет Microsoft в Сообщение блога. «Затем классификатор прогнозирует, попадает ли какой-либо данный элемент в категорию, которую вы создаете».

Классификатор домогательств предназначен для выявления злоупотреблений, направленных против отдельного лица или группы, на основе расы, этнической принадлежности, пола, сексуальной ориентации, возраста и инвалидности. Классификаторы ненормативной лексики и угроз немного проще, они созданы для обнаружения распространенных нецензурных слов и агрессивной лексики.

Однако Microsoft стремится подчеркнуть, что новые фильтры не должны включать в себя все усилия компании по пресечению злоупотреблений.

«Хотя классификаторы могут помочь вашей организации в отслеживании оскорбительных и других используемых выражений, классификаторы не учитывают последствия таких формулировок и не предназначены для предоставления вашей организации единственного средства отслеживания таких выражений или реагирования на них». заявили в компании.