WhatsApp напугал модерацией

WhatsApp напугал модерацией

Как работает система проверки личных сообщений мессенджера

WhatsApp может столкнуться с оттоком пользователей из-за очередного скандала. Как выяснили американские СМИ, специальные модераторы получают доступ к личной переписке любого человека. Они могут просматривать сообщения, фото и видеозаписи. Но происходит это только после жалобы от пользователя. Например, на детскую порнографию или организацию теракта. В самой компании настаивают, что это нужно для предотвращения преступлений. Подробности — у Александра Мезенцева.

Через модератора переписок в WhatsApp за одну смену проходит около 600 подозрительных сообщений, обработка каждого занимает меньше минуты.

За час работы сотрудник получает $16. О таких условиях пишет американское издание ProPublica, которое поговорило с некоторыми бывшими модераторами. Схема выглядит так: пользователь отправляет жалобу на контент, его рассматривает искусственный интеллект. Причем берется сразу несколько сообщений, чтобы был понятен контекст. Потом информацию анализирует человек. Он может не реагировать, поставить учетную запись под наблюдение или заблокировать пользователя.

Ошибок и злоупотреблений в такой ситуации избежать трудно, говорит гендиректор компании «Киберполигон» Лука Сафонов: «WhatsApp принадлежит компании Facebook, которая имеет штат модераторов. Мы часто видим в новостях, что это модерирование работает неправильно. Совершаются ошибки, в том числе и автоматизированными системами распознавания, где есть ручная модерация. На нее тоже достаточно много жалоб из-за предвзятости и человеческого фактора.

Если поводом является жалоба, то ничего не мешает модераторам инициировать процесс, чтобы читать практически любую переписку».

Бывшие сотрудники неоднократно отбраковывали ошибки нейросети. Например, когда объявление «дети на продажу и убой» оказывалось рекламой о покупке молодых коз. Также, по словам модераторов, жалобы часто отправляли с целью запугивания или розыгрыша. Представители WhatsApp, кстати, признались, что некоторые сотрудники действительно имеют доступ к личным перепискам. Однако модераторами их считать нельзя — они не удаляют контент.

Читать также:  «Spotify появился неслучайно»

Подобные механизмы отслеживания есть во многих мессенджерах и соцсетях, рассказал консультант по интернет-безопасности компании Cisco Алексей Лукацкий. По его мнению, крупные утечки личных данных таким способом вряд ли возможны: «Слишком большое количество данных обычно не сосредотачивается в руках одного администратора, он имеет доступ к небольшой порции информации. Поэтому говорить о явных злоупотреблениях здесь не приходится. Однако все эти данные продаются различным внешним организациям — этого никто никогда не отрицал.

Если компания отдает свои приложения бесплатно, то она должна их монетизировать каким-то иным образом».

Сложно найти соцсеть, которую бы не подозревали в доступе к личным сообщениям и данным. В августе компания Apple заявила, что будет проверять диалоги и содержимое хранилища iCloud, но только на предмет детской порнографии. А Google обвиняли в том, что на основании переписки в почте сервисы предлагают контекстную рекламу. С WhatsApp же ситуация немного другая. Компания неоднократно настаивала, что использует сквозное шифрование, и сообщение могут прочитать только отправитель и получатель.

WhatsApp позволит скрывать время последнего посещения от отдельных пользователей

После такого обмана пользователи могут уйти из мессенджера, не исключил начальник отдела информационной безопасности SearchInform Алексей Дрозд: «Они могли намеренно искажать правду. Грубо говоря, шифрование есть, но оно доступно «на троих». Если это подтвердиться, то главная ошибка WhatsApp заключается в том, что они старались держать пользователей за дураков как можно дольше, обещая одно, а по факту делая совсем другое. С учетом того, что WhatsApp принадлежит Facebook, это может быть удар и в сторону соцсети».

WhatsApp неоднократно попадал в скандалы, так что те пользователи, которые сомневались в его приватности, наверняка давно перешли на другие площадки. Тем не менее, сервис остается одним из самых скачиваемых в мире сразу после TikTok, Instagram и Facebook.