Facebook начнет блокировать за намерение написать оскорбительный пост, предсказанное алгоритмами

Facebook
Facebook

Социальная сеть Facebook начала блокировать пользователей за предсказанное нейросетью намерение написать расистский или оскорбительный пост. Как сообщается в пресс-релизе, появление алгоритма позволит вывести борьбу с «языком ненависти» на принципиально новый уровень.

В Facebook рассказали, что нейросеть обучена «охотиться» на аккаунты, принадлежащие привилегированным социальным группам. Под этой фразой в США обычно подразумевают белых гетеросексуальных мужчин. Перед вводом в эксплуатацию точность алгоритма была доведена до 67% — этот результат в соцсети посчитали «впечатляющим ударом по расизму и гомофобии».

«Предполагаемый нарушитель ещё только задумал создать токсичное содержимое, а наши алгоритмы уже предсказали это событие и превентивно заблокировали его страницу на 30 дней за готовящееся нарушение норм сообщества — так это работает. Для анализа используется огромный массив данных, который мы получили, собирая досье на выявленных модераторами нарушителей, а также деперсонализированные данные, снимающиеся с микрофонов в мобильных телефонах пользователей», — рассказал ведущий разработчик отдела искусственного интеллекта Facebook Бен Хаарец.

В пресс-релизе уточняется, что алгоритм работает с 20 февраля и в дальнейшем будет совершенствоваться и самостоятельно обучаться.

Борис Гонтермахер

Сатирический журнал "Время"

Russian[Time]✔(Админ)

Добавить комментарий

Next Post

Вице-премьер Гордеев вспомнил, как в бытность губернатором газифицировал цыганский театр в Воронеже

Вс Авг 11 , 2019
Вице-премьер Алексей Гордеев во время рабочей командировки в Германию поделился опытом с иностранными коллегами и рассказал, как в бытность губернатором Воронежской области решал насущные проблемы региона.vk.tula.su «Ситуации были разные, обстоятельства не всегда складывались благоприятно, но у меня был один девиз: всё для Воронежа. С этой мыслью я засыпал и просыпался. […]
Гордеев

Мета

Яндекс.Метрика