Facebook начнет блокировать за намерение написать оскорбительный пост, предсказанное алгоритмами

Facebook
Facebook

Социальная сеть Facebook начала блокировать пользователей за предсказанное нейросетью намерение написать расистский или оскорбительный пост. Как сообщается в пресс-релизе, появление алгоритма позволит вывести борьбу с «языком ненависти» на принципиально новый уровень.

В Facebook рассказали, что нейросеть обучена «охотиться» на аккаунты, принадлежащие привилегированным социальным группам. Под этой фразой в США обычно подразумевают белых гетеросексуальных мужчин. Перед вводом в эксплуатацию точность алгоритма была доведена до 67% — этот результат в соцсети посчитали «впечатляющим ударом по расизму и гомофобии».

«Предполагаемый нарушитель ещё только задумал создать токсичное содержимое, а наши алгоритмы уже предсказали это событие и превентивно заблокировали его страницу на 30 дней за готовящееся нарушение норм сообщества — так это работает. Для анализа используется огромный массив данных, который мы получили, собирая досье на выявленных модераторами нарушителей, а также деперсонализированные данные, снимающиеся с микрофонов в мобильных телефонах пользователей», — рассказал ведущий разработчик отдела искусственного интеллекта Facebook Бен Хаарец.

В пресс-релизе уточняется, что алгоритм работает с 20 февраля и в дальнейшем будет совершенствоваться и самостоятельно обучаться.

Борис Гонтермахер

Сатирический журнал "Время"

Russian[Time]✔(Админ)

Добавить комментарий

Next Post

Писатель Сорокин возьмется за детскую литературу

Вт Сен 17 , 2019
vk.tula.su Писатель Владимир Сорокин начнет писать книги для детей. О таком решении он объявил на пресс-конференции в Москве. «Учитывая, сколько моих книг становились практически пророческими, я решил взять на себя достаточно ответственную миссию — готовить сегодняшних детей к реалиям 2040-2050-х годов. Думаю, приблизительно так. Поколение, которое намерено возмужать в 2020-е […]

Мета

Яндекс.Метрика