Сам по себе фильтр появился в приложении в сентябре прошлого года, но был устроен примитивно, передает Хроника.инфо со ссылкой на Grifonsoft.ru
Система просто удаляла комментарии со словами и фразами, внесёнными в список оскорбительных. При этом пользователи могли добавлять собственные слова.
Теперь система стала «умнее». С помощью машинного обучения она обнаруживает неприемлемые комментарии, учитывая контекст ответа. Фильтр самообучается, чтобы в будущем находить больше отрицательных сообщений и снизить число ложных срабатываний системы. Как рассказал сайт Wired, когда искусственный интеллект помечает комментарий, то блокирует его для всех пользователей, кроме человека, который его написал. Так злоумышленник даже не узнает, что его сообщение скрыли от глаз публики.
Фильтр теперь включен по умолчанию — предыдущий приходилось активировать вручную. При желании его можно отключить через настройки Instagram. Возможность добавлять собственные слова и фразы по-прежнему присутствует. Система пока работает только на английском, но со временем компания планирует расширить список языков.
Читайте также: В Instagram появится функция фильтрации комментариев
Instagram также анонсировала фильтр спама — тоже на основе искусственного интеллекта. Как оказалось, он появился в сервисе ещё в октябре прошлого года, но официально компания рассказала о нём лишь сейчас. Этот фильтр работает на девяти языках, включая русский.