В начале этого года в одном из наиболее популярных приложений Instagram была запущена новая функция. Ее основная задача заключается в анализе написанных комментариев и предупреждения автора еще до их публикации, о том, что возможно они являются оскорбительными.
Теперь компания расширила эту функцию. Стала возможным превентивная маркировка потенциально оскорбительных подписей фотографий на стадии публикации. Программа предупреждает пользователя всплывающим окном, о том, что его подпись по мнению Instagram’s AI может быть оскорбительной, или нарушать законодательство.
Но стоит отметить, что новый функционал не будет мешать пользователям публиковать их гневных комментарии.
По словам представителей компании — эти функции лишь дадут возможность пользователям лишний раз задуматься о написанных ими словах и возможно изменить их. Что в свою очередь снизит количество оскорблений и ненависти в сети.
Когда пользователь пишет комментарий будет появляться надпись в которой будет указано: «Эта подпись выглядит так же, как и другие, на которые жаловались».
Данное уведомление предлагает тир варианта развития событий — отредактировать ваш текст, узнать больше о функции, и оставить все без изменений.
Помимо прочего в компании заявили, что рассчитывают, что данная функция поможет пользователям узнать какие именно вещи запрещены или являются нежелательными в сети Instagram, и какие их высказывания могут повлечь дальнейшее отключение аккаунта.
Подчеркнем то, что новые функции не ограничивают возможность размещения комментариев, Instagram включила несколько дополнительных функций что бы помочь пользователям пострадавшим от онлайн- издевательств. В пример можно привести возможность отключать комментарии к отдельным постам, удалять подписчиков, фильтровать комментарии.
Огорчает только то что такие функции появились только спустя 10 лет работы компании. Разработки в сфере искусственного интеллекта и анализа текста сделали этот инструмент более мольным и полезным.ю но более простая версия этих функций могли бы быть созданными довольно давно.
В компании заявили, что функция проходит стадию тестирования на отдельных категоричных секторах сети, и уже в последствии в 2020 году будет введена повсеместно в сети Instagram.
Instagram: Борьба с Оскорблениями и Ненавистью
В новом шаге по борьбе с оскорбительными комментариями и подписями в Instagram, компания представила новую функцию, использующую искусственный интеллект для предупреждения пользователей о возможной оскорбительности или нарушении правил. На этот раз функционал расширен и включает предварительное предупреждение об оскорбительной подписи к фотографии перед ее публикацией.
Согласно заявлению представителей Instagram, эти новые возможности не ограничивают пользователей в свободе выражения, а лишь дают им возможность еще раз оценить написанные слова. Это позволит уменьшить количество оскорбительных высказываний и негатива в сети.
Когда пользователь напишет оскорбительный комментарий или подпись, приложение выдаст уведомление с предупреждением, указывающим на схожесть текста с теми, на которые поступали жалобы. Это даст возможность отредактировать текст или ознакомиться с функцией более подробно.
Основная цель данного новшества заключается в том, чтобы обучить пользователей тому, что приемлемо в сети Instagram и какие действия могут привести к ограничению доступа к аккаунту.
Однако, помимо предотвращения оскорблений, Instagram также внедрил несколько других функций, направленных на помощь пострадавшим от онлайн-буллинга. Это включает возможность отключения комментариев под отдельными постами, удаление подписчиков и фильтрацию комментариев.
Хотя эти новшества пришли спустя десять лет работы компании, разработки в сфере искусственного интеллекта сделали этот инструмент гораздо более эффективным и полезным. Впрочем, более упрощенная версия этих функций могла бы быть доступна и ранее.
Представители Instagram сообщили, что функция проходит тестирование на ограниченных секторах сети, и планируется ее введение в 2020 году на всей платформе Instagram.