Социальные сети уже несколько лет занимают очень большою часть жизни молодых людей
Социальные сети уже несколько лет занимают очень большою часть жизни молодых людей. Школьники с упоением проводят часы за посещением всевозможных сообществ. Каждый слышал про группы, которые призывают детей к суициду и помогают совершить такой поступок. Соцсеть ВКонтакте придумала способ борьбы с такими сообществами.
Нейросеть определяет изображенные предметы и сущности, в том числе человека, ребенка, животное, растение, предметы одежды и символы «групп смерти». Разработчики обещают, что весь опасный контент будет навсегда заблокирован и недоступен для пользователей.
Официальные разработчики рассказали, что фотографии анализируются по нескольким параметрам. Когда фото признается опасным, оно попадает к модераторам для проверки. Если же объект признан потенциально опасным, он пропадает из поисковой выдачи и рейтинг в ленте новостей понижается.
Руководитель проекта рассказал, что данной нейросетью анализируются только общедоступные фотографии. Те снимки, которые отправляются в личных сообщениях, не попадают под анализ. В дальнейшем, данная практика позволит сделать соцсеть безопасной от мошенников и позволит избавиться от спама.
Разработчики нейросетей рассказали, что алгоритм построен на жалобах пользователей. То есть ,когда вы видите спам или фото, которые призывают к суициду, необходимо пожаловаться на данный контент. Для этого есть специальная кнопка. Та же возможность есть и для личных страниц. Модераторы проверят правдивость вашей жалобы и смогут принять меры.
Не стоит забывать, что борьба с суицидными сообществами должна проводиться не только разработчиками, но и родителями. Рекомендуется уделять ребенку больше времени, выслушивать его жалобы и акцентировать внимание на изменении поведения.
Материалы партнеров:
Читайте другие новости:
Читайте также