«ВКонтакте» запустил выявляющую суицидальный контент на фото нейросеть
Широко известная российская сесть В Контакте создала специальный самообучаемый механизм, который был разработан в ее недрах, позволяющий определять различных вредоносный и опасный контент. Сам механизм опознает на фотографиях различные объекты, будь то живые люди, животные, либо же растения, и назначает им собственный рейтинг, передает издание «Известия».
Помимо этого, нейронная сесть имеет возможность производить анализ текстового контента на предоставленных фотографиях, и в случае если механизм определит изображение как потенциально опасное, то оно будет отправлено на модерацию. Относительно опасные изображения будут удалены из выдачи в поиске, а в новостях их рейтинг будет сильно занижен. Посты и изображения различного «самоубийственного» содержания (в том числе с использованием специальных хеш-тегов суицидников) будут затерты сразу же, а учетные записи, под которыми они были выложены, будут моментально заблокированы.
Как сообщает Андрей Законов, начальник отдела Big Data & Machine Learning компании В Контакте, на текущий момент нейронная сеть будет производить анализ только лишь тех фотографий, которые были загружены с пометкой «для всех», а используемые в диалогах фотографии и изображения не будут подвержены анализу. Как говорит Андрей Законов, эксплуатация подобного механизма значительно облегчит в будущем жизнь в борьбе с незаконными рассылками и различными мошенническими операциями. Данная нейронная сеть была обучена на базе различных пользовательских жалоб на контент за все время существования сети.
Также стоит уточнить, что подобный механизм предоставляет возможность формирования так называемой smart-ленты новостей, где посты людей из контакт-листа и различных групп будет показываться не в порядке хронологии, а по рейтингу и приоритету, который по мнению системы идеально подходит отдельно взятому пользователю.
Материалы партнеров:
Читайте другие новости:
Читайте также