VISR: алгоритмы, распознающие оскорбительный контент в переписке

Автор сервиса VISR — Роберт Рейхман, инженер-разработчик и отец четверых детей, задумавшийся о том, как обезопасить поколение, растущее в сети, при этом не ограничивая их свободы.

Большинство родителей сегодня следят за сетевым поведением своих детей, просто используя их логины и пароли и проверяя переписку. А это, во-первых, занимает много времени; во-вторых, рано или поздно любой ребёнок найдёт способ обойти такой метод; а в-третьих, это совершенно непедагогично и не даёт детям никакого представления о самих сетевых угрозах.

 

Роберт Рейхман

создатель VISR

Такой уж мир нам достался, и нам нужно помочь детям в нём ориентироваться, а не зарывать голову в песок, не шпионить за ними и не игнорировать проблему.

Что придумали авторы VISR?

С помощью специалистов по обработке и анализу данных и существующих решений машинной интерпретации языка разработчикам удалось создать продукт, который позволяет автоматически определять в переписке «сомнительные» слова, фразы и изображения; а также идентифицировать неразумное сетевое поведние — например, если ребёнок в переписке делится своим географическим положением. Затем сервис высылает уведомления о подобных действиях родителям. И… детям.

Взрослый не получает доступ ко всей переписке; а только к той её части, которую алгоритм счёл сомнительной. Очень здорово, что ребёнок сам привязывает свои аккаунты к сервису и получает разъяснительное сообщение о том, для чего это вообще нужно. В конце концов, можно настроить получение уведомлений и ребёнком тоже, чтобы потом вместе обсудить возможные опасности.

Кстати, отправлять селфи незнакомцам — это тоже сомнительно. На иллюстрации: Автопортрет Великой Княжны Анастасии Николаевны Романовой в тринадцатилетнем возрасте. 1914 г.

Источник: Википедия

Сервис самообучаемый — взрослый может отметить тревогу как ложную, чтобы алгоритм запомнил подобный выбор и более не высылал подобные уведомления.

Пока, естественно, приложение работает только на английском языке; но оно показывает нам ту сторону, в которую стоит смотреть — путь равноправного сотрудничества поколений, а не нависающего контроля старшего над младшим.