Пользователь TikTok загрузил часовое видео, "обманув" алгоритмы
Обойти алгоритм TikTok, запрещающий публиковать видео продолжительностью больше минуты, оказалось не так уж сложно — один из пользователей смог внести изменения в метаданные своего ролика и загрузить в социальную сеть целый фильм продолжительностью 71 минуту. Этот инцидент справедливый вопрос о безопасности платформы — ведь если на ней можно опубликовать видео, нарушающее правила, то существует шанс того, что злоумышленник может так же обмануть защитный механизм и разместить там нечто противозаконное.
Платформа TikTok известна прежде всего своим компактным контентом — максимальная продолжительность видео, которые можно загрузить на платформу, составляет 60 секунд. Как оказалось, обойти это ограничение не составит большого труда.
Пользователь платформы по имени Морри Колман смог обмануть ее алгоритмы и опубликовал видео продолжительностью 71 минуту, сообщает портал Motherboard. Подробностями о том, как ему это удалось, он поделился в своем Twitter-аккаунте.
Выяснилось, что TikTok не проверяет длительность загружаемого видео самостоятельно — он просто считывает метаданные файла, в котором содержится эта информация.
Таким образом, любой может внести изменения в этот файл, заставив соцсеть "поверить" в то, что продолжительность ролика не превышает минуту.
Благодаря этому Колману удалось загрузить в TikTok целый фильм — "Магазинчик ужасов" 1960 года. По словам пользователя, обмануть алгоритмы социальной сети получилось, потому что по факту она "не смотрит" видео, которые в нее загружают.
"Поскольку в процессе проверки TikTok рассматривает видео как файл, а не ролик, он предполагает, что, когда он получает новый фрагмент контента, - даже если его загрузил человек - он получает контент, созданный другой машиной. Таким образом, он не будет проверять и смотреть видео, потому что "просмотр" - чужеродное понятие для вовлеченных в процесс машин. "Магазинчик ужасов" будет оставаться на платформе до тех пор, пока не будет вмешательства со стороны сотрудника-человека. Как Uber не владеет ни одним автомобилем, а Facebook — отделом новостей, так и в TikTok нет никого, кто на самом деле смотрел бы загружаемые видео", — заявил Морри Колман.
В пресс-службе TikTok сообщили, что "изменение или адаптация кода на нашей платформе нарушают Принципы сообщества, которые призваны обеспечить аутентичный опыт для всех".
После этого видео, загруженное Колманом, было удалено.
Идея о том, что администрация TikTok имеет так мало контроля над своим контентом, поднимает логичный вопрос о возможности обхода запрета на публикацию запрещенных к распространению материалов. Это особенно важно на фоне того, что большой процент аудитории TikTok составляют несовершеннолетние.
"Когда появляются такие откровения со стороны юзеров, то открывается ящик Пандоры, и знакомые с программным обеспечением люди будут пытаться повторить этот "подвиг", и здесь возникает вопрос, насколько соцсеть контролирует свой контент и занимается его модерацией", — поясняет "Газете.Ru" управляющий партнер коммуникационного агентства B&C Agency Марк Шерман.
Подобные прецеденты всегда должны становиться объектом внимания разработчиков и специалистов в области защиты данных, соглашается генеральный директор Gamesup42 Игорь Ивченко.
"Если что-то удалось одному пользователю, то всегда есть возможность, что такую уязвимость начнут использовать другие пользователи, в том числе нарушая правила функционирования платформы в России. Однозначно, этот случай показывает, что на ресурсе есть возможность обойти ограничения и загрузить контент, который не соответствует требованиям к политике мессенджера, что в результате может стать поводом для проверки государственных органов и негативно скажется на имидже TikTok. Этот случай наверняка станет поводом для серьезной работы целого перечня специалистов, которые эту уязвимость должны устранить, причем в самое ближайшее время, а также сделать так, чтобы в дальнейшем такие ситуации не повторялись", — говорит эксперт.
В свою очередь Digital Project Manager коммуникационной группы iMARS Владимир Табуров считает, что волноваться насчет безопасности несовершеннолетних пользователей TikTok пока рано.
"За выявление "запрещенного" контента в TikTok отвечают несколько иные алгоритмы, — не зря же пользователи социальный сети заменяют, к примеру, слово "секс" на "кекс", пытаясь шутить на запрещенные темы. Неприемлемые видео удаляются и блокируются автоматически. Кроме того, неравнодушные зрители всегда могут пожаловаться на подобный контент, выбрав одну из 13 причин для блокировки. На сегодняшний день загруженное часовое видео уже недоступно — разработчики оперативно с ним расправились. Если и в будущем компьютерным "гениям" будет удаваться находить бреши в искусственном интеллекте TikTok, то платформа будет их оперативно исправлять, удаляя нарушающий правила контент. На мой взгляд, выявлять какую-то особую опасность в данном прецеденте несколько некорректно, так как ИИ пока создается людьми, а человеку, как известно, свойственно ошибаться", — заключает собеседник "Газеты.Ru".