В аду есть специальное место для людей, которые думают, что смешно насиловать аватара 7-летней девочки в виртуальном виртуальном мире, предназначенном для детей. Да это получилось , Roblox, чрезвычайно популярная онлайн-игра для детей, была взломана человеком, который подорвал системы защиты игры, чтобы на экране появилась индивидуальная анимация. Это позволило двум мужчинам-аватарам изнасиловать аватар молодой девушки на игровой площадке в одной из игр Roblox.
В настоящее время компания принесла извинения жертве и ее сообществу и говорит, что она определила, как хакер смог проникнуть в ее систему, чтобы он мог предотвратить будущие инциденты.
Мать ребенка, чей аватар был жертвой сексуального насилия в игре, находилась поблизости, когда произошел инцидент. Она говорит, что ее ребенок показал ей, что происходит на экране, и она забрала устройство, к счастью, защитив свою дочь от просмотра большей части деятельности. Мать тогда сделала скриншоты события, чтобы предупредить других.
Она описала инцидент в общедоступный пост в Facebook что читать частично:
Сначала я не мог поверить в то, что видел. Аватар моей милой и невинной дочери был жестоко изнасилован на игровой площадке двумя мужчинами. Женщина-наблюдатель подошла к ним и начала прыгать на ее теле в конце акта. Затем 3 персонажа убежали, оставив аватарку моей дочери лежать на ее лице посреди игровой площадки.
Слова не могут описать шок, отвращение и вину, которые я испытываю сейчас, но я стараюсь отложить эти чувства в сторону, чтобы как можно скорее донести это предупреждение до других. К счастью, мне удалось сделать скриншоты того, что я наблюдал, чтобы люди поняли, насколько ужасным был этот опыт. * скриншоты в комментариях для тех, кто может это пережить. * Хотя я сразу же смог защитить свою дочь от просмотра всего взаимодействия, я смущаюсь, думая о том, какой вред это изображение может оказать на ее психику, а также на любого другого ребенка. которые потенциально могут быть подвержены этому.
С тех пор Roblox опубликовал заявление о нападении:
Миссия Roblox состоит в том, чтобы вдохновлять воображение, и мы несем ответственность за обеспечение безопасной и гражданской платформы для игры. Поскольку безопасность является нашим главным приоритетом - у нас есть надежные системы для защиты нашей платформы и пользователей. Это включает в себя автоматизированную технологию для отслеживания и мониторинга всего общения между нашими игроками, а также большую команду модераторов, которые работают круглосуточно, чтобы просмотреть весь контент, загруженный в игру, и расследовать любые неуместные действия. Мы предоставляем родительский контроль, позволяющий родителям создавать наиболее подходящие условия для своего ребенка, и предоставляем индивидуальным пользователям защитные инструменты, такие как возможность заблокировать другого игрока.
В инциденте участвовал один плохой актер, который смог подорвать наши защитные системы и использовать один экземпляр игры, запущенной на одном сервере. Мы абсолютно терпимо относимся к такому поведению, и мы предприняли немедленные действия, чтобы определить, как этот человек создал оскорбительное действие и применил меры предосторожности, чтобы предотвратить его повторение. Кроме того, преступник был выявлен и навсегда заблокирован с платформы. Наша работа над безопасностью никогда не заканчивается, и мы стремимся к тому, чтобы один человек не мешал миллионам детей, которые приезжают в Roblox играть, творить и воображать.
Время инцидента особенно заметно для детской игровой платформы, которая имеет более 60 миллионов активных пользователей в месяц и в настоящее время привлечение до 150 миллионов долларов на развитие своего бизнеса. Компания летала незаметно на протяжении многих лет, тихо собирая большую аудиторию как игроков, так и разработчиков, которые строят свои виртуальные миры. Roblox относительно недавно заявил, что он планирует выплатить своим создателям контента 70 миллионов долларов в 2018 году, что вдвое больше, чем в прошлом году.
Roblox имеет ряд встроенных элементов управления для защиты от плохого поведения, включая фильтр содержимого и систему, в которой модераторы просматривают изображения, видео и аудио файлы перед их загрузкой на сайт Roblox. Он также предлагает родительский контроль, который позволяет родителям решать, кто может общаться со своими детьми, или возможность отключить чат. И родители могут запретить детям младше 13 лет доступ к чему-либо, кроме кураторского списка соответствующих возрасту игр.
Тем не менее, Roblox также переводит некоторые из своих старых игр, созданных пользователями, на более новую, более безопасную систему. Взломанная игра была одной из нескольких, которые могли быть использованы подобным образом.
После инцидента Roblox заставил своих разработчиков удалить все другие потенциально уязвимые игры и попросить их создателей перенести их на более новую, более укрепленную систему. Большинство так и сделали, и те, кто еще не увидит их игры, могут вернуться в онлайн, пока это не произойдет. Игры, которые сейчас онлайн, не подвержены уязвимости, которую использует хакер.
Компания быстро отреагировала, чтобы принять меры, в том числе отключить игру, запретить игрока и связаться с матерью, которая с тех пор согласилась помочь Roblox рассказать другим о мерах предосторожности, которые родители могут использовать для дальнейшей защиты детей в Roblox. ,
Но этот инцидент поднимает вопрос о том, должны ли дети играть в такие массовые многопользовательские игры в таком молодом возрасте.
К сожалению, Роблок не удивлен, что кто-то заинтересовался таким взломом.
На самом деле, на YouTube полно видео о взломах и подвигах Roblox. Компания отправляет запросы на удаление YouTube, когда подобные видео публикуются, но YouTube принимает меры только по части запросов. (У YouTube есть свои проблемы с модерацией контента.)
Давно пора иметь реальные последствия для нападок в игре, которые могут иметь длительные психологические последствия для жертв, когда жертвами становятся дети.
Roblox, со своей стороны, активно участвует в дискуссиях о том, что можно сделать, но проблема сложная. COPPA законы запрещают Roblox собирать данные о своих пользователях, включая их личную информацию, потому что закон предназначен для защиты конфиденциальности детей. Но обратная сторона этого в том, что Roblox не может выслеживать таких хакеров, как этот.
«Я думаю, что мы не единственные, кто размышляет над проблемами этого. Я думаю, что каждая компания, занимающаяся платформой, борется с одним и тем же », - говорит Тами Бхаумик, руководитель отдела маркетинга и общественной безопасности в Roblox.
«Мы являемся членами Семейный интернет-институт безопасности Это более 30 компаний, которые делятся лучшими практиками в области цифрового гражданства и безопасности детей, и все это », - продолжает она. «И это постоянная тема для разговоров, которую мы все имеем - с точки зрения того, как мы используем технологии, как мы используем ИИ и машинное обучение? Работаем ли мы с компаниями-эмитентами кредитных карт, чтобы попытаться проверить [пользователей]? Как нам избежать нарушения правил COPPA? », - говорит Баумик.
«Проблема очень сложная, и я не думаю, что кто-либо из участников уже решил ее», - добавляет она.
Одним из решений может быть принуждение родителей зарегистрировать своих детей и добавить кредитную карту, которая останется незаряженной, если дети не нарушат правила.
Это может в некоторой степени сдерживать рост пользователей - блокирование недостаточно обслуживаемых банков, тех, кто не решается использовать свои кредитные карты в Интернете, и тех, кто просто не доверяет игровым компаниям и нежелательным платежам. Это означало бы, что дети не могут просто загрузить приложение и играть.
Но у Roblox есть импульс и масштаб, чтобы запереть вещи. Существует достаточно спроса на игру, чтобы она могла создать больше барьеров для входа, если бы захотела, чтобы улучшить защиту пользователей. В конце концов, если бы игроки знали, что они будут оштрафованы (или их родители будут), было бы менее привлекательным нарушать правила.
«И это постоянная тема для разговоров, которую мы все имеем - с точки зрения того, как мы используем технологии, как мы используем ИИ и машинное обучение?Работаем ли мы с компаниями-эмитентами кредитных карт, чтобы попытаться проверить [пользователей]?
Как нам избежать нарушения правил COPPA?