Roblox вместе с сообществом ROOST выпустила три инструмента безопасности ИИ — обновлённый PII Classifier, Roblox Sentinel и последнюю версию voice safety classifier, а также новый набор оценочных данных для проверки собственных классификаторов. Все три модели уже используются на платформе Roblox. Отдельно компания опубликовала и датасет для PII Classifier: в нём собраны синтетические англоязычные чаты нескольких пользователей, сымитированные по образцу приёмов, которыми обычно обходят фильтры персональных данных.
Игра Roblox Аркада, Экшен, Онлайн, MMO, Платформер, Вид от третьего лица, Кооператив (co-op) 26 мая 2011 PC, Mac, iOS, Android, Xbox One, PlayStation 5, PlayStation 4, Xbox Series X/S Игроки 6.9/10 Все новости Roblox
Roblox Sentinel выявляет ранние признаки возможной угрозы безопасности ребёнка. Последняя версия voice safety classifier модерирует голосовой чат в реальном времени и учитывает отзывы сообщества ROOST. Новый набор данных для оценки поддерживает модерацию на 30 языках и по восьми категориям нарушений.
Voice safety classifier
Вице-президент по безопасности Нарен Конеру (Naren Koneru) считает, что публикация моделей поможет и другим площадкам.
Предоставление этих моделей даёт другим платформам надёжную отправную точку для обучения и настройки собственных инструментов модерации. В ответ мы надеемся получить пользу из наработок и обратной связи других компаний по мере того, как они делятся своей работой.
— Нарен Конеру, вице-президент по по безопасности
ROOST — независимая некоммерческая организация, которая развивает и поддерживает open-source-инфраструктуру для онлайн-безопасности. Roblox стала сооснователем сообщества в 2025 году вместе с Google, OpenAI и Discord.
Как вам кажется, Roblox действительно помогает индустрии, или это попытка смягчить давление со стороны Сената США?