Технические специалисты Activision отчитались об успехах в борьбе с “токсичным поведением” в голосовом чате с помощью искусственного интеллекта. Пост появился на официальном сайте Call of Duty 10 октября. Нейросеть в качестве модератора внедрили в серию игр в июне. В том числе актуальные на данный момент Modern Warfare 3 и Warzone. По словам представителей компании, благодаря этому число некорректных высказываний и ссор между игроками за лето заметно снизилось.
Главной функцией нейросети стало отслеживание и модерация случаев серьёзной “токсичности” со стороны игроков. Ей дали соответствующее название — ToxMod. Согласно отчёту, система определяет тон голоса, реакцию других игроков на высказывания “подозреваемого” в голосовом чате, серьёзность оскорблений и многое другое, чтобы отделить дружелюбную перепалку и подшучивание от реальных ссор и проявлений ненависти к остальным участникам матча. Если ругань и “токсичность” зафиксированы, ИИ высылает игроку предупреждение или направляет случай на дальнейшее рассмотрение реальной команде модерации, вместе с аналитическим отчётом. Кроме того, ToxMod старается определять возраст тех, кто разговаривает в чате. Слишком “детские” голоса становятся предметом отдельного разбирательства, но, если присутствующие в чате позволяют себе оскорблять потенциально несовершеннолетнего, то и наказание за нарушение правил поведения будет значительно выше.
Согласно статистике, 80% игроков, получивших предупреждения в июле, до сих пор не совершили повторных нарушений. Всего количество рецидивистов упало на 67% с момента внедрения системы. С начала года общее число нарушений, связанных с некорректным поведением в голосовом чате, упало на 43%.
В целом разработчики признали, что довольны полученными результатами. В связи с чем ToxMod перенесут и в Black Ops 6. Его запустят в день релиза, 25 октября, на ПК, PlayStation и Xbox. К этому моменту планируется, что система сможет распознавать английский, немецкий, французский, испанский и португальский языки. Узнайте о других событиях игровой индустрии на нашем новостном портале.
