Президент Microsoft Брэд Смит рассказал о том, как компания будет бороться с «оскорбительным контентом, созданным искусственным интеллектом». Он считает, что нейросети всё больше используются в повседневной жизни, а при отсутствии регулирования они могут стать новым инструментом для мошенничества, запугивания и шантажа.
Смит опубликовал шесть сфер, в которых Microsoft планирует обеспечивать безопасность генерируемого контента. В первую очередь компания будет и дальше разрабатывать детальные фильтры, которые запрещают создание противоречивых и оскорбительных материалов. Пользователей, нарушающих правила платформ, будут блокировать.
Вместе с этим Microsoft будет внедрять системы маркировки сгенерированного контента. Сейчас такие инструменты используются в Microsoft Designer, Bing и Copilot. Компания планирует расширить системы маркировки и идентификации на все свои ИИ-решения.
В будущем компания планирует сотрудничать с другими представителями сферы и правоохранителями. Кроме того, потребуется научить общество отличать сгенерированный контент от настоящего.
