Microsoft представила результаты масштабного исследования по выявлению ИИ-сгенерированного и изменённого цифрового контента. Команда по безопасности искусственного интеллекта протестировала более 60 комбинаций методов — от цифровых водяных знаков и расширенных метаданных до «математических отпечатков», позволяющих установить источник файла. Цель — создать техническую основу для прозрачного указания происхождения материалов.
Исследование показало: универсального способа защиты не существует. Некоторые методы устойчивы даже к попыткам скрыть ИИ-происхождение через редактирование или маскировку, другие могут работать некорректно при неправильном применении. Microsoft предложила оптимальные стандарты, пригодные для внедрения крупными платформами.
Работа стала особенно актуальной в связи с калифорнийским AI Transparency Act, который вступит в силу летом. Компания участвовала в обсуждении требований, однако пока не объявила о полном внедрении стандартов в своих сервисах, включая Copilot, Azure и LinkedIn.
Microsoft подчёркивает: задача технологии — не устанавливать достоверность информации, а фиксировать факт манипуляции и происхождение контента. Если индустрия сумеет договориться о единых стандартах, цифровая среда может стать более предсказуемой и устойчивой. Пусть, не идеально честной, но более понятной. А это уже серьёзный шаг вперёд.
