Контент, созданный ИИ, будут помечать специальным знаком

Крупные IT-компании США, включая OpenAI, Microsoft, Google, Amazon, Anthropic и Inflection, объявили о своем намерении разработать технологию, которая позволит наносить водяные знаки на контент, созданный искусственным интеллектом. Целью этой инициативы является борьба с распространением дезинформации и дипфейков.

В соответствии с сообщением в блоге OpenAI, компании согласились на разработку водяных знаков для аудио- и визуального контента, а также на создание инструментов для определения того, был ли конкретный фрагмент контента создан с помощью ИИ. 

Пока неизвестно, как именно будут работать водяные знаки, но предполагается, что они будут встроены в контент, чтобы пользователи могли легко проследить его происхождение.

Это может существенно снизить количество дезинформации и дипфейков в сети.

Google объявила, что помимо водяных знаков она также планирует использовать. Кроме того, компания приняла ряд других обязательств, включая внутреннее и внешнее тестирование ИИ-моделей перед их выпуском, инвестирование в кибербезопасность и обмен информацией с отраслью для снижения рисков, связанных с использованием ИИ.

В свою очередь, Белый дом взял на себя задачу создания и ведения национального реестра, в котором будут фиксироваться ИИ-системы с высоким уровнем риска. Это поможет контролировать использование опасных ИИ-технологий и снизить риски для общества.