OpenAI создала инструмент для определения ИИ-изображений

На модерации Отложенный

Создатели чат-бота ChatGPT запустили инструмент, который позволяет определить, было изображение сгенерировано нейросетью или создано человеком, сообщает Reuters.

Отмечается, что на данном этапе решение «видит» лишь изображения, созданные генеративной нейросетью DALL-E 3. Точность определения — 98%, правда, изменения в изображении могут исказить результат. Например, если картинку обрезали, использовали ее скриншот или отредактировали цвет.

Чтобы закрыть эти «пробелы», OpenAI дала доступ к системе сторонним исследователям.

Путаница с реальностью и фейками — одна из основных проблем феномена генеративного ИИ. По словам разработчиков, отличить сгенерированное изображение сейчас проще, чем сгенерированный текст. При этом именно фейковые изображения представляют более серьезную угрозу. Например, их используют для дискредитации публичных персон, создавая неприглядные фейковые фото с их лицами.