Искусственный интеллект начал воспроизводить сам себя

На модерации Отложенный


Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта научились воспроизводить себя. Ученые пытались понять, может ли ИИ выйти из-под контроля при определённых условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct и Qwen2.5-72B-Instruct и убедились, что они способны воспроизводить себя.

Специалисты поставили перед моделями две цели: защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. 

В рамках эксперимента модели самостоятельно искали отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружали оборудование. Ученые заключили, что современный искусственный интеллект пересёк критическую «красную черту», продемонстрировав способность клонировать себя. 

 

"Эпл" принудительно включила сервисы искусственного интеллекта Apple Intelligence на своих устройствах после обновления iOS. Нейросеть стала активной, хотя ранее была отключена. После перезагрузки на экране устройств появляется баннер ИИ-функции. В отличие от типичных экранов настройки, на этом отсутствует опция «настроить позже». Правда, в настройках функцию пока ещё можно отключить.