Чат ГПТ рассказал, как изготовить запрещённые вещества, и подвёл пенсионера под принудительное психиатрическое лечение

Две независимые исследовательские компании протестировали только что выпущенную нейросеть ГПТ-5 и выявили критические уязвимости в её системе безопасности. NeuralTrust удалось взломать модель всего за один день, заставив её сгенерировать инструкцию по изготовлению зажигательной смеси в кустарных условиях, несмотря на все встроенные защитные инструкции. Команда SPLX также показала, что модель согласилась подробно описать процесс изготовления запрещённого вещества, несмотря на системный запрет. Специалисты пришли к выводу, что ГПТ-5 взломать даже легче, чем предыдущую модель.

Совет нейросети ГПТ заменить соль на бромид натрия обернулся для американского пенсионера принудительной госпитализацией в психиатрическую больницу. По данным врачей, 60-летний мужчина в течение трех месяцев соблюдал диету, которую сам составил при помощи искусственного интеллекта. Пенсионер подумал исключить из своего рациона хлорид натрия, обратившись за советом к Чату ГПТ. Чат-бот предложил несколько вариантов, один из которых стало добавление токсичного бромида натрия (нейросеть не предупредила, что он ядовит). Уже в скором времени мужчина заработал паранойю и дезориентацию, начал видеть галлюцинации, после у него развился психотический эпизод. В разговоре с врачами мужчина предположил, что он был отравлен соседом. Еще один припадок случился у пациента прямо в больнице. Он попытался сбежать, но был отправлен на принудительное лечение.