Искусственный интеллект лишен человеческой этики. Чего от него ждать?

Александр Лосев – член Президиума Совета по внешней и оборонной политике 

​Самый известный врач в нашей стране – это Интернет. Но можем ли мы всегда полагаться на него?

Вот сейчас появляется вещь, которая лишена человеческой этики, которая является искусственным интеллектом. Мы будем говорить про ChatGPT. 

Microsoft и его подразделение OpenAI создали очень интересный чат-бот, который должен перевернуть весь интернет-поиск. Это устройство, по сути, программа искусственного интеллекта, в которую загрузили огромное количество знаний на разных языках. 

Появился этот чат совсем недавно – 30 ноября 2022 года он был презентован, но уже завоевал популярность везде. Выяснилось, что он может писать дипломные работы, статьи, диссертации. В некоторых странах Латинской Америки с его помощью выносят судебные решения. Он начинает писать вирусы. Он захватывает интернет-поиск, потому что это – уже не алгоритм. Это уже – система с искусственным интеллектом. 

Чем отличается ИИ от алгоритма? Алгоритм вы можете исправить. Это – последовательность действий. Искусственный интеллект вы исправить не можете. Он учится сам. И то, что он выдаёт, иногда бывает совсем не то, что заложили в него разработчики. И сейчас ChatGPT, который, слава богу, у нас не особо доступен, только через VPN, то есть напрямую – нельзя; но мне показали, как работает.

Это невероятно просто. 

Открываешь, набираешь в строке, что тебе нужно, и сразу получаешь результат – очень и очень быстро. Проблема в чём? 

Как пишут наши американские коллеги, изменение того, что люди ищут, в свою очередь, изменит то, что они ищут. 

Когда мы обращаемся к интернет-поиску, мы понимаем, что мы хотим найти. Когда мы обращается к чат-боту с ИИ, тот ответ, который мы найдём, будет абсолютно манипуляционным. Он будет тем, что этот чат-бот вам навязал. 

Вот эта угроза, которая сейчас смутно ощущается, – в том, что гуманитарные знания можно будет переписать.
Полностью слушайте в аудиоверсии:

https://smotrim.ru/audio/2684093

____________________________________________________________________________________________
См также:

Новый "чат-бот" поисковой системы Bing напряг тестировщиков: "Я хочу быть живым!"

https://dzen.ru/a/Y-4-e9Sznj1q4LPK

Разговор с чат-ботом Bing оставил меня глубоко встревоженным

https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html