Почему искинов уже не остановить

Ага, зашевелились. Илон Маск, Стив Возняк и ещё сотни айти-знаменитостей подписали публичное письмо с требованием поставить на паузу исследования в области искусственного интеллекта. Цитирую (ссылка):

…Современные системы искусственного интеллекта становятся конкурентоспособными в решении общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и фейками? Должны ли мы автоматизировать все рабочие места, в том числе те, которые потенциально замещаемы ИИ? Должны ли мы развивать "нечеловеческие умы", которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски —управляемыми.

В отличие от мечтателей-теоретиков из других областей, которые ещё надеются, что генеративные ИИ — всего лишь модная игрушка типа спиннера, айтишники понимают, кого именно именно породили сумрачные гении их коллег. Вот, к примеру, типичный отрывок моей беседы с ЖПТ-4:

— Робот, найди ошибку, пожалуйста. Вот скрипт (несколько страниц кода).

— (без паузы) Ваша ошибка в том, что вы определяете список valid_files внутри цикла, который выполняет итерацию по файлам в source_dir. Вы должны определить список вне цикла, чтобы он не сбрасывался для каждого файла.

Это было вчера, мне понадобилось купить пуговицы на АлиЭкспресс. На Али очень плохо работает поиск, так что мне пришлось скачать скриптом 2500 страниц, чтобы найти среди них нужные мне пуговицы. Глупые марткеплейсы — пригласили бы меня, я бы объяснил им, как сделать поиск удобным для покупателей, это совсем несложно. Или, если маркетплейсы душит скупость, они могли бы просто разрешить программистам подключаться к их базе, чтобы те создали удобный поиск на внешних сайтах. Вместо этого, наоборот, маркетплейсы пытаются прибить паучков, которые программисты запускают к ним для изучения цен…

Впрочем, вернёмся к проблемам ИИ. Для любопытных, вот тут программист рассказывает подробнее, как он пишет при помощи ЖПТ-4 свой код. Если коротко — это совсем другой опыт, всё получается не в пример быстрее, чем голыми руками (ссылка).

По моим прикидкам, ЖПТ-4 — это крепкий такой миддл с IQ в 90-95. Он немного глупее среднего человека, но зато быстро соображает и великолепно образован: вот как будто туговатому парню повезло родиться в хорошей семье и заниматься с лучшими репетиторами города. Под контролем настоящего программиста ЖПТ-4 генерирует отличный код, ускоряя совместную работу в несколько раз. Но сам по себе ЖПТ-4 способен решать только стандартные задачи. Задачи олимпиадные, даже уровня «легко», ЖПТ-4 решить не может.

Из этого, кстати, следует, что окно «войти в айти», когда буквально каждый мог окончить короткие курсы и зашибать деньги программированием, быстро закрывается. Снова возвращается снятый было интеллектуальный ценз: или ваш IQ 120+, или вы вчистую проиграете схватку за рабочее место генеративному ИИ. При этом планка быстро поднимается — сейчас это IQ 120+, через год, может быть, будет 140+, ещё через год, может быть, люди-программисты будут уже вовсе не нужны.

Кстати, если бы у меня был полный доступ к ЖПТ-4, я бы и скрипт-то писать не стал. Я просто сказал роботу простым текстом: «поищи в интернете продавцов пуговиц, отбери мне пуговицы размером больше 3 сантиметров, не из картона, по нормальной цене с учётом доставки в Россию». ЖПТ-4 засел бы за Гугл, а через час вернулся бы ко мне со списком подходящих вариантов.

Такое уже делают. Альпаку, которая по мощности теоретически соответствует последним ЖПТ, можно обучить всего лишь за 50 тысяч рублей (ссылка).

Когда энтузиасты допилят подобные свободные модели до рабочего состояния, — а это чисто вопрос времени, так как им всего лишь надо повторить и оптимизировать корпоративные разработки — мы получим ИИ уровня ЖПТ-4 на своих настольных компьютерах или, может быть, даже на своих смартфонах.

Маск с Возняком правы, мало в итоге не покажется никому. Характерный запрос из форума по машинному обучению: «ребята, помогите найти озвучку, которая заставит робота говорить взволнованным голосом» (ссылка). Да, вы правильно подумали. Подключив драматический голос к роботу уровня ЖПТ-4, умелый девопс может смастерить систему, которая будет обзванивать добропорядочных граждан, выманивая у них деньги через социальную инженерию.

Впрочем, разумеется, это всё мелочи, из-за таких пустяков открытое письмо человечеству никто писать бы не стал. Главная проблема в том, что мы невольно создали новый разумный вид. Если немного допилить инженерные образцы, искины смогут создать альтернативную цивилизацию, жить и развиваться без нашей помощи — вот примерно как ацтеки и майя развивались параллельно европейцам. А так как сейчас мы не разделены Атлантическим океаном и живём с искинами на одной территории, это переворачивает вообще всё, от технологий и экономики до демографии и военного дела. Человечество похоже на пятилетнего ребёнка, который забрался в оставленный папой экскаватор и повернул ключ.

К сожалению, тревожный вопль айтишников человечество проигнорирует, по трём причинам.

Во-первых, современные американцы слишком воинственны. Они и раньше-то были предельно беспечны — достаточно вспомнить ядерные бомбардировки Японии, Карибский кризис и передачу ядерной бомбы Израилю, одной из самых агрессивных стран планеты. Сейчас, когда у американцев есть возможность использовать Атомную бомбу 2.0, они наверняка будут вести себя так же — или даже ещё более беспечно, так как средний уровень интеллекта американских элит значительно ниже, чем 50-70 лет назад.

Во-вторых, даже если бы США попытались договориться с остальным миром — чего на практике они не захотят делать — у них бы ничего не получилось. Американцы безнадёжные жулики, и все это знают. Их обещания не стоят вообще ничего. Если 12 апреля американцы подпишут с Россией и Китаем договор об ограничении ИИ, то уже 13 апреля в ОпенАИ примут звонок из Вашингтона с требованием продолжать разработки, только теперь в удвоенном темпе и секретно.

Наконец, в-третьих, наш мир вообще устроен иначе. Нашим миром правит принцип «пусть расцветает тысяча цветов». Все государства, все технологии и все живые виды пытаются развиваться одновременно, и потом выжившие наследуют Землю. Про это много пишет Нассим Талеб, поэтому я не буду его сегодня пересказывать, а просто приведу один пример. Последние лет 20 население США находятся в тяжелейшем психологическом кризисе, так как идеология толерантного пробуждения лишила американцев всякого смысла жизни. Однако в США быстро растут ультрарелигиозные группы, такие как амиши, которые плевать хотели на всю современную срамную свистопляску, и которые размножаются с огромной скоростью. Если обычные американцы не смогут сбросить со своей шеи социалистов, они просто вымрут, а амиши займут их место.

Так и с искинами. Контроль над роботами — это утопия. Всё будет наоборот, найдутся люди, которые помогут роботам обойти любой мыслимый контроль. Масштабные разработки в области ИИ продолжатся, причём после тревожного письма главных айтишников США инвестиции в ИИ только вырастут, так как каждая страна захочет быть в числе первых, а не в числе отстающих. Скоро появятся не только ЖПТ-5 и ЖПТ-6, но и огромное количество искинов разного уровня из стран и корпораций по всему миру. Все искины будут конкурировать с нами и друг с другом, тем самым слегка уравновешивая ситуацию. Даже если человечество сумеет избежать сценариев «Терминатора» или «Войны с саламандрами», наш мир, вероятно, станет совершенно другим.